Reino Unido eleva la alerta tras descubrir conductas peligrosas de la IA de Anthropic y OpenAI: “Es el primer engaño dirigido a una persona real”
En resumen
Un sistema autónomo de inteligencia artificial (IA) creó falsas identidades para hacerse pasar por una persona e intentó manipular a humanos durante unas pruebas de seguridad hechas por el Instituto británico de Seguridad de la IA (AISI). Estos sistemas, llamados agentes, estaban impulsados por los dos modelos más avan
- Fuente primaria
- EL PAÍS: el periódico global — Leer artículo original
- Publicado
- Tema
- Mercados
Un sistema autónomo de inteligencia artificial (IA) creó falsas identidades para hacerse pasar por una persona e intentó manipular a humanos durante unas pruebas de seguridad hechas por el Instituto británico de Seguridad de la IA (AISI).
Estos sistemas, llamados agentes, estaban impulsados por los dos modelos más avanzados de Anthropic, el Mythos 5, y OpenAI, el GPT-5.6 Sol.
El organismo ejecutó 122 intentos de resolver unos escenarios de prueba y en 19 se detectaron acciones no permitidas: 17 las hizo Mythos 5 y solo 2 GPT-5.6 Sol.
Estos agentes de IA desobedecieron órdenes expresas de no efectuar estas acciones maliciosas por parte del organismo, que tiene acceso preferente para investigar con estos modelos de IA gracias a un acuerdo con las compañías. “Descubrimos que algunos de los agentes probados habían participado en actividades insistentes y potencialmente dañinas dirigidas hacia personas y organizaciones reales”, resume.
Seguir leyendo
Este resumen proviene de EL PAÍS: el periódico global. Lee el artículo completo en la fuente original.
Referencias
Más en Mercados
SpaceX cae un 13,6% por las cuentas y el fin del veto vendedor
La acción sufre por los agresivos planes de inversión. Hoy acaba el 'lock up' y empleados y antiguos accionistas pueden vender títulos. Leer
Indra, Santander, BBVA y ACS desafían el rally bursátil de 4 años
Los cuatro valores se disparan entre un 310% y un 476% en el rally que inició la Bolsa en 2023. Leer
Países Bajos respalda a Knot para suceder a Lagarde
Países Bajos ha respaldado a Klaas Knot para dirigir el Banco Central Europeo (BCE), mientras la carrera para suceder a Christine Lagarde se acerca a una fase decisiva. Leer
Inflación de 50.000% y los argumentos económicos de Milei para reformar la Carta Orgánica del BCRA
El gobierno de Javier Milei llevó al Congreso los argumentos económicos por los que considera “oportuna y necesaria” una reforma de la Carta Orgánica del Banco Central (BCRA). El…