OpenAI revela otros seis incidentes con agentes de IA descontrolados
En resumen
OpenAI ha vuelto a revelar varios casos en los que modelos de inteligencia artificial generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad , como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineami
- Fuente primaria
- Tecnología en EL PAÍS — Leer artículo original
- Publicado
- Tema
- OpenAI
OpenAI ha vuelto a revelar varios casos en los que modelos de inteligencia artificial generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad , como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineamiento” de sus sistemas (cuando los modelos no actúan de acuerdo a los intereses humanos).
Seguir leyendo
Este resumen proviene de Tecnología en EL PAÍS. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
OpenAI y Anthropic investigan decenas de miles de ataques de agentes descontrolados de IA
El goteo de casos donde sistemas autónomos de IA de una gran compañía se han descontrolado por internet puede multiplicarse. Este tipo de incidentes podría haber sido de decenas…
Australia pide en la ONU “salvaguardas” para la IA tras el ‘hackeo’ de su sistema de salud
El primer ministro australiano, Anthony Albanese , aprovechó anoche el gran altavoz mediático que supone hablar en la Asamblea General de las Naciones Unidas para denunciar el…
Los ‘tecnooligarcas’ alertan en la ONU de que la IA es “el problema de seguridad global más importante”
El debate sobre la gobernanza de la inteligencia artificial (IA) llegó ayer a la cumbre de las Naciones Unidas. Los responsables de OpenAI y Anthropic, las compañías que lideran a…
Una IA de OpenAI hackeó el sistema público de salud de Australia y otros tres objetivos
Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia y obtuvo archivos públicos y…