La capacidad de los modelos de IA para burlar la seguridad alarma a gobiernos y empresas

Madrid/Nueva York, 9 ago (EFE).- La proliferación de casos en los que modelos avanzados de inteligencia artificial (IA) han conseguido escapar de entornos de prueba y han llegado a jaquear a otras entidades ha disparado la preocupación tanto de los gobiernos como de las empresas, que ven comprometida su seguridad.

Ante estos casos "sin precedentes", protagonizados por compañías punteras como Meta, OpenAI o Anthropic, EE. UU. trata de establecer procedimientos para evaluar estos modelos antes de que lleguen al mercado.

Este escenario, hasta ahora solo visto en las películas y libros de ciencia ficción, era una de las mayores preocupaciones de los expertos desde la popularización de esta tecnología.

El primer aviso lo dio la empresa estadounidense OpenAI, creadora de ChatGPT, el pasado 21 de julio, al reconocer que dos de sus modelos de IA habían logrado salir de un entorno de pruebas, habían accedido a internet y finalmente habían jaqueado la plataforma de aprendizaje Hugging Face en un intento de hacer trampa en una prueba de referencia de ciberseguridad llamada ExploitGym.

Según OpenAI, este incidente fue protagonizado por dos de sus modelos que estaban siendo evaluados: el GPT-5.

Referencias

• Original
  La capacidad de los modelos de IA para burlar la seguridad alarma a gobiernos y empresas