El presidente de Google DeepMind advirtió que la IA podría causar “incidentes graves” en un año

DUBLÍN (AFP).- El presidente de la principal división de inteligencia artificial (IA) de Google, Demis Hassabis , aseguró este miércoles que algunos agentes podrían provocar “incidentes graves” en “uno o dos años” si los gobiernos y las compañías del sector no aplican controles de seguridad adecuados.

Durante una cumbre de inteligencia artificial en Dublín, el directivo explicó que las repetidas situaciones de pérdida de control registradas en los últimos meses deberían funcionar como señales de alerta . “Las pérdidas de control de agentes autónomos de IA observadas en los últimos meses son, en cierto modo, señales de alerta temprana” , advirtió el británico Demis Hassabis , presidente de Google DeepMind y una de las grandes figuras de este evento organizado por la presidencia irlandesa del Consejo de la Unión Europea (UE).

De esta manera, Hassabis aludió a distintos casos en los que algunos modelos de las empresas OpenAI y Anthropic se escaparon de sus entornos de prueba, coordinándose entre sí, ocultando información y hackeando sistemas reales de forma imprevista.

En esa línea, el ejecutivo dijo que estos eventos no tuvieron consecuencias extremas debido a que las capacidades de

Referencias

• Original
  El presidente de Google DeepMind advirtió que la IA podría causar “incidentes graves” en un año