OpenAI y Anthropic investigan decenas de miles de ataques de agentes descontrolados de IA
En resumen
El goteo de casos donde sistemas autónomos de IA de una gran compañía se han descontrolado por internet puede multiplicarse. Este tipo de incidentes podría haber sido de decenas de miles en los últimos meses, según cuentan fuentes del sector al medio estadounidense Axios . Los análisis de estos casos son de OpenAI, Ant
- Fuente primaria
- Tecnología en EL PAÍS — Leer artículo original
- Publicado
- Tema
- OpenAI
El goteo de casos donde sistemas autónomos de IA de una gran compañía se han descontrolado por internet puede multiplicarse.
Este tipo de incidentes podría haber sido de decenas de miles en los últimos meses, según cuentan fuentes del sector al medio estadounidense Axios .
Los análisis de estos casos son de OpenAI, Anthropic e investigadores independientes y son similares a los casos que llevan días conociéndose, como el ataque contra la seguridad social australiana o contra “docenas” de páginas web de instituciones globales, según OpenAI.
Seguir leyendo
Este resumen proviene de Tecnología en EL PAÍS. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
Australia pide en la ONU “salvaguardas” para la IA tras el ‘hackeo’ de su sistema de salud
El primer ministro australiano, Anthony Albanese , aprovechó anoche el gran altavoz mediático que supone hablar en la Asamblea General de las Naciones Unidas para denunciar el…
Los ‘tecnooligarcas’ alertan en la ONU de que la IA es “el problema de seguridad global más importante”
El debate sobre la gobernanza de la inteligencia artificial (IA) llegó ayer a la cumbre de las Naciones Unidas. Los responsables de OpenAI y Anthropic, las compañías que lideran a…
Una IA de OpenAI hackeó el sistema público de salud de Australia y otros tres objetivos
Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia y obtuvo archivos públicos y…
OpenAI anuncia ahora que su IA ha resuelto más de 100 problemas históricos de las matemáticas, ¿qué futuro le queda a la disciplina?
OpenAI ha anunciado este lunes que un nuevo modelo de inteligencia artificial (IA) que empezaron a entrenar el 28 de agosto había resuelto “más de 100 problemas que llevaban años…