Obsesión por el crecimiento rápido: la IA puede caer en el mismo error que las redes sociales
En resumen
Tras los reiterados fallos de seguridad en OpenAI y Anthropic —ambas empresas de inteligencia artificial han desarrollado agentes que terminaron hackeando sistemas externos—, los investigadores en seguridad de ambas compañías han anunciado su dimisión o han reconocido (¡por fin!) que la carrera desenfrenada por llevar
- Fuente primaria
- EL PAÍS: el periódico global — Leer artículo original
- Publicado
- Tema
- OpenAI
Tras los reiterados fallos de seguridad en OpenAI y Anthropic —ambas empresas de inteligencia artificial han desarrollado agentes que terminaron hackeando sistemas externos—, los investigadores en seguridad de ambas compañías han anunciado su dimisión o han reconocido (¡por fin!) que la carrera desenfrenada por llevar los límites de la inteligencia artificial cada vez más lejos es una irresponsabilidad.
Seguir leyendo
Este resumen proviene de EL PAÍS: el periódico global. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
OpenAI y Anthropic investigan decenas de miles de ataques de agentes descontrolados de IA
El goteo de casos donde sistemas autónomos de IA de una gran compañía se han descontrolado por internet puede multiplicarse. Este tipo de incidentes podría haber sido de decenas…
Australia pide en la ONU “salvaguardas” para la IA tras el ‘hackeo’ de su sistema de salud
El primer ministro australiano, Anthony Albanese , aprovechó anoche el gran altavoz mediático que supone hablar en la Asamblea General de las Naciones Unidas para denunciar el…
Los ‘tecnooligarcas’ alertan en la ONU de que la IA es “el problema de seguridad global más importante”
El debate sobre la gobernanza de la inteligencia artificial (IA) llegó ayer a la cumbre de las Naciones Unidas. Los responsables de OpenAI y Anthropic, las compañías que lideran a…
Una IA de OpenAI hackeó el sistema público de salud de Australia y otros tres objetivos
Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia y obtuvo archivos públicos y…