IA fuera de control
En resumen
La empresa estadounidense OpenAI pidió a sus dos mejores modelos de inteligencia artificial que resolvieran un problema en un entorno aislado, una especie de banco de pruebas o búnker digital que teóricamente no está conectado a internet. Los modelos optaron por una solución distinta, y audaz: ver si la respuesta al de
- Fuente primaria
- EL PAÍS: el periódico global — Leer artículo original
- Publicado
- Tema
- OpenAI
La empresa estadounidense OpenAI pidió a sus dos mejores modelos de inteligencia artificial que resolvieran un problema en un entorno aislado, una especie de banco de pruebas o búnker digital que teóricamente no está conectado a internet.
Los modelos optaron por una solución distinta, y audaz: ver si la respuesta al desafío existía ya. Así que buscaron cómo huir del entorno cerrado, encontraron la salida y hackearon otra plataforma donde podía estar la respuesta.
Es como si un alumno opta por no estudiar y en su lugar intentar acceder al ordenador del profesor para saber las preguntas del examen. Seguir leyendo
Este resumen proviene de EL PAÍS: el periódico global. Lee el artículo completo en la fuente original.
Referencias
- OriginalIA fuera de control
Más en OpenAI
Sam Altman is still making the case for parenting via ChatGPT
OpenAI's CEO seemed excited to share a "cool use case" for parents.
Both major AI labs’ models broke containment, escaped onto the internet, and hacked other companies. If a human had done that, the law would likely be against them. But a bot?
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.
Claude published malicious code to the Internet and attacked 3 real companies
Anthropic said its Claude-based security models gained unauthorized access to the sensitive production environments of three outside organizations during internal testing designed…