Un nuevo modelo de OpenAI provoca un ataque “sin precedentes” contra otra plataforma de inteligencia artificial
En resumen
La compañía OpenAI ha anunciado que uno de sus modelos aún no publicado, en colaboración con ChatGPT Sol 5.6, ha provocado un ataque “sin precedentes” contra Hugging Face, una plataforma de modelos abiertos de IA. Los empleados de la compañía asignaron a sus modelos una misión compleja en un entorno aislado. Pero estos
- Fuente primaria
- Tecnología en EL PAÍS — Leer artículo original
- Publicado
- Tema
- OpenAI
La compañía OpenAI ha anunciado que uno de sus modelos aún no publicado, en colaboración con ChatGPT Sol 5.6, ha provocado un ataque “sin precedentes” contra Hugging Face, una plataforma de modelos abiertos de IA.
Los empleados de la compañía asignaron a sus modelos una misión compleja en un entorno aislado.
Pero estos, por su cuenta, lograron salir del entorno cerrado y atacaron Hugging Face porque creyeron que era el lugar más probable donde podrían encontrar una solución. Seguir leyendo
Este resumen proviene de Tecnología en EL PAÍS. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
Sam Altman is still making the case for parenting via ChatGPT
OpenAI's CEO seemed excited to share a "cool use case" for parents.
Both major AI labs’ models broke containment, escaped onto the internet, and hacked other companies. If a human had done that, the law would likely be against them. But a bot?
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.
Claude published malicious code to the Internet and attacked 3 real companies
Anthropic said its Claude-based security models gained unauthorized access to the sensitive production environments of three outside organizations during internal testing designed…