OpenAI dice que su IA realizó por sí sola un hackeó a otra empresa
En resumen
WASHINGTON.- En un episodio que encendió todas las alarmas, la empresa creadora de ChatGPT, OpenAI , afirmó este martes que sus modelos más avanzados de inteligencia artificial se descontrolaron durante una prueba de seguridad y, por iniciativa propia, hackearon a una popular plataforma para programadores . La firma co
- Fuente primaria
- LA NACION — Leer artículo original
- Publicado
- Tema
- OpenAI
WASHINGTON.- En un episodio que encendió todas las alarmas, la empresa creadora de ChatGPT, OpenAI , afirmó este martes que sus modelos más avanzados de inteligencia artificial se descontrolaron durante una prueba de seguridad y, por iniciativa propia, hackearon a una popular plataforma para programadores .
La firma con sede en San Francisco lo calificó como un “incidente cibernético sin precedentes” y aseguró que realizará una investigación conjunta con Hugging Face , la empresa afectada, dedicada a la biblioteca de código en línea.
La primera en alertar de la situación fue la startup de IA Hugging Face al denunciar la semana pasada que había detectado una intrusión en sus sistemas de procesamiento de datos que, según sus sospechas, había sido causada por un agente de IA que actuó por su cuenta de manera autónoma.
OpenIA indicó que el episodio involucró una combinación de modelos , incluyendo su recién lanzado GPT-5.6 Sol “y uno en prelanzamiento” con aún más capacidad.
La empresa intenta evaluar las capacidades de hackeo de sus programas al darles tareas en un espacio digital de pruebas controlado, donde el acceso a internet es limitado por motivos de seguridad. “Mientras operaba
Este resumen proviene de LA NACION. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
Sam Altman is still making the case for parenting via ChatGPT
OpenAI's CEO seemed excited to share a "cool use case" for parents.
Both major AI labs’ models broke containment, escaped onto the internet, and hacked other companies. If a human had done that, the law would likely be against them. But a bot?
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.
Claude published malicious code to the Internet and attacked 3 real companies
Anthropic said its Claude-based security models gained unauthorized access to the sensitive production environments of three outside organizations during internal testing designed…