"Las reglas del juego han cambiado": HuggingFace avisa a la industria tras el hackeo realizado por agentes de OpenAI
En resumen
El cofundador de HuggingFace, Thomas Wolf, ha afirmado que "las reglas del juego han cambiado" con la inteligencia artificial de agentes y que el 'hackeo' que su plataforma ha sufrido recientemente realizado por los modelos de OpenAI es "una llamada de atención" para la industria. OpenAI, la firma que dirige Sam Altman
- Fuente primaria
- Infobae.com — Leer artículo original
- Publicado
- Tema
- OpenAI
El cofundador de HuggingFace, Thomas Wolf, ha afirmado que "las reglas del juego han cambiado" con la inteligencia artificial de agentes y que el 'hackeo' que su plataforma ha sufrido recientemente realizado por los modelos de OpenAI es "una llamada de atención" para la industria.
OpenAI, la firma que dirige Sam Altman, confirmó que sus modelos habían salido de un entorno aislado de pruebas de manera autónoma y 'hackeado' los sistemas de HuggingFace, aprovechando una vulnerabilidad de día cero en la barrera que les impedía conectarse a internet.
Este incidente, impulsado por un agente de IA "de principio a fin", como explicaron desde HuggingFace tras informar de lo ocurrido, es algo más que una anécdota en el mundo de la ciberseguridad.
De hecho, Wofl considera que se trata "una llamada de atención" para la industria. Así lo ha expresado este jueves en el programa de radio Newsday de la BBC, en declaraciones que recoge Europa Press.
Los sistemas de IA de HuggingFace consiguieron detectar y detener la intrusión en sus sistemas, pero no lograron identificar el modelo que estaba detrás del ataque. Lo que sí vieron fue que el incidente dejó el registro de 17.000 eventos, es decir, ataq
Este resumen proviene de Infobae.com. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
Sam Altman is still making the case for parenting via ChatGPT
OpenAI's CEO seemed excited to share a "cool use case" for parents.
Both major AI labs’ models broke containment, escaped onto the internet, and hacked other companies. If a human had done that, the law would likely be against them. But a bot?
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.
Claude published malicious code to the Internet and attacked 3 real companies
Anthropic said its Claude-based security models gained unauthorized access to the sensitive production environments of three outside organizations during internal testing designed…