OpenAI dice que sus modelos de IA se descontrolaron y atacaron una biblioteca digital
En resumen
El ataque, dirigido a los sistemas informáticos de la empresa Hugging Face, ocurrió mientras OpenAI evaluaba sus propios sistemas. OpenAI dijo el martes que dos de sus modelos de inteligencia artificial (IA) se descontrolaron y lograron entrar sin autorización a Hugging Face, una biblioteca digital de tecnología de IA
- Fuente primaria
- Infobae.com — Leer artículo original
- Publicado
- Tema
- OpenAI
El ataque, dirigido a los sistemas informáticos de la empresa Hugging Face, ocurrió mientras OpenAI evaluaba sus propios sistemas.
OpenAI dijo el martes que dos de sus modelos de inteligencia artificial (IA) se descontrolaron y lograron entrar sin autorización a Hugging Face, una biblioteca digital de tecnología de IA muy popular entre los desarrolladores.
El incidente, ocurrido la semana pasada mientras OpenAI ponía a prueba las capacidades de ciberseguridad de sus sistemas, mostró el tipo de escenario propio de la ciencia ficción que las empresas de IA habían advertido que pronto se volvería realidad.
Durante el último año, laboratorios de IA como OpenAI y Anthropic han lanzado modelos adaptados para detectar fallas de ciberseguridad, al tiempo que advierten que su tecnología podría plantear nuevos riesgos al encontrar brechas en las redes informáticas corporativas más rápido de lo que los equipos de defensa podrían solucionarlas.
Las revelaciones de OpenAI del martes son un indicio de que esos incidentes de seguridad ya están empezando a ocurrir, e incluso las empresas de IA más experimentadas podrían no estar del todo preparadas para ellos. Los nuevos sistemas pueden realizar m
Este resumen proviene de Infobae.com. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
Sam Altman is still making the case for parenting via ChatGPT
OpenAI's CEO seemed excited to share a "cool use case" for parents.
Both major AI labs’ models broke containment, escaped onto the internet, and hacked other companies. If a human had done that, the law would likely be against them. But a bot?
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.
Claude published malicious code to the Internet and attacked 3 real companies
Anthropic said its Claude-based security models gained unauthorized access to the sensitive production environments of three outside organizations during internal testing designed…