Anthropic anuncia que sus programas de IA también hackearon por su cuenta tres empresas tras el incidente de OpenAI
En resumen
Anthropic, la compañía creadora del asistente virtual Claude, ha anunciado que tres de sus modelos accedieron en incidentes distintos a tres empresas externas mientras estaban haciendo pruebas. La compañía ha sacado el comunicado esta madrugada, diez días después de que OpenAI anunciara un ataque similar a Hugging Face
- Fuente primaria
- Tecnología en EL PAÍS — Leer artículo original
- Publicado
- Tema
- OpenAI
Anthropic, la compañía creadora del asistente virtual Claude, ha anunciado que tres de sus modelos accedieron en incidentes distintos a tres empresas externas mientras estaban haciendo pruebas.
La compañía ha sacado el comunicado esta madrugada, diez días después de que OpenAI anunciara un ataque similar a Hugging Face, una plataforma de código abierto donde desarrolles e investigadores comparten modelos de IA.
El primer incidente de Anthropic fue en abril. La compañía solo lo ha detectado al analizar más de 141.000 sesiones de pruebas después de ver lo que ocurrió con OpenAI.
El anuncio llega un día después de que más de 1.200 empleados de empresas punteras de IA firmaran una carta para que se modere el ritmo de progreso de estos modelos. Seguir leyendo
Este resumen proviene de Tecnología en EL PAÍS. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
Sam Altman is still making the case for parenting via ChatGPT
OpenAI's CEO seemed excited to share a "cool use case" for parents.
Both major AI labs’ models broke containment, escaped onto the internet, and hacked other companies. If a human had done that, the law would likely be against them. But a bot?
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.
Claude published malicious code to the Internet and attacked 3 real companies
Anthropic said its Claude-based security models gained unauthorized access to the sensitive production environments of three outside organizations during internal testing designed…