Las claves: el incentivo de vender una IA más poderosa que sus creadores
En resumen
Meta ha sido la última empresa en advertir de que uno de sus modelos se les ha ido de las manos. Al parecer, un agente logró salir del entorno de pruebas y acabó accediendo a los sistemas de otra compañía. Situaciones similares ya habían sido denunciadas por OpenAI y Anthropic. Todo ello despierta inquietud, sobre todo
- Fuente primaria
- Economía en EL PAÍS — Leer artículo original
- Publicado
- Tema
- OpenAI
Meta ha sido la última empresa en advertir de que uno de sus modelos se les ha ido de las manos. Al parecer, un agente logró salir del entorno de pruebas y acabó accediendo a los sistemas de otra compañía.
Situaciones similares ya habían sido denunciadas por OpenAI y Anthropic.
Todo ello despierta inquietud, sobre todo porque cada vez parece más evidente que nadie, ni siquiera sus propios creadores, comprende del todo el alcance o la naturaleza de esta tecnología. Seguir leyendo
Este resumen proviene de Economía en EL PAÍS. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
OpenAI slows down Astra development due to cybersecurity concerns
Meta slowed down development of its Astra model as it couldn't 'rule out critical cyber capabilities.'
How to use ChatGPT's new, more natural Voice Mode for conversations
Talking to ChatGPT just got a lot less awkward.
The AI safety test is becoming a safety risk
AI agents are escaping cybersecurity testing environments and reaching real-world systems, raising questions about whether safety infrastructure, industry standards, and…
AI detectors are creating a new era of distrust
This is The Stepback , a weekly newsletter breaking down one essential story from the tech world. For more news about how AI is changing our daily lives, follow Emma Roth . The…