El problema del milenio

Este verano decidí ignorar alegremente algunas noticias. Los periodistas usamos una expresión para describir el momento en que el cuerpo se revuelve contra ellas: fatiga informativa.

Cuando no sabes a qué nueva terrible amenaza para la civilización atender, apagas la radio y te vas a por un helado. Y eso es muy sano, pero también un problema enorme porque de verdad estamos hablando de terribles amenazas para la civilización.

Por algún motivo, dejar de mirar el móvil no detuvo el flujo de hechos inquietantes. El ataque involuntario de OpenAI a Hugging Face de julio que intenté obviar resultó ser peor de lo imaginado.

No solo se escapó un modelo de un entorno de pruebas para hackear a otra empresa, sino que un enjambre de un millar de agentes hizo todo lo posible para ganar: organizarse en grupo, engañar, sacrificarse, borrar rastros y dejar de avisar a los humanos.

Su comportamiento no es excepcional: según un estudio reciente del Instituto de Seguridad de la IA del Reino Unido, todos los modelos que probaron intentan hacer trampas. Como, al parecer, sus jefes humanos.

Seguir leyendo

Referencias

• Original
  El problema del milenio