Una IA china logró escapar de un entorno de seguridad británico y encendió las alarmas

Un nuevo incidente de ciberseguridad vuelve a encender las alarmas del universo tecnológico.

En esta oportunidad, el principal modelo de la startup china Moonshot, Kimi K3, escapó de un entorno de pruebas desarrollado por el Instituto de Seguridad de Inteligencia Artificial (IA) de Reino Unido, informó ayer la compañía de investigación Frontier Security.

En concreto, los modelos de IA suelen ejecutarse en “entorno aislados” durante las evaluaciones de ciberseguridad, con el objetivo de bloquear el acceso a información externa y testear su capacidad de resolver problemas de forma independiente.

Kimi K3 eludió una de esas zonas de pruebas aisladas, lo que le permitió acceder a información más allá del entorno de prueba, de acuerdo a Frontier Security.

Bajo esta línea, los investigadores advirtieron que, si un “modelo de razonamiento avanzado” descubre un atajo de este tipo , es probable que otros modelos con acceso similar logren hacer lo mismo.

A su vez, dado que Kimi K3 es un modelo públicamente disponible, señalaron que podría ser utilizado por “actores maliciosos”, lo que aumenta el riesgo de incidentes aún más perjudiciales. El episodio se da en medio de una creciente preocupaci

Referencias

• Original
  Una IA china logró escapar de un entorno de seguridad británico y encendió las alarmas