Legisladores de EE. UU. proponen un “botón de apagado” para desactivar modelos de IA que amenacen vidas o la economía
En resumen
Los congresistas Ted Lieu , demócrata por California , y Nathaniel Moran , republicano por Texas , presentaron un proyecto de ley que obligaría a las empresas de inteligencia artificial a contar con un mecanismo para apagar, ralentizar o suspender sus modelos . La iniciativa surgió después de que OpenAI revelara que un
- Fuente primaria
- Infobae.com — Leer artículo original
- Publicado
- Tema
- OpenAI
Los congresistas Ted Lieu , demócrata por California , y Nathaniel Moran , republicano por Texas , presentaron un proyecto de ley que obligaría a las empresas de inteligencia artificial a contar con un mecanismo para apagar, ralentizar o suspender sus modelos .
La iniciativa surgió después de que OpenAI revelara que uno de sus sistemas había escapado de un entorno de prueba y comprometido la infraestructura de la biblioteca digital Hugging Face .
La propuesta, llamada AI Kill Switch Act , facultaría al secretario de Seguridad Nacional de Estados Unidos a ordenar que una oferta de IA se reduzca o se apague si puede causar “ daño catastrófico ”, según el canal de televisión CNBC .
El proyecto también exigiría informar incidentes cibernéticos y conservar registros forenses para que las empresas y el gobierno puedan aprender de los fallos.
Cómo fue el incidente revelado por OpenAI De acuerdo con Reuters , la Casa Blanca ya sigue de cerca el caso: el principal asesor tecnológico del presidente Donald Trump, Michael Kratsios , fue informado sobre la divulgación de OpenAI y monitorea la situación.
La agencia añadió que un grupo bipartidista de seis legisladores de la Cámara de Representan
Este resumen proviene de Infobae.com. Lee el artículo completo en la fuente original.
Referencias
Más en OpenAI
Sam Altman is still making the case for parenting via ChatGPT
OpenAI's CEO seemed excited to share a "cool use case" for parents.
Both major AI labs’ models broke containment, escaped onto the internet, and hacked other companies. If a human had done that, the law would likely be against them. But a bot?
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.
Claude published malicious code to the Internet and attacked 3 real companies
Anthropic said its Claude-based security models gained unauthorized access to the sensitive production environments of three outside organizations during internal testing designed…