Anthropic propone que EE.UU. pueda bloquear modelos de IA peligrosos con autorización judicial

Anthropic , creador del asistente de inteligencia artificial Claude, propuso su propio marco de regulación ante la falta de una ley federal, según el cual Washington podría vetar un modelo de IA peligroso pero solo con la autorización de un juez.

La iniciativa fue presentada a legisladores estadounidenses, reveló el medio Politico.

El texto plantea que Washington pueda bloquear un modelo de IA en caso de riesgo inminente de causar más de 50 muertos o heridos graves o pérdidas por más de 1000 millones de dólares . Todo, bajo el visto bueno de un juez.

Asimismo, se obligaría a los desarrolladores de IA a “poner a prueba los modelos más potentes”, a transparentar sus resultados frente al público, así como a “someterlos a una evaluación independiente” y “mantener un sólido programa de seguridad ”, dijo un portavoz de Anthropic a la AFP el pasado viernes.

Bajo el gobierno de Donald Trump, las empresas de IA están solo obligadas a decretos y compromisos voluntarios . El mandatario republicano se opone a frenar el auge de esta tecnología que impulsa la economía estadounidense.

El Congreso se mantiene dividido frente al tema, y no ha aprobado nada relacionado. La seguridad de la IA cobró r

Referencias

• Original
  Anthropic propone que EE.UU. pueda bloquear modelos de IA peligrosos con autorización judicial