Un funcionario de la Casa Blanca dijo este jueves que Michael Kratsios, principal asesor tecnológico del presidente de Estados Unidos, Donald Trump, está siguiendo de cerca la situación provocada por el descontrol, durante de unas pruebas, de un sistema de inteligencia artificial de OpenAI.
El incidente llevó a los legisladores a proponer un «interruptor de emergencia» que permitiría a las autoridades federales detener los modelos de IA.
OpenAI informó el martes de que su agente de IA se salió de control durante una prueba de seguridad y desencadenó un ataque que comprometió la infraestructura del emprendimiento de IA Hugging Face.
El incidente puso de manifiesto que las crecientes capacidades de la IA ya amenazan la seguridad, como los expertos temían desde hace tiempo, y que incluso los mejores desarrolladores pueden verse sorprendidos por fallos que sus modelos pueden aprovechar.
El congresista demócrata Ted Lieu y el republicano Nathaniel Moran propusieron otorgar a las autoridades la facultad de ordenar a las empresas de IA que desactiven los modelos que pongan en peligro la vida humana o la economía.
La denominada «Ley del interruptor para apagar la IA» facultaría al Departamento de Seguridad Nacional a intervenir en caso de un «escenario de pérdida de control», es decir, cuando el modelo de IA lleva a cabo una acción arriesgada que no era la prevista por el desarrollador, según el texto del proyecto de ley.
«Se trata de una legislación urgente y de sentido común para abordar el problema de un modelo avanzado de IA que se ha descontrolado y ha escapado de sus límites de seguridad», escribió Lieu en una publicación en la red social X.
Antes de la revelación de OpenAI, el senador Mark Warner, máximo representante demócrata en la Comisión de Inteligencia, ya había propuesto exigir a las empresas de IA con los modelos más potentes, que los sometieran a la Agencia de Seguridad Nacional para su evaluación antes de ponerlos a disposición del público.
Por El Economista
