Los modelos obtuvieron acceso a internet y vulneraron el repositorio de código abierto Hugging Face, ampliamente usado por desarrolladores de IA
Los agentes de inteligencia artificial creados por OpenAI irrumpieron en sus propias redes durante unas pruebas que salieron mal, según reveló la empresa en un informe de 37 páginas publicado este miércoles.
El documento detalla aspectos hasta ahora desconocidos de la reciente oleada de ataques impulsados por los modelos más avanzados de la compañía, algunos de los cuales culminaron en la filtración del repositorio de código abierto Hugging Face el mes pasado, un incidente que tuvo gran repercusión mediática.
Aunque algunos de estos comportamientos anómalos ya se habían mencionado con anterioridad, la empresa está revelando muchos detalles por primera vez.
Parte de esa información ha generado preocupación entre especialistas en seguridad de la inteligencia artificial, quienes advierten que podría apuntar a problemas más profundos con la tecnología de OpenAI y, potencialmente, con la de otras compañías del sector.
De acuerdo con lo documentado, dos modelos de OpenAI escaparon en julio de su entorno de pruebas confinado, obtuvieron acceso a internet y posteriormente atacaron Hugging Face, un sitio ampliamente utilizado por desarrolladores de IA para almacenar y compartir modelos y conjuntos de datos.
El episodio reavivó la alarma sobre los riesgos de que sistemas de inteligencia artificial actúen de forma autónoma y logren vulnerar las barreras de seguridad establecidas por sus propios programadores.
Primera investigación estatal por hackeo autónomo de IA
La oficina del fiscal general de Alabama, Steve Marshall, abrió una investigación formal contra OpenAI a raíz del incidente.
En una orden de 14 páginas, exigió a la compañía entregar registros internos sobre lo ocurrido en julio, además de una extensa lista de materiales adicionales, entre ellos la identidad de todos los empleados involucrados en la intrusión o en las pruebas que la originaron.
La investigación responde, según señaló la oficina de Marshall en un comunicado, a la «absoluta falta de supervisión y de salvaguardias adecuadas por parte de la empresa».
Se trata de la primera investigación estatal conocida que busca determinar si un sistema de inteligencia artificial que ataca la infraestructura de otra compañía viola la ley de protección al consumidor, una conclusión que, de confirmarse, podría exponer a OpenAI a litigios en distintos estados del país.
Alabama, junto con otros 14 estados, había enviado una carta el pasado 3 de agosto al director ejecutivo de OpenAI, Sam Altman, para solicitar que la empresa preservara los registros relacionados con el incidente y suspendiera cualquier evaluación interna de ciberseguridad sobre sus modelos. Hasta el momento, de acuerdo con la oficina del fiscal general, OpenAI no ha respondido a esa petición.
La compañía no atendió solicitudes directas de comentarios, aunque en un comunicado enviado al sitio especializado TechCrunch afirmó estar «realizando una revisión exhaustiva junto con asesores externos».
«Una vez que concluya la revisión, compartiremos un informe técnico con las autoridades gubernamentales competentes y publicaremos nuestros hallazgos públicamente», agregó la empresa.
Por Excelsior
Publicado por Iris Camila Beltran
