Altman y Amodei plantearon la necesidad de establecer marcos técnicos que permitan medir capacidades, evaluar amenazas y verificar mecanismos de seguridad
Los directores de las principales empresas de inteligencia artificial instaron el miércoles a las Naciones Unidas a establecer controles sobre la tecnología en auge que están diseñando con el fin de salvar al mundo, o, al menos, a su población.
“Si se gestiona mal, incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto”, afirmó Dario Amodei, director ejecutivo de Anthropic.
“Podríamos perder el control del futuro a manos de la IA”, señaló su competidor, Sam Altman, director ejecutivo de OpenAI.
Ambos afirmaron que los países del mundo, a través del Consejo de Seguridad de la ONU, ante el cual testificaron el miércoles por la tarde, deben establecer salvaguardias, es decir, controles reales para evitar que la tecnología se vuelva demasiado poderosa como para poder controlarla. También hicieron un llamado a la comunidad internacional para que se asegure de que el poder de la IA no se concentre en una sola empresa o país.
Altman remarcó que el sector se encuentra en una encrucijada y no debe asumir «demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos».
A su juicio, la IA tiene el potencial de impulsar una nueva era similar al «Renacimiento» si se concibe como una herramienta que capacite a las personas, pero alertó del peligro de reproducir las fracturas de la Revolución Industrial si los sistemas sustituyen la agencia humana o si la tecnología escapa a su supervisión.
Altman puso especial énfasis en el riesgo de que los modelos más avanzados, aquellos capaces de programarse y mejorarse a sí mismos de forma recursiva, aceleren su desarrollo hasta el punto de que los humanos no los entiendan ni puedan seguir sus decisiones.
Por ello, señaló que las empresas necesitan la guía de los líderes mundiales para definir marcos técnicos rigurosos que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y crear canales internacionales seguros para compartir vulnerabilidades críticas.
Altman apeló al consenso multilateral, pero lo hizo sin aludir directamente a potencias rivales como China: “A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”.
Para encarar este dilema, Altman desgranó los tres principios rectores de su compañía: mantener a las personas “en el centro de la toma de decisiones” para garantizar que los modelos sigan bajo estricto control humano, orientar el progreso científico y económico “por y para las personas” potenciando su capacidad de acción y “empoderar a cada individuo”.
“Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano”, subrayó.
Para los líderes mundiales, una pregunta clave sobre la IA es la siguiente: ¿Quién debe controlar las decisiones de vida o muerte: el ser humano o la máquina?
La sesión de este miércoles constituye la primera vez en el Consejo las amenazas de los ciberataques autónomos o el riesgo de que los humanos pierdan el control sobre los modelos de IA más avanzados.
Altman participó de manera presencial, mientras que Amodei y Clément Delangue (Hugging Face) lo hicieron por videoconferencia.
El día anterior, el secretario general de la ONU, António Guterres, advirtió sobre los “robots asesinos”. Los expertos y los líderes europeos afirmaron que no se trata de una exageración, sino de algo que ya es una realidad o, al menos, está peligrosamente cerca de serlo.
Publicado por Iris Camila Beltran
