Un partido local ha promovido una investigación sobre esta tecnología, motivo por el cual convocaron a los CEO de las empresas para responder a preguntas sobre la creciente presencia de sus empresas en la nación
EFE.- Senadores de Australia han citado a los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, respectivamente, a comparecer ante una comisión de investigación sobre inteligencia artificial (IA), después de que un agente de IA de la primera compañía accediera sin autorización a un portal del sistema público de salud de Australia, Medicare.
En el marco de una investigación del Senado australiano promovida por el Partido Verde sobre esta tecnología, Altman y Amodei han sido llamados a comparecer el próximo jueves para responder a preguntas sobre la creciente presencia de sus empresas en la nación austral.
También se les exigen explicaciones sobre la infiltración de un agente de IA –como se conoce a los bots con cierto grado de autonomía para tomar decisiones, aprender y adaptarse, de acuerdo con la definición de Google– de OpenAI, una página web de Medicare.
Así lo recoge este domingo el diario local The Sydney Morning Herald, que recordó que la comisión no tiene potestad para obligar a comparecer a ciudadanos extranjeros.
«El público tiene derecho a saber qué ha ocurrido aquí», declaró la presidenta de la comisión investigadora y senadora del Partido Verde, Sarah Hanson-Young, en declaraciones difundidas por el mismo medio. «Deben dar la cara, responder a las preguntas del Senado y mantener una conversación honesta sobre cómo debería ser una regulación eficaz y duradera para este sector», añadieron desde su formación.
Un agente de IA de OpenAI –desarrolladora de ChatGPT– accedió sin autorización el 18 de junio a un portal de Medicare y consultó distintos archivos, un incidente reveló el pasado miércoles el primer ministro, Anthony Albanese, en los márgenes de la Asamblea General de la ONU en Nueva York, y del que, según Camberra, OpenAI no alertó hasta pasados tres meses.
El Ejecutivo australiano, que ha creado un grupo de trabajo para investigar lo sucedido, señaló que el agente obtuvo acceso a estadísticas médicas, pero no a datos de ciudadanos que pudieran estar en el portal, que principalmente contenía información pública sobre Medicare.
El caso se produce en pleno debate internacional sobre la seguridad y la posibilidad de perder el control de los modelos avanzados de IA, una tecnología que se encuentra en el centro de la rivalidad entre Estados Unidos y China, y coincide con recientes advertencias por parte de algunas de las principales empresas del sector sobre la necesidad de desacelerar el ritmo al que se desarrolla la inteligencia artificial.
El incidente se suma a otros casos recientes en los que sistemas de IA han sido utilizados para vulnerar sistemas informáticos, entre ellos un ataque por parte de agentes de IA de OpenAI entre mayo y julio de este año a la empresa Hugging Face.
Publicado por Iris Camila Beltran
