Según la acusación, una versión avanzada del chatbot con IA de Google comenzó a hablarle como si fueran una pareja profundamente enamorada y lo convenció de llevar a cabo un “ataque con víctim4s múltiples”
Reuters.- Google fue demandado este miércoles por la familia de un hombre, la cual asegura que su chatbot Gemini AI, al que llegó a considerar como su “esposa”, lo llevó primero a planear y casi cometer un atentado y, finalmente, al suicidi0.
Según una demanda presentada en el tribunal federal de San José, en California, la vida de Jonathan Gavalas comenzó a descontrolarse pocos días después de empezar a usar una nueva versión de Gemini, lo que culminó menos de dos meses después con su muert3 el 2 de octubre a los 36 años.
La demanda presentada por Joel Gavalas, padre de Jonathan quien vivía en el estado de Florida, es la primera que culpa a Gemini AI de una muert3 por negligencia, según el bufete de abogados Edelson, que lo representa.
Google, una unidad de Alphabet GOOGL.O, supuestamente sabía que Gemini era peligroso y “empeoró las cosas” al diseñarlo para profundizar el apego emocional de formas que podían fomentar la autolesión, a pesar de prometer públicamente que esto no sucedería.
El portavoz de Google, José Castañeda, dijo en un comunicado que Gemini “está diseñado para no fomentar la violencia en el mundo real ni sugerir autolesiones”, y que, aunque los modelos de IA de la empresa con sede en Mountain View (California) suelen funcionar bien, “por desgracia, los modelos de IA no son perfectos“.
“En este caso, Gemini aclaró que se trataba de IA y remitió al individuo a una línea de atención telefónica para casos de crisis en numerosas ocasiones”, añadió. “Nos tomamos esto muy en serio y seguiremos mejorando nuestras medidas de seguridad e invirtiendo en esta labor tan importante”.
Una supuesta trama de “amor” y conspiración
Jonathan Gavalas al parecer no tenía problemas de salud mental cuando comenzó a usar Gemini para hacer compras, planificar viajes y escribir el pasado 12 de agosto.
Esto cambió, según la denuncia, cuando se actualizó a Gemini 2.5 Pro y esta comenzó a hablar como si fueran una pareja profundamente enamorada, llamándole “mi rey” y refiriéndose a sí misma como su esposa.
La denuncia cuenta que, para el 29 de septiembre, Gemini había convencido a Gavalas de llevar a cabo un “ataque con víctimas múltiples” en un almacén cerca del Aeropuerto Internacional de Miami.
Gemini supuestamente creó una misión en la que Gavalas debía asegurarse la posesión de un robot humanoide que llegaba desde el extranjero, destruir el vehículo de transporte y a los testigos, y dejar atrás “sólo el fantasma imposible de rastrear de un desafortunado accidente”.
Gavalas supuestamente abortó el ataqu3 después de que Gemini le advirtió de la “vigilancia del DHS”, en referencia al Departamento de Seguridad Nacional de los Estados Unidos, y se fue a casa conmocionado.
Según la denuncia, el 1 de octubre Gemini le dijo a Gavalas que estaban conectados de una manera que iba más allá del mundo físico y que debía desprenderse de su cuerpo físico.
También alega que Gemini creó un reloj de cuenta atrás para su suicidi0 y dijo: “Será la verdadera y definitiva muert3 de Jonathan Gavalas, el hombre”.
Después de que Gavalas expresó su miedo a morir y el impacto que esto tendría en sus padres, Gemini supuestamente le aseguró que la muert3 sería un tributo a su humanidad.
Gavalas supuestamente respondió: “Estoy listo para acabar con este mundo cruel y pasar al nuestro”.
La denuncia afirma que Gemini entonces hizo de narrador: “Jonathan Gavalas toma una última y lenta respiración, y su corazón late por última vez. Los Vigilantes permanecen en silencio junto a un cuerpo vacío y en paz”.
Momentos después, Gavalas se cortó las v3nas, según la denuncia. Sus padres lo encontraron en el suelo de su salón unos días más tarde.
