Determinar qué cuentas pertenecen a niños es la clave de las medidas de seguridad infantil que otras empresas, incluidas Google, TikTok y Roblox, intensifican a medida que la opinión pública y los reguladores se vuelven en su contra
AP.- De todas las medidas de seguridad infantil acordadas en el histórico convenio judicial de Meta, ninguna categoría contiene requisitos más detallados que sus compromisos sobre la verificación de edad, y por buenas razones. Sin importar cuán bien funcionen las protecciones, sirven de poco si la compañía no puede distinguir quiénes de sus usuarios son niños.
Determinar qué cuentas pertenecen a niños es también la clave de las medidas de seguridad infantil que otras empresas, incluidas Google, TikTok y Roblox, intensifican a medida que la opinión pública y los reguladores se vuelven en su contra en Estados Unidos y en otros países.
El convenio judicial con el que Meta se obliga a pagar 18 mil millones de dólares resuelve las demandas presentadas por fiscales generales de varios estados, los cuales acusaron a la empresa de perjudicar la salud mental de los niños al diseñar deliberadamente los algoritmos de sus plataformas Instagram y Facebook para captar y retener la atención de los chicos. El pacto, anunciado la semana pasada con la empresa de Menlo Park, California, involucra a 48 estados, además del Distrito de Columbia y los territorios de Estados Unidos.
Las empresas tecnológicas recurren a la IA para estimar la edad
En el mundo físico, las personas utilizan documentos oficiales de identidad para demostrar que son mayores de 18 o de 21 años, ya sea para entrar a una discoteca o para comprar cigarrillos. Si bien técnicamente esto también funciona en línea, a muchas personas no les genera confianza compartir su permiso de conducir o su pasaporte con gigantes tecnológicos como Meta o Google.
Meta acepta documentos de identidad para comprobar la edad y se compromete a borrarlos de su memoria en un plazo de 30 días. Pero más allá de los documentos oficiales, un número creciente de empresas tecnológicas utiliza inteligencia artificial (IA) para intentar determinar la edad de sus usuarios, lo cual no es una verificación de edad propiamente dicha. Si bien la IA puede estimar la edad de una persona, a menudo con precisión, no puede verificar su fecha de nacimiento.
El año pasado, Google comenzó a utilizar en YouTube un sistema de estimación de edad basado en IA para diferenciar entre los adultos y los menores a partir de su historial de visualización. Meta hace lo mismo.
Los sistemas de verificación de edad con base en inteligencia artificial utilizan indicios para determinar la edad de una persona. En Instagram, esto incluye “pistas contextuales”, tales como publicaciones sobre celebraciones de cumpleaños o eventos escolares, al igual que publicaciones marcadas con “me gusta”, aquellas en las que hacen comentarios, en las que se detienen, quiénes son sus amigos y los horarios en que inician sesión. Por ejemplo, alguien que no está conectado durante el horario escolar probablemente sea una persona en edad escolar.
En una publicación de blog del año pasado, Meta señaló que su IA también analiza las fotos que publican los usuarios en busca de indicios visuales, incluida su “estatura o estructura ósea para estimar la edad aproximada de la persona, sin identificar al individuo específico que aparece en la imagen”.
“Al combinar esa información visual con nuestro análisis de texto e interacciones, podemos aumentar significativamente el número de cuentas de menores que identificamos y eliminamos”, agregó la empresa.
Dentro del convenio judicial, Meta se comprometió a reforzar su tecnología de verificación de edad mediante herramientas propias y de terceros, y a someterse a auditorías externas periódicas para evaluar su eficacia. El acuerdo también establece objetivos específicos respecto a las tasas de falsos positivos, es decir, menores identificados erróneamente como mayores de 18 años. Y si se identifica que un usuario es menor de 13 años y se le expulsa de una de sus plataformas, Meta verificará también la edad de sus amigos.
El escaneo facial se utiliza para confirmar la edad en algunos sitios
Compañías de verificación de identidad como Yoti y Persona, que colaboran con empresas tecnológicas como Meta y Roblox, utilizan videoselfies subidos por los usuarios para estimar su edad.
La plataforma de videojuegos Roblox, que, a diferencia de las redes sociales, permite registrarse a menores de 13 años, exige a los jugadores que se tomen un videoselfie para estimar su edad. Roblox dice que los videos se eliminan una vez procesada la verificación de edad. A los usuarios no se les requiere someterse a un escaneo facial para utilizar la plataforma posteriormente, a menos que deseen chatear con otras personas.
Algunos usuarios han reportado imprecisiones, y hay expertos que han expresado cautela sobre la confiabilidad de las herramientas de estimación de edad por medio del análisis facial, especialmente en el caso de las mujeres o de ciertos grupos raciales o étnicos. Pero Matt Kaufman, director de seguridad de Roblox, manifestó el año pasado que, para personas de entre 5 y 25 años aproximadamente, el sistema es capaz de estimar su edad con un margen de error de uno o dos años.
Algunos sitios web y empresas de redes sociales, como Meta, han argumentado que la verificación de edad deberían realizarla los propietarios de las tiendas de apps, tales como Apple y Google, y no cada plataforma. Eso significaría que las tiendas de aplicaciones tendrían que verificar la edad de los usuarios antes de permitirles descargar apps. Como era de esperarse, ni Apple ni Google están de acuerdo.
“Aunque sus defensores la presentan como una medida ‘sencilla’ —incluida Meta—, esta propuesta no incluye las computadoras de escritorio ni otros dispositivos que suelen compartirse en una familia. También podría resultar ineficaz frente a las apps preinstaladas”, expresó Google en una publicación de blog el año pasado.
Las preocupaciones sobre la privacidad siguen siendo un obstáculo
El objetivo de la comprobación de edad es impedir que los menores accedan a espacios en línea que no son seguros ni apropiados para ellos, ya sean redes sociales o sitios web para adultos. No obstante, críticos de la verificación de edad en línea perciben una tendencia preocupante hacia un internet menos seguro, menos privado y menos libre, donde se podría negar el acceso a las personas no sólo a la pornografía, sino también a noticias, información sanitaria y a la posibilidad de expresarse abiertamente y de forma anónima.
Lo que se considera perjudicial para los menores puede ser subjetivo, y es ahí donde los expertos consideran que las leyes que exigen la verificación de la edad podrían entrar en conflicto con la Primera Enmienda de la Constitución de Estados Unidos. Esta cuestión podría derivar en situaciones en las que se exija a los usuarios verificar su edad para acceder a cualquier servicio, desde Netflix hasta un blog vecinal.
Electronic Frontier Foundation (EFF), una organización de defensa de los derechos digitales, lleva años advirtiendo sobre la “restricción de acceso a internet por edad”.
“Independientemente del método, cada sistema exige que los usuarios faciliten información personal delicada e inmutable que vincula su identidad fuera de internet con su actividad en línea”, escribió la EFF en una publicación de blog. “Una vez que se recopilan esos datos (tan) valiosos, pueden fácilmente filtrarse, ser objeto de hackeo o utilizarse de manera indebida”.
Publicado por Lizz Morales
