Si los usuarios muestran emociones extremas o adicción, los proveedores deberán tomar las medidas necesarias para intervenir.
El regulador cibernético de China publicó el sábado un proyecto de normas, abiertas a comentarios del público, que reforzaría la supervisión de los servicios de inteligencia artificial (IA) diseñados para simular personalidades humanas e involucrar a los usuarios en interacciones emocionales.
La medida destaca el esfuerzo de Pekín por dar forma al rápido despliegue de la IA orientada al consumidor con el refuerzo de los requisitos éticos y de seguridad.
Las normas propuestas se aplicarían a los productos y servicios de IA ofrecidos al público en China que presenten rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos simulados, e interactúen emocionalmente con los usuarios a través de texto, imágenes, audio, vídeo u otros medios.
El proyecto establece un enfoque regulador que obligaría a los proveedores a advertir a los usuarios contra el uso excesivo y a intervenir cuando los usuarios muestren señales de adicción.
Según la propuesta, los proveedores de servicios tendrían que asumir responsabilidades de seguridad durante todo el ciclo de vida del producto y establecer sistemas de revisión de algoritmos, seguridad de datos y protección de la información personal.
El proyecto también se centra en los posibles riesgos psicológicos.
Los proveedores tendrían que identificar los estados de los usuarios y evaluar sus emociones y su nivel de dependencia del servicio. En caso de que los usuarios muestren emociones extremas o comportamientos adictivos, los proveedores deberán tomar las medidas necesarias para intervenir.
Las medidas fijan líneas rojas en materia de contenidos y conducta, estableciendo que los servicios no deben generar contenidos que pongan en peligro la seguridad nacional, difundan rumores o promuevan la violencia o la obscenidad.
Por El Economista
