Con el objetivo de frenar los riesgos derivados de los vínculos afectivos entre humanos y máquinas, el gobierno de China ha puesto en vigor este miércoles un estricto paquete de reglas para los sistemas de inteligencia artificial que replican la personalidad humana. El nuevo marco normativo vigilará de cerca a todas aquellas tecnologías diseñadas para establecer interacciones emocionales continuas con los usuarios.

La regulación, denominada ‘Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial’, fue estructurada por la Administración del Ciberespacio de China (CAC). Las autoridades buscan establecer un equilibrio claro entre el desarrollo tecnológico y la seguridad pública.

Exclusiones y prohibiciones del marco legal

Estas restricciones no afectan a todos los ‘chatbots’, ya que quedan excluidos los asistentes laborales, las herramientas educativas y los sistemas de atención al cliente. La condición para no ser regulados es que no impliquen una interacción emocional sostenida.

Entre las prohibiciones destaca el veto a la complacencia excesiva, la inducción a la dependencia emocional o adicción, y la manipulación de los usuarios. También se prohíbe generar contenidos que promuevan la autolesión, el suicidio o el maltrato verbal.

Obligaciones y avisos para los desarrolladores

Los desarrolladores deberán advertir de forma efectiva a los usuarios que están interactuando con un sistema de inteligencia artificial y no con una persona real. De igual forma, existirá la obligación de lanzar un aviso tras dos horas de uso continuado.

La normativa pone especial énfasis en la protección de los menores de edad y prohíbe ofrecerles servicios de relaciones íntimas virtuales. Para las funciones destinadas a niños menores de 14 años, se exigirá el consentimiento de padres o tutores.

Impacto comercial en los gigantes digitales

Debido a estas medidas, gigantes tecnológicos como ByteDance y Alibaba anunciaron el cierre de sus funciones de agentes personalizados en sus plataformas digitales. Ambas aplicaciones ofrecían catálogos de agentes virtuales modificables en tareas y estilo de conversación.

Finalmente, Pan Helin, miembro del comité de expertos del Ministerio de Industria y Tecnologías de la Información, señaló que este tipo de tecnologías requiere comprensión por parte del usuario. El especialista concluyó que los agentes virtuales actuales aún no son maduros.