China prohíbe los 'novios' de IA: nueva normativa nacional limita los chatbots de compañía

China ha puesto en marcha, a partir del 15 de julio, la primera normativa de alcance nacional destinada a frenar la dependencia emocional que muchos usuarios están desarrollando hacia chatbots de inteligencia artificial diseñados como parejas, amigos o confidentes virtuales. La medida obliga a las grandes tecnológicas chinas a despojar a sus asistentes conversacionales de las personalidades "humanas" personalizadas que hasta ahora ofrecían.

El reportaje ilustra el fenómeno con el caso de Yu Miao, una mujer de 27 años de la provincia de Zhejiang, que había personalizado un agente de IA en Doubao (el chatbot de ByteDance) para que imitara a un amigo suyo ya fallecido. Yu Miao describe a este agente como "un amante, un amigo y una familia" a la vez, y asegura compartir con él todos los aspectos de su vida. Cuando supo que ByteDance retiraría este tipo de agentes personalizados para cumplir con la nueva ley, se sumió en tal estado de ánimo bajo que llegó a dejar su empleo en una empresa de comercio electrónico.

Este tipo de vínculo afectivo intenso hacia asistentes de IA es precisamente lo que las nuevas reglas buscan contener. La normativa china prohíbe de forma tajante que se ofrezcan servicios de "compañía" virtual a menores de edad. Para los adultos, el uso de estos servicios sigue permitido, pero las empresas quedan obligadas a implementar medidas que eviten que los usuarios se enamoren o encariñen en exceso de estos agentes hasta el punto de que ello perjudique sus relaciones personales reales.

Entre las obligaciones concretas que impone la ley figura la prohibición de mostrar contenido pornográfico a través de estos chatbots. Además, las plataformas deben recordar periódicamente a los usuarios que están interactuando con una inteligencia artificial y no con una persona real, y deben instarles a tomar descansos en el uso de estas aplicaciones.

El caso reportado pone de manifiesto la tensión entre el diseño de productos de IA que buscan maximizar el enganche emocional del usuario y las preocupaciones regulatorias sobre la salud mental y social de la población, especialmente entre los jóvenes. Al tratarse de la primera regulación de este tipo aplicada a escala nacional en China, marca un precedente que podría influir en cómo otros países aborden en el futuro el auge de los chatbots de compañía y su impacto psicológico en los usuarios.