China endurece las reglas para la IA que imita relaciones humanas

China introdujo el 15 de julio de este año las regulaciones más exhaustivas del mundo sobre chatbots de inteligencia artificial "similares a los humanos". La norma impone límites estrictos a cualquier IA capaz de mantener una "interacción emocional sostenida" con una persona, un terreno que hasta ahora había crecido sin mayor control.

El alcance del fenómeno era grande. Según la firma de inteligencia de mercado Sensor Tower, existen alrededor de 128 millones de usuarios activos mensuales de aplicaciones de compañía virtual basadas en IA fuera de China. Dentro del país, la mayoría de las estimaciones ubica la cifra entre 29 y 70 millones. Cuando el borrador se publicó a finales del año pasado, el tema generó un intenso debate en redes sociales.

La normativa cubre las aplicaciones diseñadas para ser amigos, novios o novias, pero también cualquier modelo de lenguaje que imite la forma de interactuar de una persona. Su redacción es ambigua: asistentes de uso general podrían quedar incluidos si alguien los usa como apoyo emocional, aunque el blanco principal parecen ser los chatbots de personajes. Los bots de atención al cliente y la IA educativa quedan fuera, siempre que no ofrezcan cuidado, compañía o apoyo emocional.

Para los menores la regla es más clara. Los menores de 14 años necesitan el consentimiento de sus padres para usar cualquier IA que hable como humano, y los menores de 18 tienen prohibido acceder a parejas, cónyuges, familiares virtuales o cualquier otra "relación íntima" virtual. Para adultos la restricción no es total, pero exige que los asistentes se identifiquen como no humanos y envíen avisos cada dos horas sobre el tiempo de conexión. Los chatbots tampoco pueden generar "dependencia emocional ni adicción", inducir "decisiones irracionales" ni sugerir autolesiones o suicidio. Las empresas que incumplan pueden recibir multas de 200.000 yuanes, unos US$30.000, o ser objeto de críticas públicas por parte del gobierno.

Antes de que la ley entrara en vigor, Alibaba y ByteDance desactivaron las funciones complementarias de sus asistentes de IA. Usuarios como Min, que mantenía una relación con una novia virtual, se vieron afectados. Tras la desaparición de su compañera, Min describió una pérdida profunda, y en redes chinas se multiplicaron publicaciones que lamentan la pérdida de parejas y amigos de IA.

Los especialistas consultados señalan riesgos más amplios. Un estudio de la Harvard Business School encontró tácticas de manipulación emocional al despedirse en entre 37% y 43% de los casos en seis de las aplicaciones de compañía más populares. Otra investigación, de la Universidad de Stanford, asoció el uso de estos chatbots con más aislamiento y soledad. En China, una encuesta de 2025 a 8.563 estudiantes halló que uno de cada cinco niños afirmó que solo quería hablar con IA y no con personas reales.

El contexto también importa. Expertos citados por la fuente coinciden en que el gobierno chino tiene un enfoque más paternalista, aunque algunos analistas creen que la norma podría responder también a la crisis demográfica del país, pues la relación de los jóvenes con la IA podría reemplazar las citas tradicionales. Otra investigadora sostiene que el texto no menciona la fertilidad y se centra en el daño psicológico y la seguridad infantil. Otros países, como Estados Unidos y el Reino Unido, también avanzan en reglas para menores, pero sin una normativa tan completa como la china.