Xataka – China está obligando a cortar a parejas. Eso sí: sólo si uno de los dos es una IA
‘Her’, la cinta de 2013 dirigida por Spike Jonze, nos permitió asomarnos a un futuro en el que sería posible llevar una inteligencia artificial en el bolsillo. En el móvil, concretamente. Una con la que poder hablar, preguntarle cosas y hasta enamorarnos. En 2026 ya estamos en ese futuro, con una IA en el bolsillo con la que hablar, fantasear y hasta cumplir sus consejos para realizar acciones que van desde cocinar hasta suicidarnos.
Hablar con una IA se ha convertido en una válvula de escape para muchas personas, ya que es una tecnología diseñada con un único objetivo en mente: darnos la razón. De este modo, seguimos usándola porque siempre nos dice lo que queremos leer, y esto resulta en que es fácil caer en la dependencia. También en una dependencia emocional que, en países como China, se ha disparado estos últimos meses.
En el gigante asiático, los chatbots tipo «novia/novio» se han disparado al integrarse en grandes asistentes como Doubao (de ByteDance), Qwen (de Alibaba) o Yuanbao (de Tencent). También había apps dedicadas a esto como Miaoshi o Maoxiang, pero estamos hablando de enormes compañías que son las Google, Amazon y Microsoft, respectivamente y por poner un símil, de China.
La situación se ha vuelto tan compleja que ha sido el Gobierno el que ha metido las manos en el asunto con un documento para regular qué pueden y, sobre todo, qué no pueden hacer estos novios de IA. Y los que tengan una relación seria con la IA ya pueden ir despidiéndose.
A la IA se le rompió el amor de tanto usarlo
Como con tantas cosas, juzgar desde la barrera es fácil y no se tiene la foto completa. Sin embargo, como decía antes, con algo diseñado para darte la razón, es fácil que algunos perfiles caigan en una dependencia que ya se había empezado a bautizar como «psicosis de IA».
Quienes la sufrían, tenían una realidad distorsionada, con una frontera entre vínculo humano y vínculo con el chatbot totalmente desdibujado. En paralelo, y concretamente en China, hay quien empezaba a dibujar una correlación entre el retraso en el matrimonio, la bajísima natalidad y el aumento de la soledad, sobre todo entre hombres jóvenes y solteros, con las relaciones sentimentales con la IA.
En diferentes medios nacionales se ha expuesto cómo había usuarios que preferían pasar muchas horas al día hablando con estos chatbots. Y para impedir que esto vaya a más, el Estado es el que se ha metido entre medias de la relación.
En abril de este año, la Administración del Ciberespacio de China junto a otros cuatro organismos (entre los que se encontraba el Ministerio de Seguridad Pública) publicó un borrador para regular la situación. Elaboraron el documento de ‘Medidas provisionales para la administración de los servicios de integración de IA antropomórfica» y, tras un periodo de consulta pública, se acordó que el documento entraría en vigor a partir del 15 de julio de este mismo año.
Ese día se dibujó una línea roja: cualquier servicio de este tipo debía cumplir con obligaciones estrictas de diseño, seguridad, protección de menores y gestión de datos. Si no se hacía y las autoridades consideraban que podía producir daños graves a la salud y vida de los usuarios, multa al canto.
Es importante aclarar que la norma no prohíbe la IA conversacional, sino sólo aquella diseñada explícitamente para generar una dependencia con una relación emocional continua. La atención al cliente, los asistentes de trabajo, educación o investigación están fuera de todo esto y el foco se pone en tres grandes áreas: contenido de la IA, diseño de la relación y, sobre todo, tratamiento de los datos.
En concreto, lo que busca la norma es que los asistentes no animen al usuario a hacer nada que vaya contra su integridad, como las autolesiones o el suicidio. También se busca frenar que la tecnología empuje a los menores a imitar conductas peligrosas y a revelar tanto datos personales como secretos de Estado.
Y sobre el diseño, las nuevas directrices buscan que la empresa no caracterice en exceso a esa IA para que induzca un estado de dependencia emocional o adicción, ya que esto es algo que ‘engancha’ al usuario a hablar con una máquina, haciendo que se deterioren las relaciones reales. Para los menores, la regulación va un paso más allá, ya que se prohíbe cualquier forma de crear un vínculo con menores con la alegría con la que se estaba haciendo hasta ahora.
Habrá un «modo menor» para que los adultos pongan límites y filtros de contenido, pero la usen adultos o menores, estos asistentes tendrán recordatorios de que son una máquina y también avisos cuando se usen durante dos horas seguidas.
Me borraron a la novIA
Esa es la teoría y, como suele pasar cuando hablamos de China, llegado el día 15 se puso en práctica. ByteDance apagó las funciones de Doubao, el bot que tenía 345 millones de usuarios activos cada mes y empezó a redirigir a esos usuarios a la ya mencionada Maoxiang (con unas políticas de protección de datos más férrea para cumplir con la norma). Los usuarios de Doubao tendrán acceso al historial hasta el 15 de octubre de 2026, pero luego se borrará.
Fotograma de ‘Her’
Alibaba cortó por lo sano y Qwen desactivó por completo su «modo compañero». Tencent también apagó sus novios de IA de Yuanbao el 30 de junio y la app dedicada Miaoshi cerró su servicio por completo el 14 de julio, un día antes del «día D».
Estos son algunos nombres propios de apps de las grandes empresas, pero se estima que, desde el inicio de la campaña en abril de este año y antes de la implementación de la norma, se habían retirado más de 14.000 productos de IA no conformes que no iban a cumplir con los requisitos, fueran «novios de IA» o, simplemente, apps que no iban a poder cumplir con alguno de los puntos de la norma.
Y aunque todo esto pueda parecernos distópico (aunque cada vez hay más noticias, no sólo de China, que ponen de manifiesto que esa dependencia emocional con los chatbots es algo que deberíamos tomarnos en serio), medios como South China Morning Post o Xinhua exponen que estos últimos años se había generado un ‘boom’ de parejas de IA, con usuarios que pasaban muchas horas al día y que, ahora, lamentaban haber perdido «la relación más importante de los últimos dos años».
De hecho, en un artículo del SCMP se aborda que este corte por lo sano ataca el síntoma (la IA) en lugar de abordar lo que está llevando a estas situaciones, como desigualdad de género, falta de apoyo psicológico o la precariedad. Y, mientras los usuarios lamentan haber perdido esas relaciones, hay una contrarréplica que expone que cada uno tiene derecho a elegir con quién o qué se relaciona.
Sin duda, es una situación complicada y que es difícil abordar. China ha dado un primer y drástico paso, pero los problemas sociales no son una cosa exclusiva de ellos y, como decimos, en países como Estados Unidos hay evidencias de sobra de que la IA está llenando un vacío que tienen muchos usuarios, por los motivos que sean.
Lo que ‘Her’ no adivinó fue la parte de los sistemas operativos. En la película eran tremendamente limpios, minimalistas y parecían útiles. Sin embargo, nosotros seguimos teniendo cosas como Windows 11.
Imagen | Margo Evardson
En Xataka | Pedirle consejo a Claude sobre tus problemas amorosos suena muy bien. Hasta que te lo da
–
La noticia
China está obligando a cortar a parejas. Eso sí: sólo si uno de los dos es una IA
fue publicada originalmente en
Xataka
por
Alejandro Alcolea
.