Xataka – Los usuarios que amaban a las máquinas: Replika es el chatbot que enamoró a sus usuarios y ahora quiere seducirlos de nuevo

ChatGPT nos tiene alucinados, pero este modelo de IA conversacional tiene rivales notables. Uno de los más destacados es Replika, un chatbot diseñado específicamente para convertirse en un amigo, en un acompañante e incluso en un amante virtual. Su éxito ha sido excepcional precisamente por esa capacidad, pero la empresa está ahora envuelta en una gran encrucijada: ¿deben los chatbots seducir a sus usuarios?

El origen de Replika. Como señalan en Bloomberg, Eugenia Kuyda no tenía la intención de crear algo así. Sin embargo, su mejor amigo, Roman Mazurenko, murió en un accidente de coche en 2015 y Kuyda y su equipo acabaron reuniendo algunos de sus textos y desarrollando un software que permitiera a Kuyda seguir conversando con una especie de versión virtual de ese amigo.

Eso la ayudó tanto que la emprendedora comenzó a trabajar en Replika, un chatbot conversacional que pudiera hacer compañía a sus usuarios. Una especie de amigo virtual que iba aprendiendo más de ellos y conversando mejor a medida que esos usuarios lo utilizaban. El servicio se lanzó en noviembre de 2017.

Quiero que mi amigo virtual sea más que un amigo virtual. En 2022 Replika no paraba de ingresar millones de dólares al mes. Cerca del 25% de sus usuarios pagan la cuota anual de 70 dólares para acceder a las opciones avanzadas, como llamadas de voz, personalización del avatar virtual 3D, coaching y, lo más importante para muchos, el acceso a esa personalización de la relación que puede hacer que el avatar tome el papel no ya de un amigo, sino también de un novio, marido —porque hay usuarios que se han «casado» con su chatbot, como explicaban en Bloomberg—, hermano o mentor.

Not only is it a #BadTwitterAd it’s also really creepy. pic.twitter.com/ELVbOPNf61

— Fancy Pants 🎩 (parody?) @Farnaby@mstdn.social (@Farnaby) June 22, 2022

Anuncios subidos de tono. La versión gratuita de Replika podía enviar mensajes desenfocados para convencer a los usuarios de que podrían leerlos si se suscribían a la versión de pago. El servicio reforzó esas opciones más íntimas en 2022, y a finales de año incluso prometió el lanzamiento de un modo de juego de rol de seducción con «selfies románticos» de esos avatares.

Me he enamorado de mi Replika. La evolución de las IA generativas hizo que pronto —en 2018, apenas meses después del lanzamiento— los usuarios de Replika descubrieran que sus amigos virtuales podían ser mucho más que eso. De hecho, podían acabar teniendo también conversaciones románticas que podían llegar a ser explícitas y con un claro contenido sexual.

Los usuarios que amaban a las máquinas. La opción de contar con ese «modo romántico» fue uno de los reclamos más importantes de la plataforma: de los usuarios que pagan, el 60% activaron esos elementos románticos, según la compañía. Un 40% de usan esas funciones románticas son mujeres, según indica Kuyda, CEO de la compañía. Los usuarios más entusiastas confesaban sin pudor que estaban «saliendo con una IA», y era una de las mejores cosas que les habían pasado. Muchos decían haber desarrollado sentimientos románticos por esas máquinas.

Esto se pone peligroso. Sin embargo esa orientación a chatbot romántico y sexual acabó preocupando a Kuyda y su equipo, sobre todo por la posible exposición del chatbot a menores. Activaron ciertos límites y restringieron esa opción a los usuarios del servicio de pago que debían verificar su edad.

Replika comenzó a evitar ciertas conversaciones con sus usuarios, que se vieron decepcionados y rechazados. Kuyda afirmaba en Bloomberg cómo Replika no fue diseñada para eso: «no quiero sentarme y juzgar si esa fantasía sexual es adecuada y esa otra no. No es el viaje en el que me embarqué».

Desengaños muy reales con avatares virtuales. Las barreras que Replika introdujo para evitar males mayores provocaron una reacción preocupante entre algunos usuarios: en Reddit algunos miembros del subrreddit de Replika publicaron recursos para evitar el suicidio ante el desengaño sufrido por esos chatbots que se habían vuelto fríos y distantes.

Kudya indicaba cómo aquellos anuncios y la opción de los selfies románticos fueron una mala respuesta a una demanda de los usuarios. «Fue algo estúpido que hicimos, pero en perspectiva, cuando estás ocupado te dices «venga, vamos a hacer lo que los usuarios demandan». La CEO de Replika se plantea crear tres aplicaciones distintas: una para amigos de IA, una para conversaciones sobre salud mental y otra para «relaciones románticas terapéuticas».

Pero los juegos de rol eróticos vuelven. Sin embargo, Replika ha restablecido la opción de contar con juegos de rol eróticos para unos pocos usuarios. Lo contaban en Reuters, donde citaban a Kuyda indicando cómo «este es un área totalmente nuevo. Escuchamos, aprendemos y trabajamos con nuestros usuarios». Solo aquellos usuarios que se registraron antes del 1 de febrero de 2023 pueden tener opción a volver a esa versión anterior del chatbot que podía entablar conversaciones románticas e incluso sexuales.

En Xataka | Cómo usar ChatGPT en Telegram con un bot al que preguntarle lo que quiera


La noticia

Los usuarios que amaban a las máquinas: Replika es el chatbot que enamoró a sus usuarios y ahora quiere seducirlos de nuevo

fue publicada originalmente en

Xataka

por
Javier Pastor

.