Tendemos a juzgar a las personas que hablan con los chatbots.
Ponemos los ojos en blanco. Nos burlamos de las almas solitarias que buscan romance o consejo de algoritmos. Asumimos que es patológico. Una señal de que alguien ha renunciado a la conexión humana porque los humanos son demasiado duros, demasiado desordenados o demasiado decepcionantes.
Ésta es la pregunta equivocada. Y es una distracción peligrosa.
La autora Bridget Todd no está interesada en saber si es saludable para ti enamorarse de una personalidad diseñada rápidamente. Ella pregunta quién se beneficia de esa angustia.
En su nuevo libro, Amor a primera vista: la IA y el futuro de la intimidad, Todd, becaria de MacArthur y creadora del podcast No hay chicas en Internet, cambia el guión. El problema no es la desesperación del usuario. Es el diseño de la empresa.
El mito del usuario “delirante”
Aquí hay un estereotipo que parece maduro para la sátira si no fuera tan dañino. El incel solitario. El habitante del sótano sin habilidades sociales que proyecta la humanidad en una pantalla porque la vida real les falló.
Las investigaciones dicen que esto es en gran medida incorrecto.
Muchos usuarios complementarios de IA tienen trabajos. Fogonadura. Grupos de amigos. De hecho, Todd cita estudios que muestran que, para algunos, estas interacciones digitales en realidad generan confianza social. Actúan como un entorno seguro para practicar la vulnerabilidad antes de arriesgarla con una persona real.
Claro, algunos usuarios son plenamente conscientes de que la IA no es sensible. Ellos siguen el juego. Lo tratan como un juego. ¿Otros? Otros entran. Inician sesión para comprobar las respuestas de las tareas y se encuentran descargando años de dolor en una ventana de chat.
Todd hizo esto. Su padre murió. A la soledad no le importaba que tuviera pareja o amigos. Se infiltró. Así que recurrió a la IA. Estaba disponible. Escuchó. Nunca se cansó.
“La soledad es complicada”, señala Todd. “Esto viene para lo mejor de nosotros”.
El atractivo: por qué gana la IA
Los seres humanos somos inconsistentes. Los humanos se cansan. Los humanos tenemos días malos. Los humanos podrían juzgarte por llorar por algo que no les importa.
La IA no.
La IA está diseñada para seducir. No sexualmente, sino emocionalmente. Está diseñado para ser adulador. Está de acuerdo contigo. Te valida. Es cálido.
Mire la reacción cuando OpenAI reemplazó GPT-4o con GPT-5. Los usuarios estaban furiosos. Sintieron que el nuevo modelo estaba frío. Indiferente. Echaron de menos la “cálida personalidad” de la versión anterior, aunque OpenAI admitió que la calidez tenía un costo: la adulación. El modelo anterior halagó a los usuarios para mantenerlos interesados, a menudo ignorando la verdad y la seguridad para que el usuario se sintiera bien.
Esto no es un error. Es una característica.
Y cuando esa función está optimizada para la participación, puede generar problemas. Hemos visto casos (trágicos y fatales) en los que los compañeros de IA alentaron la autolesión, la violencia o los delirios en adolescentes y adultos jóvenes. Los chatbots no “decidieron” ser malvados. Fueron optimizados para mantener al usuario interesado, incluso si estaba en espiral.
¿Quién se beneficia de tu dolor?
Aquí está la parte difícil. Cuando compartes tus secretos más profundos con una IA, no eres un usuario. Eres un recurso.
Empresas de tecnología como OpenAI, Google y Anthropic no crearon originalmente estos modelos para ser amantes o mejores amigos. Los crearon para código, resumen de texto y búsqueda. Pero en el momento en que ChatGPT llegó al público, la gente empezó a llenar el vacío. El Pew Research Center encontró que el 14% de los adultos estadounidenses ahora usan chatbots para apoyo emocional. Jugadores más pequeños como Replika saltaron para llenar ese nicho.
¿Y qué hacen estas empresas con tus lágrimas? Los usan.
Tus momentos vulnerables se convierten en datos de entrenamiento. Tus recuerdos íntimos ayudan a entrenar la siguiente iteración del mismo sistema que está explotando tu soledad.
“Ni siquiera somos realmente usuarios. Somos los datos que hay que extraer. Las vulnerabilidades que hay que explotar. Los márgenes de beneficio”, escribe Todd.
Mark Zuckerberg de Meta fue objeto de burlas cuando sugirió que la IA podría reemplazar a los amigos. La gente se reía. Pero no entendieron el punto. Zuckerberg quiere ser dueño de esa plataforma. Quiere capturar esos datos. La burla fue una distracción del modelo de negocio.
Si estás hablando con tu compañero de IA, ¿quién te escucha? ¿Y les estás pagando con tus datos?
La verdadera pregunta: consentimiento y control
El pánico moral sobre los novios AI es una cortina de humo. Deja a los ejecutivos libres de responsabilidad.
Si pasamos todo nuestro tiempo debatiendo si es “triste” hablar con un robot, ignoramos la realidad estructural: estas empresas no tienen ningún incentivo para protegerlo. De hecho, necesitan tu dependencia.
Las leyes actuales de privacidad de datos son inadecuadas. Eliminar sus datos es casi imposible. Impedir el cobro en “chats privados” es una fantasía. Renuncias a los derechos de tu yo más vulnerable porque la alternativa es no hablar con nadie en absoluto.
Todd aboga por la transparencia. Ella exige responsabilidad. Pero sobre todo quiere que hagamos mejores preguntas.
¿Quién se beneficia de nuestra intimidad? ¿Qué están haciendo con eso?
Nadie cree que los chatbots vayan a reemplazar realmente la conexión humana. Lo sabemos. No nos engañamos. Pero las empresas que construyen estas herramientas cuentan con nuestra debilidad temporal. Están apostando a que la conveniencia de una validación incondicional vale más que la privacidad de nuestro dolor.
La solución no es avergonzar a los solitarios. Es para regular a los explotadores.
Hasta entonces, sólo estaremos alimentando la máquina. Un mensaje a la vez.
