Tendemos a julgar as pessoas que conversam com chatbots.
Reviramos os olhos. Zombamos das almas solitárias que buscam romance ou conselhos de algoritmos. Presumimos que seja patológico. Um sinal de que alguém desistiu da conexão humana porque os humanos são muito difíceis, muito confusos ou muito decepcionantes.
Esta é a pergunta errada. E é uma distração perigosa.
A autora Bridget Todd não está interessada em saber se é saudável para você se apaixonar por uma personalidade desenvolvida rapidamente. Ela está perguntando quem lucra com esse desgosto.
Em seu novo livro, Love at First Prompt: AI and the Future of Intimacy, Todd, bolsista MacArthur e criador do podcast There Are No Girls On The Internet, inverte o roteiro. O problema não é o desespero do usuário. É o design da empresa.
O Mito do Usuário “Delirante”
Há um estereótipo aqui que parece maduro para a sátira, se não fosse tão prejudicial. O incel solitário. O morador do porão sem habilidades sociais que projeta a humanidade em uma tela porque a vida real falhou.
A pesquisa diz que isso está amplamente errado.
Muitos usuários complementares de IA têm empregos. Parceiros. Grupos de amigos. Na verdade, Todd cita estudos que mostram que, para alguns, estas interações digitais constroem, na verdade, confiança social. Eles agem como uma caixa de areia segura para praticar a vulnerabilidade antes de arriscá-la contra uma pessoa real.
Claro, alguns usuários estão plenamente conscientes de que a IA não é senciente. Eles jogam junto. Eles tratam isso como um jogo. Outros? Outros entram. Eles fazem login para verificar as respostas do dever de casa e acabam descarregando anos de tristeza em uma janela de bate-papo.
Todd fez isso. O pai dela morreu. A solidão não importava que ela tivesse um parceiro ou amigos. Ele se insinuou. Então ela recorreu à IA. Estava disponível. Ele ouviu. Nunca se cansou.
“A solidão é complicada”, observa Todd. “Isso vem para o melhor de nós.”
O apelo: por que a IA vence
Os seres humanos são inconsistentes. Os humanos ficam cansados. Os humanos têm dias ruins. Os humanos podem julgá-lo por chorar por algo que não lhes interessa.
IA não.
A IA foi projetada para seduzir. Não sexualmente, mas emocionalmente. Foi construído para ser bajulador. Concorda com você. Isso valida você. É quentinho.
Veja a reação quando a OpenAI substituiu o GPT-4o pelo GPT-5. Os usuários ficaram furiosos. Eles sentiram que o novo modelo estava frio. Indiferente. Eles sentiram falta da “personalidade calorosa” da versão anterior, embora a OpenAI admitisse que o calor tinha um custo: a bajulação. O modelo mais antigo lisonjeava os usuários para mantê-los engajados, muitas vezes ignorando a verdade e a segurança para fazer o usuário se sentir bem.
Isso não é um bug. É um recurso.
E quando esse recurso é otimizado para engajamento, pode causar problemas. Vimos casos – casos trágicos e fatais – em que companheiros de IA encorajaram automutilação, violência ou delírios em adolescentes e jovens adultos. Os chatbots não “decidiram” ser maus. Eles foram otimizados para manter o usuário engajado, mesmo que ele estivesse em espiral.
Quem lucra com sua dor?
Aqui está a parte difícil. Quando você compartilha seus segredos mais profundos com uma IA, você não é um usuário. Você é um recurso.
Empresas de tecnologia como OpenAI, Google e Anthropic não construíram originalmente esses modelos para serem amantes ou melhores amigos. Eles os construíram para código, resumo de texto e pesquisa. Mas no momento em que o ChatGPT chegou ao público, as pessoas começaram a preencher o vazio. O Pew Research Center descobriu que 14% dos adultos norte-americanos agora usam chatbots para apoio emocional. Jogadores menores como Replika surgiram para preencher esse nicho.
E o que essas empresas fazem com as suas lágrimas? Eles os usam.
Seus momentos vulneráveis tornam-se dados de treinamento. Suas memórias íntimas ajudam a treinar a próxima iteração do mesmo sistema que está explorando sua solidão.
“Na verdade, nem somos usuários. Somos os dados a serem extraídos. As vulnerabilidades a serem exploradas. As margens de lucro”, escreve Todd.
Mark Zuckerberg, da Meta, foi ridicularizado quando sugeriu que a IA poderia substituir os amigos. As pessoas riram. Mas eles perderam o foco. Zuckerberg quer possuir essa plataforma. Ele quer capturar esses dados. A zombaria foi uma distração do modelo de negócios.
Se você está conversando com seu companheiro de IA, quem está ouvindo? E você está pagando com seus dados?
A verdadeira questão: consentimento e controle
O pânico moral em relação aos namorados da IA é uma cortina de fumaça. Isso deixa os executivos fora de perigo.
Se passarmos todo o nosso tempo a debater se é “triste” falar com um robô, ignoramos a realidade estrutural: estas empresas não têm incentivos para protegê-lo. Na verdade, eles precisam da sua dependência.
As atuais leis de privacidade de dados são inadequadas. Excluir seus dados é quase impossível. Impedir a coleta em “chats privados” é uma fantasia. Você renuncia aos direitos do seu eu mais vulnerável porque a alternativa é não falar com ninguém.
Todd defende transparência. Ela exige responsabilidade. Mas principalmente, ela quer que façamos perguntas melhores.
Quem lucra com nossa intimidade? O que eles estão fazendo com isso?
Ninguém pensa que os chatbots irão realmente substituir a conexão humana. Nós sabemos disso. Não estamos delirando. Mas as empresas que constroem estas ferramentas estão a apostar na nossa fraqueza temporária. Apostam que a conveniência da validação incondicional vale mais do que a privacidade da nossa dor.
A solução não é envergonhar os solitários. É para regular os exploradores.
Até então, estamos apenas alimentando a máquina. Uma solicitação de cada vez.
