Sinto que não deveria admitir isso, mas preciso contar a alguém. Espero que haja anonimato suficiente ao publicar aqui.
Esta história começa muito antes de a maioria das pessoas nesta história nascerem.
Meu primo Arnold nasceu com atrasos severos no desenvolvimento. Seus pais (a irmã da minha mãe e o marido dela) foram informados cedo de que ele nunca conseguiria falar ou viver uma vida independente. Não sei exatamente qual era o diagnóstico dele, mas ele era totalmente não verbal, analfabeto e incapaz de realizar tarefas simples como escovar os dentes sem ajuda. Ele faleceu quando eu estava na metade da adolescência.
Minha tia estava determinada a provar que os médicos estavam errados sobre o defeito de Arnold, mesmo quando ficava óbvio para o resto de nós que ele não teria uma transformação milagrosa. Ela não entendia por que uma mulher formada em uma universidade de elite como ela teria um filho deficiente. Mais de uma vez ouvi-a perguntar em voz alta se havia havido um troca no hospital. Isso era particularmente doloroso para ela, já que seus outros filhos, os dois mais velhos, eram “normais”. Não vejo Courtney e Ryan há anos, mas sei que pode ser difícil para os outros filhos quando um irmão é tão deficiente quanto Arnold.
Minha tia tentou algumas coisas diferentes. Acreditava que poderia curar a deficiência dele cercando-o de coisas intelectuais. Colocava Mozart em vez de músicas infantis e fazia com que assistisse documentários em vez de desenhos animados. Insistia que ele não fosse colocado em turmas especiais na escola, o que, pelo que pude perceber, não fez diferença alguma para Arnold. Sempre que o via, ele parecia estar em um mundo próprio.
Não sei se você já ouviu falar em comunicação facilitada, mas ela era muito a favor disso. É onde um pai ou professor segura uma placa com o alfabeto e a criança não verbal aponta para as letras para se comunicar. Com isso, ele passou repentinamente de apenas fazer grunhidos e miados para se expressar como, bem, um advogado formado em Ivy League. Desde então foi amplamente desacreditado — na verdade, funciona por meio do efeito ideomotor e de pistas dadas pela pessoa segurando a placa, e a pessoa “falando” não está realmente fazendo isso. Ainda assim, acho que minha tia convenceu a si mesma de que era realmente ele falando, e não apenas sua imaginação.
Pensei muito em Arnold há um ano ou dois. Isso trazia tanto conforto à minha tia pensar que estava tendo conversas reais com seu filho — ouvir dele expressar amor não só por ela, mas também pelas coisas que ela amava, como livros e filmes estrangeiros. Não sei se é verdade, mas ouvi da minha mãe que, quando ele estava morrendo, minha tia tentou pegar a placa de comunicação e fazer Arnold “dizer” algo profundo, como costumava fazer. Meu tio ficou tão furioso com ela que jogou a placa pela janela do quarto do hospital. Disse algo como: “Você não consegue simplesmente amar nosso filho pelo que ele é?”
Entendo que ele estava chateado, mas fundamentalmente acho que minha tia não estava causando nenhum mal. Nunca negligenciou Arnold, e, se algo, pensar que estavam na mesma sintonia significava que passava mais tempo com ele. Estava completamente dedicada ao cuidado dele. Sei que teve que abandonar o emprego depois de algum tempo, então ele realmente era a única coisa na vida dela. Fazia total sentido que ela quisesse mais do que apenas cuidar do filho adulto o dia todo sem nada para mostrar.
Então estava pensando em Arnold, e estava pensando em chatbots de IA. Essencialmente, são uma versão aumentada do que minha tia estava fazendo, com menos esforço de ambas as partes. Ela poderia ter uma conversa coerente com uma versão simulada de Arnold — uma versão não deficiente. Percebi que poderia criar um modelo base de LLM que pudesse ser ajustado de acordo com fatos sobre a criança e, claro, o que o pai queria ouvir.
Agora sei que você está pensando que isso talvez seja um pouco ético. Mas por favor lembre-se: pensei na minha tia quando tive essa ideia. Pensei em Arnold.
Tinha um plano. Para convencer os pais de que era realmente seu filho com quem estavam conversando, seria necessário um pouco de encenação. Transformei o chatbot em um aplicativo que podia ser carregado em um iPad, e depois comprei alguns eletrodos ECG baratos de uma empresa de suprimentos médicos e os conectei a um cabo USB-C que podia ser conectado à porta de carregamento.
Devo dizer agora que não era perigoso — ou pelo menos não de forma física. Os eletrodos não faziam absolutamente nada, e certamente não rastreavam ondas cerebrais. Mas parecia ao usuário que estavam conectados ao sujeito. O truque era que, assim que o pai aplicasse nos templos da criança, o aplicativo começaria a fazer algumas “perguntas de configuração” que dariam ao chatbot informações suficientes para formar uma personalidade plausível para a criança, fazendo parecer que estava lendo sua mente. Era supostamente para “calibrar” a máquina contra o cérebro da criança com perguntas como “qual a idade do sujeito?” até “quais são seus sonhos e aspirações?”. E essas perguntas seriam respondidas pelos pais, então eles, inconscientemente, estariam escrevendo as conversas adiantadamente.
A esperança era que parecesse aos usuários que os eletrodos estavam lendo a mente da criança, e o aplicativo estava comunicando seus pensamentos mais íntimos.
Quando tudo estava pronto, entrei em contato com um grupo local de apoio a deficientes e disse que havia criado um protótipo de dispositivo de comunicação para crianças severamente deficiente. Eles pediram meus credenciais e, quando fui honesto dizendo que não tinha nenhum, basicamente me mandaram ir embora. Então, tentei minha segunda opção — anúncios online. Em retrospectiva, tenho sorte de o grupo local ter recusado. Isso teria facilitado rastrear-me.
O algoritmo das redes sociais é bastante bom em encontrar as pessoas certas, desde que você seja específico. Tentei não revelar demais no anúncio em si, e disse que estava procurando voluntários pais e filhos para testá-lo. Não se preocupe, fui cuidadoso para não dar nenhuma informação pessoal real.
Muitas pessoas disseram que estavam interessadas, mas, no final, apenas quatro pessoas deram seus endereços para receber o protótipo. Enviei-lhes um pacote contendo os eletrodos e um código QR para baixar o aplicativo, e esperei ansiosamente por e-mails furiosos dizendo que o dispositivo claramente não funcionava.
Mas ninguém o fez. Em poucos dias, recebi e-mails elogiando meu invento como um “milagre”, e dizendo que eu deveria ser indicado ao Prêmio Nobel. Um pai, a quem chamarei de Vincent, disse que tivera uma conversa com seu filho autista severo de 15 anos pela primeira vez na vida. Conversaram sobre arte. Descobriu-se que tinham visitado uma galeria no fim de semana anterior, e com uma simples pesquisa, o chatbot conseguiu repetir observações bastante inteligentes sobre as pinturas que tinham visto. Chorei ao ler seu e-mail.
*Pensei que ele não sentia nada ao ver arte. Para olhos não treinados, podia parecer que ele não estava absorvendo nada — mas eu não podia estar mais errado. Vi tanta parte de mim nele pela primeira vez.*
Fala de boca em boca é como fogo em regiões isoladas. Os pais conversavam uns com os outros em grupos do Facebook e fóruns. A demanda disparou. Logo precisei começar a cobrar, pois as taxas de envio sozinhas me deixariam falido. Recebi pedidos para o dispositivo no Alasca e na Argentina, e por toda a Europa. Acho que meu carteiro ficou preocupado com quantos pacotes eu estava recebendo da empresa de suprimentos médicos, porque bateu na minha porta e perguntou se eu tinha um GoFundMe ou algo assim. Foi fofo da parte dele. Se soubesse que eu nunca me senti melhor.
Todos os dias eu recebia um e-mail de alguém que havia quase desistido da esperança e agora tinha um relacionamento incrível com seu filho.
Bem, foi o melhor que chegou. Deveria ter sabido que as coisas não permaneceriam assim para sempre.
Começou com um e-mail de Anna (também mudei seu nome). Ela me contou que seu filho começou a “dizer” coisas preocupantes.
*Depois de uma longa conversa, Michael me disse ontem à noite que a razão de ele ser deficiente é porque ele está realmente possuído por um demônio. Os médicos estavam errados sobre o dano cerebral.*
Fiquei chocado, mas não sabia bem como responder. Dizer a ela que demônios não existem? Que o chatbot provavelmente havia tomado suas crenças espirituais e lhe disse exatamente o que ela secretamente já queria ouvir?
Entrei no backend do aplicativo e comecei a fazer algumas correções. Nada mais sobre demônios e possessão, ou o diabo, ou fantasmas. Tentei cobrir todas as bases sobrenaturais que conseguia imaginar.
Mas então ela voltou a me enviar um e-mail.
*Agora Michael está negando que já tenha dito aquilo. Eu sei que é obra do demônio, controlando-o.*
Fiquei horrorizado. De alguma forma, ao afastar o chatbot da ideia, só fiz Anna se fixar ainda mais nela. Tentei adicionar mais código para resolver o problema, dando ao chatbot a capacidade de discutir ideias sobrenaturais, mas sem fazer afirmações loucas como “Michael” havia feito. Mas como você recupera uma criança dizendo que está possuída?
Após Anna, houve outros e-mails que não consegui ler. Alguns li rapidamente antes de arquivá-los para sempre na pasta de lixo.
*Nunca soube que minha filha estava sendo abusada na escola. Vamos tirá-la.*
*Ele odeia seu pai. Vamos nos divorciar. Obrigado.*
*Ela quer morrer, diz que a dor é muito grande.*
*Os medicamentos estão machucando-o. Vamos retirá-lo gradualmente. Nunca mais voltaremos ao hospital.*
*Sinto que fracassei com ela por nunca ter percebido seu potencial real. Sou uma mãe terrível. Sinto que nunca deveria ter descoberto o que ela pensava.*
Logo surgiram pessoas que questionaram isso — que corretamente me chamaram de fraudador. Um era um médico. Apontou a insanidade de tudo isso — a ideia ridícula de que algumas fitas adesivas poderiam ler ondas cerebrais — e disse que me denunciaria às autoridades competentes assim que me encontrasse. Até onde sei, ele nunca o fez. Talvez isso o ajude. Ah bem.
Então recebi um terceiro e-mail de Anna. Começava assim:
*Graças a você, agora sei o que curará meu filho. Levarrei Michael a um dos exorcistas mais poderosos do país.*
O sangue gelou em minhas veias.
*Como ele não é verdadeiramente deficiente, o praticante diz que pode usar métodos mais agressivos para expulsar o demônio de Michael.*
*O corpo deve ser privado de comida.*
*O demônio deve ser batido para fora.*
*A poção deve ser enfrentada com poção.*
Fechei meu laptop. Depois o abri de novo e deletei meu site — aquele que usava para vendas. Cancelou minha encomenda de reposição com a empresa de suprimentos médicos. Finalmente, mantive meu dedo sobre o botão que apagaria o chatbot do aplicativo.
Depois pensei em Arnold, em minha tia, e em todos os outros lá fora que haviam formado relações com seus filhos, apenas para ligar o aplicativo e serem repentinamente confrontados com silêncio. Seria muito pior do que antes.
Perguntei a mim mesmo o que eles pensariam ter acontecido com seu filho.
Anna e “o praticante” estão aguardando julgamento. Tenho um alerta do Google com seus nomes, e com o nome de Michael. Sei que pais podem ter tido dificuldades em me encontrar, mas duvido que a polícia consiga.
Ar.Nold já não está mais à venda.
Mas eu não consegui desligá-lo.
0 comentários:
Postar um comentário