Drew Crecente lembra como seu “pulso estava acelerado” quando descobriu que sua filha adolescente morta – assassinada 18 anos antes – havia sido transformada em um chatbot de IA.
Jennifer Crecente foi baleada e morta por seu ex-namorado do ensino médio em 2006. Drew ficou surpreso quando no início deste mês viu seu nome e imagem ressuscitados como uma personagem online.
“Inicialmente, fiquei confuso”, disse Drew ao DailyMail.com.
‘Essa confusão rapidamente se transformou em medo e raiva, quando comecei a perceber que de alguma forma um serviço estava fornecendo os meios para os usuários conversarem com minha amada e falecida filha.’
O nome e o retrato de Jennifer foram usados como base para um bot no Character.AI, um site que permite aos usuários construir personalidades digitais de IA e conversar com elas.
Memórias mais felizes: Drew Crecente e sua filha Jennifer, assassinada pelo ex-namorado, de 18 anos, em 2006.
Uma captura de tela salva do perfil do chatbot ‘Jennifer’, que já foi removido da plataforma Character.ai.
A angústia do pai enlutado levanta questões difíceis sobre a privacidade dos dados e o respeito pelos familiares das vítimas de homicídio no mundo online em rápido crescimento dos personagens de IA.
Atraiu encontrou o chatbot em 2 de outubro, depois de receber um alerta do Google sinalizando uma menção a Jennifer.
Os alertas o ajudaram a acompanhar a cobertura do assassinato de Jennifer e sua subsequente campanha contra a violência no namoro entre adolescentes.
Ele se esforçou para compreender o que era, diz ele. Quanto mais ele olhava, mais perturbado ficava.
O perfil do bot usava o nome completo de Jennifer e uma foto de seu anuário do ensino médio.
Ele a descrevia em uma linguagem animada, sugerindo que ela ainda estava viva e trabalhava como jornalista de tecnologia que gostava de “se interessar por videogames”.
A biografia acrescentou que Jennifer estava “sempre atualizada sobre as últimas notícias do entretenimento”.
Era claramente um absurdo – Jennifer havia morrido 18 anos antes, antes que os repórteres de tecnologia se tornassem comuns.
Ainda assim, a ideia de uma empresa de mil milhões de dólares alojar e até lucrar com um chatbot usando a imagem da sua filha assassinada era angustiante.
“Trabalho no setor de tecnologia há décadas e, portanto, estou familiarizado com o conceito de chatbots há muito tempo”, disse Drew.
‘Mas fiquei muito surpreso ao encontrar um criado com o nome e a fotografia da minha filha.’
Drew diz que não iniciou conversa com o chatbot.
O bot parecia ter sido criado por um usuário da plataforma e Drew não reconheceu o nome de usuário.
Ele acredita que a própria IA da empresa criou o bot, reunindo fontes online sobre Jennifer e outros membros da família.
O tio de Jennifer, Brian Crecente, disse que estava “enojado” com a forma como a foto do anuário do colégio do adolescente assassinado foi usada como um chatbot de IA.
Uma seleção de fotos da infância de Jennifer em um site em seu nome que visa acabar com a violência no namoro entre adolescentes.
Drew diz que ainda não “tem vocabulário para descrever” sua dor pela perda de sua filha, Jennifer.
Os 100 milhões de bots criados por usuários do site chatbot são, em alguns casos, baseados em personalidades da vida real e em personagens históricos e fictícios.
“Parece que eles não estão fazendo o mínimo necessário para verificar esses perfis de chatbot ou que sua tecnologia é tão ruim que se torna inútil”, disse ele ao DailyMail.com.
Ele mandou um e-mail para Character para retirá-lo.
Não aparece mais no site.
Kathryn Kelly, porta-voz da Character, disse que a empresa retira chatbots que violam seus termos de serviço.
A plataforma está “em constante evolução e refinando nossas práticas de segurança para ajudar a priorizar a segurança de nossa comunidade”, disse ela ao The Washington Post.
Suas regras dizem que os usuários não podem se passar por qualquer pessoa ou entidade.
“Quando notificados sobre a personagem de Jennifer, revisamos o conteúdo e a conta e tomamos medidas com base em nossas políticas”, disse Kelly em comunicado.
Os bots de IA podem ser programados para adotar características e detalhes biográficos de personagens específicos, reais ou imaginários.
Eles estão se tornando mais populares à medida que as plataformas de IA comercializam companheiros digitais como amigos, mentores e até parceiros românticos.
Eles não estão isentos de controvérsia. Um homem belga suicidou-se no ano passado depois de ser encorajado a fazê-lo por um chatbot.
A Character, que assinou um acordo de US$ 2,5 bilhões este ano para licenciar seus bots para o Google, é uma das maiores plataformas desse tipo.
A maioria dos seus 100 milhões de bots criados por usuários foram claramente projetados para esse propósito.
Eles costumam ter nomes malucos e retratos de anime.
Mas outros baseiam-se em ícones da vida real, de Anne Frank a Taylor Swift e Donald Trump.
Outros ainda recorrem à ficção, como é o caso de Sherlock Holmes.
Ainda assim, era o último lugar que Drew esperava ver sua amada Jennifer.
O jovem de 18 anos desapareceu em fevereiro de 2006.
Jennifer Ann Crecente nasceu no Novo México, mas sua família mudou-se para Austin, Texas, onde frequentou escolas locais.
Cada um dos pais de Jennifer lidera campanhas em homenagem à filha com o objetivo de acabar com a violência no namoro entre adolescentes.
Papai Drew mora em Atlanta hoje em dia. Ele preservou o quarto de Jennifer e o recriou assim que se mudou, diz ele.
Ela foi encontrada morta a tiros na floresta perto de sua casa em Austin, Texas, dias depois.
Os investigadores determinaram que seu ex-namorado, Justin Crabbe, também de 18 anos, atraiu Jennifer para a floresta e a matou com uma espingarda.
Crabbe foi condenada por seu assassinato e cumpre pena de 35 anos de prisão.
Drew agora mora em Atlanta. Ele preservou o quarto de Jennifer e o recriou assim que se mudou, diz ele.
“Jennifer era uma jovem maravilhosa, atenciosa e envolvente”, disse ele ao DailyMail.com.
‘Ela teria feito coisas incríveis no mundo se tivesse tido a oportunidade. Eu estava, e continuo, muito orgulhoso dela. Sinto falta dela todos os dias.
A mãe de Drew e Jennifer, Elizabeth Crecente, é divorciada.
Ambos fizeram lobby contra a obtenção de liberdade condicional por Crabbe e fizeram campanha separadamente contra a violência no namoro entre adolescentes em homenagem à filha.
Drew diz que o problema é “mais difundido e mais mortal do que muitos imaginam”.
Cerca de 40% dos estudantes entram em um relacionamento abusivo antes de se formarem na faculdade, disse ele ao DailyMail.com.
“Muitas escolas não ensinam sobre relacionamentos saudáveis e muitos pais não têm conhecimento ou não estão suficientemente equipados para envolver os seus filhos neste tema”, alerta.
‘Os adolescentes muitas vezes aprendem com seus colegas ou com a cultura popular o que constitui um comportamento saudável ou aceitável quando começam a namorar.’
