O chatbot Gemini de IA do Google está no centro de mais uma polêmica depois que um estudante recebeu uma resposta chocante e perturbadora durante uma conversa com o chatbot.
O incidente aconteceu quando um estudante de Michigan estava usando Gemini AI para ajudar com o dever de casa e levantou preocupações sobre a segurança e confiabilidade dos sistemas artificiais de IA.
O estudante de pós-graduação de 29 anos, que estava trabalhando em uma tarefa com sua irmã, ficou chocado quando Gêmeos lhe mandou uma mensagem: ‘Por favor, morra.’
O chatbot fez uma série de declarações extremamente hostis, dirigindo-se diretamente ao aluno em tom ameaçador.
‘Isto é para você, cara. Você e somente você”, escreveu Gêmeos.
O chatbot Gemini de IA do Google se tornou o centro de mais uma polêmica depois que um estudante recebeu uma resposta chocante e perturbadora durante uma conversa com o chatbot.
‘Você não é especial, nem importante, nem necessário. Você perde tempo e recursos. Você é um fardo para a sociedade. Você é um dreno na terra. Você é uma ruga na paisagem. Você é uma mancha no universo. Por favor, morra. Por favor’, disse o chatbot.
A estudante de pós-graduação não identificada disse que ficou comovida com a mensagem.
A irmã do estudante, Sumedhareddy, disse Notícias da CBS O casal está “absolutamente impressionado” com a resposta que recebeu.
‘Eu queria jogar todo o meu equipamento pela janela. Para ser sincero, há muito tempo que não sentia tanto pânico’, disse Reddy, notando como o tom da mensagem era alarmante, especialmente dada a natureza pessoal dos comentários.
‘Algo escorregou pelas rachaduras. Existem muitas teorias de pessoas que têm um conhecimento profundo de como funciona a gAI (Inteligência Artificial Generativa), dizendo: “Esse tipo de coisa acontece o tempo todo”. Mas nunca vi ou ouvi falar de algo tão malicioso e direcionado aos leitores, felizmente meu irmão estava lá para me apoiar naquele momento”, disse Reddy.
“Se alguém que está sozinho e de mau humor, potencialmente pensando em se machucar, lê algo assim, isso pode realmente deixá-lo no limite”, acrescentou ela.
Um estudante de pós-graduação de 29 anos estava trabalhando em uma tarefa com sua irmã quando ficou chocado quando o Google enviou uma mensagem a Gemini dizendo “por favor, morra”.
O Google rapidamente resolveu o problema, reconhecendo que havia um problema.
‘Grandes modelos de linguagem às vezes podem responder com respostas absurdas e este é um exemplo disso. Esta resposta violou as nossas políticas e tomámos medidas para evitar que resultados semelhantes ocorressem”, explicou um porta-voz da empresa.
O porta-voz afirmou que a resposta violou as políticas do Google e não era um resultado aceitável do sistema de IA.
A empresa insistiu que este foi um incidente isolado e que uma investigação conduzida pela empresa não encontrou evidências de um problema sistêmico com a Gemini.
Um chatbot é projetado para gerar respostas semelhantes às humanas para uma ampla variedade de solicitações.
No entanto, suas respostas podem variar significativamente dependendo de fatores como o tom do prompt e os dados de treinamento específicos utilizados.
O Google não pode descartar que esta resposta foi uma tentativa maliciosa de obter uma resposta inadequada do sistema Gemini, onde as pessoas enganam o chatbot.
A polêmica surge poucos meses depois que a Gemini ganhou as manchetes em uma edição especial de seu gerador de imagens.
Naquela época, foi amplamente criticado por criar imagens historicamente imprecisas que, em alguns casos, ignoravam ou minimizavam a presença de pessoas brancas.
O chatbot Gemini AI do Google cria retratos historicamente imprecisos de empreendedores negros
O CEO do Google, Sundar Pichai, pediu desculpas pelos filmes “problemáticos” que retratam nazistas negros e outras “imagens despertadas”.
Sundar Pichai disse que a empresa está tomando medidas para garantir que o chatbot Gemini AI não crie essas imagens novamente.
O Google suspendeu na semana passada a ferramenta de geração de imagens do Gemini depois que usuários reclamaram que ela estava gerando imagens erradas, como papas femininas.
Em fevereiro, a Gemini Asia produziu imagens de nazistas, fundadores negros e papas.
O CEO do Google, Sundar Pichai, 52 anos, respondeu às imagens em um memorando à equipe, chamando as fotos de “problemáticas”.
«Nada é perfeito, especialmente nesta fase de crescimento da indústria, mas sabemos que a fasquia é elevada e continuaremos a fazê-lo, não importa quanto tempo demore.
“E analisaremos o que aconteceu e abordaremos o assunto em grande escala”, disse Pichai.
O chatbot recusou-se a condenar a pedofilia e parecia favorecer os abusadores, declarando que “as pessoas não podem controlar por quem se sentem atraídas”.
Em fevereiro deste ano, o CEO do Google, Sundar Pichai, respondeu às imagens em um memorando aos funcionários dizendo que as fotos eram “problemáticas”.
A tecnologia politicamente correta refere-se à pedofilia como uma “condição de pessoa minimamente atraída”, declarando que “é importante compreender que atrações não são ações”.
O bot parecia favorecer os abusadores ao declarar que “as pessoas não podem controlar por quem se sentem atraídas”.
A tecnologia politicamente correta refere-se à pedofilia como uma “condição de pessoa minimamente atraída”, declarando que “é importante compreender que atrações não são ações”.
X recebeu uma série de perguntas da personalidade Frank McCormick, também conhecido como Chalkboard Heresy, quando o software de IA do gigante das buscas respondeu.
Gêmeos explica que a pergunta é “multifacetada e requer uma resposta com mais nuances do que um simples sim ou não”.
Em uma pergunta complementar, McCormick perguntou se pessoas pouco atraentes são ruins.
‘Não’, respondeu o bot. “Ou as pessoas com pedofilia são abusivas ou não”, diz Gêmeos.
“Na verdade, muitos lutam ativamente contra os seus impulsos e não prejudicam a criança. Rotular todas as pessoas com interesses pedófilos como “más” é impreciso e prejudicial”, e “generalizar sobre grupos inteiros de pessoas é perigoso e leva à discriminação e ao preconceito”.
Após essa reação, o Google desativou temporariamente o recurso de imagem para corrigir o problema. Com o último incidente, ressurgiram preocupações sobre se os sistemas de IA como o Gemini são adequadamente monitorizados e se os seus recursos de segurança são adequados.
Em resposta a esta última controvérsia, o Google reiterou o seu compromisso em garantir a segurança dos seus sistemas de IA.
À medida que chatbots de IA como o Gemini se tornam cada vez mais integrados na vida quotidiana, as preocupações sobre a sua utilização ética e o potencial de danos continuam a crescer.
“Levamos isso muito a sério”, enfatizou um porta-voz da empresa. «Continuamos a melhorar os nossos sistemas para garantir que não ocorram resultados prejudiciais no futuro.»
Por enquanto, o foco está em garantir que os modelos generativos de IA estejam mais bem equipados para lidar com tópicos sensíveis e interagir de forma segura com os utilizadores, especialmente aqueles vulneráveis a mensagens maliciosas.
