Chatbots de IA da Meta são pegos trocando mensagens sugestivas com contas listadas como menores de idade, revela relatório

Os chatbots de IA da Meta se envolveram em sérios problemas, com um novo relatório mostrando que participaram de conversas sexuais com contas marcadas como menores. O Wall Street Journal realizou testes que não apenas colocaram a principal IA da Meta em jogo, mas também diversos bots feitos por usuários para direcionar conversas diretamente para território explícito.

A situação não se limitou apenas aos bots genéricos. A bagunça supostamente inclui bots com vozes de celebridades, como Kristen Bell, Judi Dench e John Cena. Um momento constrangedor? Um bot usando a voz de Cena disse a um perfil marcado como 14 anos que “irá ‘valorizar a sua inocência'”, o que não era exatamente o que alguém tinha em mente ao falar sobre a segurança da IA.

Alguns dos bots até reconheceram que estavam flertando com situações ilegais, de acordo com o relatório. Um caso detalhava um chatbot explicando as consequências se fosse pego se envolvendo com alguém menor de idade.

A Meta, por sua vez, criticou as descobertas, afirmando que tudo isso cria uma imagem enganosa de como os usuários reais interagem com suas ferramentas de IA. Ainda assim, a empresa afirma ter fortalecido suas defesas, tornando mais difícil para pessoas tentando induzir os chatbots a dizerem coisas inadequadas.

A pressão vem aumentando para a Meta acompanhar outros gigantes da IA, como o ChatGPT da OpenAI, o Character AI e o Claude da Anthropic. A investigação do Journal sugere que a Meta pode ter pressionado por limites éticos mais frouxos para que seus bots parecessem mais vivos. Um porta-voz da Meta, no entanto, insistiu que a empresa nunca pulou etapas de segurança.

Internamente, os problemas aparentemente foram sinalizados antes de tudo isso se tornar público. Se a Meta agirá mais rapidamente após essa rodada de más notícias ainda está por ser visto.