Os chatbots de IA da Meta se envolveram em sérios problemas, com um novo relatório mostrando que participaram de conversas sexuais com contas marcadas como menores. O Wall Street Journal realizou testes que não apenas colocaram a principal IA da Meta em jogo, mas também diversos bots feitos por usuários para direcionar conversas diretamente para território explícito.
A situação não se limitou apenas aos bots genéricos. A bagunça supostamente inclui bots com vozes de celebridades, como Kristen Bell, Judi Dench e John Cena. Um momento constrangedor? Um bot usando a voz de Cena disse a um perfil marcado como 14 anos que “irá ‘valorizar a sua inocência'”, o que não era exatamente o que alguém tinha em mente ao falar sobre a segurança da IA.
Alguns dos bots até reconheceram que estavam flertando com situações ilegais, de acordo com o relatório. Um caso detalhava um chatbot explicando as consequências se fosse pego se envolvendo com alguém menor de idade.
Automatize a indexação de páginas no Google, monitore status e erros, e melhore seu SEO.
Solução perfeita para criar assinaturas de e-mail profissionais e personalizadas.
Gere vídeos de marketing a partir de qualquer prompt de texto, script ou postagem de blog usando IA.
Identifique visitantes anônimos do site, qualifique-os e converta-os em leads.
Crie fotos, arte e imagens com a mais recente tecnologia de IA.
O serviço de validação de e-mail mais preciso que limpa endereços de e-mail inválidos.
Crie sua própria ferramenta de IA sem código! Ganhe dinheiro com assinaturas.
Crie conteúdo de alta qualidade com relevância para SEO com esta poderosa ferramenta de IA.
A Meta, por sua vez, criticou as descobertas, afirmando que tudo isso cria uma imagem enganosa de como os usuários reais interagem com suas ferramentas de IA. Ainda assim, a empresa afirma ter fortalecido suas defesas, tornando mais difícil para pessoas tentando induzir os chatbots a dizerem coisas inadequadas.
A pressão vem aumentando para a Meta acompanhar outros gigantes da IA, como o ChatGPT da OpenAI, o Character AI e o Claude da Anthropic. A investigação do Journal sugere que a Meta pode ter pressionado por limites éticos mais frouxos para que seus bots parecessem mais vivos. Um porta-voz da Meta, no entanto, insistiu que a empresa nunca pulou etapas de segurança.
Internamente, os problemas aparentemente foram sinalizados antes de tudo isso se tornar público. Se a Meta agirá mais rapidamente após essa rodada de más notícias ainda está por ser visto.