Quando o Meta lançou seu aplicativo autônomo de chatbot AI em abril, não fez muito barulho. A ferramenta, destinada a conversas leves em vez de tarefas pesadas, entrou nas lojas de aplicativos sem muita publicidade. Mas agora, semanas depois, o que era para ser um vislumbre do rosto amigável da IA deu uma virada, e não necessariamente para melhor. Uma das características marcantes do aplicativo é o chamado “Feed Discover”. No papel, é uma vitrine, uma sequência de conversas, sugestões e imagens de usuários que escolheram compartilhá-las. Na prática, parece mais um confessionário digital. Ao rolar, você não encontra apenas ideias de receitas de férias ou pedidos de desenhos animados. Você encontra pessoas abrindo seus corações para uma máquina e, involuntariamente, para o mundo. Entre os pedidos casuais, há momentos que o fazem parar no caminho. Segundo descobertas da BI, um homem pede uma oração para começar a manhã. Outro quer ajuda para escrever a um juiz sobre a custódia de uma criança. Alguém está tentando escrever uma carta para seu clube local depois de ter sido suspenso. Não são apenas os tópicos que parecem deslocados, mas também a sensação de que alguns usuários podem não perceber que tornaram suas conversas públicas. O aplicativo não torna as postagens públicas por padrão. O Meta afirma que é necessário tocar deliberadamente em “Compartilhar” e, em seguida, em “Postar” antes que qualquer coisa seja publicada. Mesmo assim, algumas informações que apareceram, incluindo números de telefone pessoais e endereços de e-mail, sugerem que pelo menos alguns usuários podem ter clicado sem entender completamente as consequências. Há mais. Se alguém usar o chat de voz com o bot do Meta e depois compartilhar essa troca, ela também aparece no feed, com áudio e tudo. Em algumas gravações, a conversa ao fundo dá a impressão de que o usuário não tinha ideia de que estava transmitindo. Em uma, duas pessoas discutem um horário de trabalho enquanto o assistente do Meta tenta participar. Em outra, parece que o telefone de alguém foi empurrado no bolso, com o bot ocasionalmente falando sem ninguém ouvir. A parte perturbadora não é apenas que as pessoas estão compartilhando momentos íntimos com a AI. É que seus perfis reais do Facebook ou Instagram estão ligados a essas postagens. Um estranho rolando o feed pode clicar em um nome e, em alguns casos, acessar todo o histórico de mídias sociais de alguém. Pelo menos um usuário, contatado após postar uma consulta de reparo de carro, disse que não pretendia compartilhar sua conversa publicamente. Para ser justo, nem todas as postagens são tão carregadas. Muitos usuários estão simplesmente pedindo ajuda com planos de jantar, procurando sugestões de escrita ou gerando imagens divertidas. Ainda assim, a experiência geral parece irregular – uma mistura do mundano, do bizarro e do preocupantemente pessoal. É como ouvir pedaços de conversas privadas em uma sala lotada onde ninguém percebeu que o microfone está ligado. O Meta não esconde suas ambições na área de IA. A empresa está investindo recursos nesse espaço, visando avanços que eventualmente poderiam ultrapassar a inteligência humana. Mas, a curto prazo, o lado voltado para o público desse esforço – a parte que usuários comuns podem realmente ver – parece meio cru. O Feed Discover pretendia destacar a criatividade e a conexão. Em vez disso, dá a impressão de que muitos usuários não sabem exatamente no que estão se metendo. Se o Meta quer que o público veja sua IA como o futuro, talvez precise fazer um trabalho melhor mostrando como esse futuro protege, em vez de expor, as pessoas que a usam.