À medida que os sistemas de inteligência artificial se tornam mais capazes, alguns no mundo da tecnologia estão resistindo à ideia de transferir o pensamento humano para máquinas. A Dra. Rumman Chowdhury, que lidera a Humane Intelligence, acredita que as ferramentas de IA podem ser úteis – mas não devem substituir a maneira como as pessoas raciocinam, decidem ou imaginam. Ela argumenta que, enquanto a IA se destaca no processamento de dados, ela não gera o tipo de pensamento original que molda descobertas revolucionárias.
Chowdhury, que também atuou como embaixadora de ciência dos EUA para IA, enfatizou que a verdadeira inovação vem das mentes humanas, não de algoritmos. Embora as empresas estejam correndo em direção à inteligência artificial geral – o tipo de IA que poderia se equiparar ao pensamento humano – ela diz que não há evidências de que as máquinas possam rivalizar com a profundidade criativa ou social das pessoas.
Muitos desenvolvedores ainda têm esperança de que a IA possa desvendar grandes descobertas científicas, como novos tratamentos para doenças graves. Mas Chowdhury aponta que essa esperança muitas vezes negligencia como a IA opera – e suas limitações. Sua organização, que se concentra no desenvolvimento responsável da IA, estuda como as pessoas interagem com chatbots e outros modelos de linguagem. Ela descobriu que a maneira como os usuários formulam suas perguntas pode moldar diretamente como um modelo responde – muitas vezes levando-o a respostas não confiáveis ou enganosas.
Automatize a indexação de páginas no Google, monitore status e erros, e melhore seu SEO.
Solução perfeita para criar assinaturas de e-mail profissionais e personalizadas.
Gere vídeos de marketing a partir de qualquer prompt de texto, script ou postagem de blog usando IA.
Identifique visitantes anônimos do site, qualifique-os e converta-os em leads.
Crie fotos, arte e imagens com a mais recente tecnologia de IA.
O serviço de validação de e-mail mais preciso que limpa endereços de e-mail inválidos.
Crie sua própria ferramenta de IA sem código! Ganhe dinheiro com assinaturas.
Crie conteúdo de alta qualidade com relevância para SEO com esta poderosa ferramenta de IA.
Num teste de simulação de cenários médicos, a equipe de Chowdhury observou que um modelo de linguagem deu conselhos de saúde equivocados. O problema surgiu porque o modelo estava respondendo a uma situação fabricada, formulada em termos emocionais e restritos – e tratou esses termos como fatos. Em vez de desafiar as suposições do usuário, o modelo tentou oferecer uma resposta útil dentro do prompt defeituoso.
Isso, segundo Chowdhury, destaca uma vulnerabilidade chave. A IA não raciocina – ela reage. Se a entrada estiver distorcida, é provável que a saída siga o mesmo caminho. Ela também observou que os usuários muitas vezes confiam na IA sem questionar sua confiabilidade ou suas próprias motivações. Quando as pessoas deixam de lado o pensamento crítico, correm o risco de aceitar resultados sem reflexão.
Além das falhas técnicas, ela vê um problema mais amplo na forma como a inteligência em si é definida. Nos círculos tecnológicos, muitas vezes está associada ao desempenho ou produtividade. Mas Chowdhury ressalta que a inteligência humana inclui muito mais – relacionamentos sociais, planejamento a longo prazo, cultura, conflito e criatividade. Esses elementos, ela argumenta, não podem ser reduzidos a códigos.
Para ela, proteger a agência humana – a capacidade de escolher, agir e refletir de forma independente – deve permanecer como uma prioridade máxima à medida que a IA avança. Delegar tarefas é bom, ela diz, mas as pessoas nunca devem abandonar o pensamento por trás delas. Chowdhury não vê a IA como inerentemente perigosa ou prejudicial. Na verdade, ela permanece otimista. Mas para ela, o otimismo significa reduzir a distância entre o que a IA promete e o que ela entrega atualmente – por meio de uma avaliação cuidadosa, não de confiança cega.