Índice
Compreensão Diferente de “Provavelmente” entre Humanos e IA
Quando um ser humano diz que algo é “provável” ou “possível”, geralmente existe uma compreensão compartilhada sobre o significado. No entanto, quando um chatbot de IA como o ChatGPT utiliza essas palavras, o significado atribuído é diferente. Isso foi constatado em nosso recente estudo.
Estudo sobre Comunicação de Incerteza
Publicamos na revista NPJ Complexity uma pesquisa que analisa como grandes modelos de IA se alinham (ou não) com humanos na comunicação de incertezas. O foco estava em palavras que expressam probabilidade, como “talvez”, “provavelmente” e “quase certo”. Descobrimos que a interpretação dessas palavras varia bastante entre humanos e IA.
Definição de Palavras de Probabilidade
Palavras de probabilidade são termos que indicam a chance de um evento acontecer. Exemplos incluem “talvez”, “provavelmente” e “quase certo”. Estes termos podem ser associados a porcentagens para indicar seu grau de probabilidade.
Automatize a indexação de páginas no Google, monitore status e erros, e melhore seu SEO.
Solução perfeita para criar assinaturas de e-mail profissionais e personalizadas.
Gere vídeos de marketing a partir de qualquer prompt de texto, script ou postagem de blog usando IA.
Identifique visitantes anônimos do site, qualifique-os e converta-os em leads.
Crie fotos, arte e imagens com a mais recente tecnologia de IA.
O serviço de validação de e-mail mais preciso que limpa endereços de e-mail inválidos.
Crie sua própria ferramenta de IA sem código! Ganhe dinheiro com assinaturas.
Diferença na Interpretação entre Humanos e IA
Os modelos de IA e humanos mapeiam palavras de probabilidade para porcentagens de maneira distinta. Enquanto no extremo “impossível” há concordância, em palavras como “talvez” existem grandes divergências. Por exemplo, um modelo pode atribuir 80% a “provável”, enquanto humanos interpretam como 65%.
Causas das Divergências
Humanos interpretam palavras com base em contexto e experiências pessoais. Por outro lado, os modelos de linguagem baseiam-se nos dados de treinamento, que podem conflitar, resultando em diferentes interpretações.
Influência de Viés e Linguagem
Nosso estudo também indicou que grandes modelos de linguagem são influenciados por vieses de gênero e a especificidade da linguagem usada. Mudanças de “ele” para “ela” nas frases afetaram as estimativas de probabilidade da IA. Da mesma forma, mudar do inglês para o chinês resultou em variações, refletindo diferenças culturais na compreensão de incertezas.
Conclusão
É crucial entender que modelos de IA interpretam termos de probabilidade de forma diferente dos humanos, devido à sua base de dados e treinamento. Para melhorar a comunicação entre humanos e IA, devemos considerar como essas ferramentas processam a linguagem e as diferenças culturais e contextuais inerentes nas palavras.