A Apple surpreendeu um dos desenvolvimentos mais aclamados da inteligência artificial. Um novo estudo interno sugere que os modelos de “raciocínio” – sistemas de IA projetados para imitar o pensamento humano passo a passo – são muito menos capazes do que a indústria esperava. Publicado sob o título “The Illusion of Thinking”, o artigo da equipe de aprendizado de máquina da Apple fornece uma crítica abrangente dos grandes modelos de linguagem aprimorados por raciocínio (LLMs). Estas são versões de IA que tentam resolver problemas simulando lógica de múltiplos passos. Mas, quando submetidos a testes, o estudo sugere que esses modelos muitas vezes desmoronam sob pressão.
O que mais se destacou foi a queda inesperada no desempenho à medida que aumentava a complexidade. Em vez de aumentarem seu raciocínio para enfrentar o desafio, os modelos começaram a oferecer menos raciocínio. Isso sugere que sua capacidade de pensamento pode ser mais cosmética do que estrutural.
Um olhar mais atento revelou que os modelos muitas vezes saíam do caminho depois de encontrar uma solução correta. Em vez de parar ali, eles continuavam, às vezes revertendo seus próprios passos corretos. Esse fenômeno, conhecido como “excesso de pensamento”, resultou em respostas enterradas sob camadas de lógica desnecessária.
A Apple não pede o fim dos modelos de raciocínio, mas insta a repensar sobre o que esses sistemas realmente fazem. O foco da IA da empresa ainda permanece em recursos eficientes, focados na privacidade, que rodam nos dispositivos dos usuários.
Enquanto alguns na comunidade de IA acolheram o estudo da Apple como uma verificação da realidade muito necessária, outros o veem como excessivamente cauteloso. Mas os dados da Apple são difíceis de ignorar. Os pesquisadores da empresa não se basearam em benchmarks abstratos ou tarefas vagas. Eles construíram ambientes controlados, ajustaram a complexidade dos quebra-cabeças passo a passo e mediram não apenas as respostas, mas a lógica por trás delas.
Por enquanto, parece que a ilusão de raciocínio pode ser apenas isso – uma ilusão.