Maior não é Melhor: Chefe de IA do Meta Diz que Modelos em Escala Maior estão longe de serem Impressionantes

  • Categoria do post:Notícias

A comunidade de IA continua a viver da expectativa de que modelos maiores seriam melhores em design, mas essa não é a verdade, segundo o principal pesquisador de IA da Meta. O chefe de IA da Meta está expondo a verdade sobre como modelos em maior escala não significam melhor desempenho, como se poderia supor, devido a conjuntos de dados maiores, mais parâmetros e aumento da computação. A ideia existe há muito tempo, e isso deu origem a grandes investimentos na infraestrutura de modelos.

Agora, estamos vendo as falhas dessa teoria, como compartilhado por Yann Lecun, que não economizou em suas críticas. Ele também desafiou o conceito ao proferir um discurso na Universidade Nacional de Singapura. Segundo ele, mais dados e poder não significam sistemas de IA mais inteligentes.

Ele também revelou como sistemas de modelos de IA menores e mais simples darão falsas esperanças sobre modelos maiores serem mais inteligentes, e isso leva os pesquisadores nesse campo para o caminho errado.

Muitas das inovações no mundo da IA continuam a atingir um platô à medida que dados de alta qualidade atingem seu limite devido à escassez. Alguns dos maiores modelos ainda não se aproximam de nada parecido com inteligência humana. Outros afirmam que dimensionar a IA deu origem a uma abordagem tola de que quanto mais você avança com a IA, melhor ela se tornará.

Em relação às previsões para a próxima geração de IA, LeCun acredita que elas precisarão fazer muito mais do que prever texto e ingerir muitos dados. Isso significaria que os sistemas de IA aprenderiam novas tarefas em uma velocidade mais rápida. Eles compreenderiam os arredores do mundo e não apenas texto simples, dando origem ao senso comum.

A variante do modelo mundial para projetar a IA pode prever como o mundo real se altera diante de diferentes ações. É uma grande melhoria em relação ao software atual em uso, continuou. Anteriormente, vimos o pesquisador de IA compartilhar como a inovação real surgirá em máquinas que não apenas respondem a dados, mas também compreendem causa e efeito em ambientes dinâmicos.

Está claro que ele está fazendo muito sentido com essas afirmações, semelhante à sua recusa em acreditar que a IA pode substituir os humanos completamente.