Meta nova geração de modelo de IA Avocado conclui pré-treinamento, sendo internamente referido como o modelo base "mais poderoso"

A Meta informou alguns colaboradores que o novo modelo, internamente com o nome de código Avocado, se tornou o “modelo de fundação pré-treinado mais poderoso da empresa até à data.”

A 4 de fevereiro, Megan Fu, gestora de produto no Superintelligence Lab da Meta, revelou novos desenvolvimentos no modelo Avocado num memorando interno a 20 de janeiro, segundo o The Information.

O memorando mostra que o Avicado completou a fase de pré-treino, que é a fase inicial do desenvolvimento de modelos de IA, na qual o modelo aprende conhecimentos gerais, padrões e relações ao ser exposto a grandes conjuntos de dados.

O memorando afirmou que o desempenho da Avocado nos testes superou os principais modelos de fundação pré-treinados open-source. Embora ainda não tenha sido otimizado para treinos subsequentes, o modelo conseguiu “competir” com os principais modelos pós-treino em termos de conhecimento, perceção visual e desempenho multilíngue.

Este desenvolvimento é significativo para a posição competitiva da Meta no campo da IA, mas o desempenho real do modelo ainda precisa de ser verificado de forma independente pelo mundo exterior após o seu lançamento público. As ações da Meta fecharam em queda de 3,28% na quarta-feira.

O laboratório de superinteligência lidera a investigação e desenvolvimento

O modelo Avocado foi desenvolvido pelo Superintelligence Lab da Meta, uma equipa dentro da Meta dedicada à investigação e desenvolvimento de IA. O laboratório representa a mais recente reestruturação organizacional da Meta no campo da inteligência artificial.

O pré-treino é uma etapa inicial crítica no desenvolvimento de modelos de IA, durante a qual o modelo adquire conhecimentos e padrões comuns ao expô-lo a conjuntos de dados de grande escala antes de o refinar para tarefas específicas. O abacate já completou esta fase.

Segundo um memorando interno, a competitividade do Avocado em múltiplas dimensões foi alcançada sem que o modelo fosse treinado e otimizado. O pós-treino é a etapa seguinte do desenvolvimento do modelo e é frequentemente usado para afinamento e refinamento de cenários de aplicação específicos.

Apesar do otimismo interno da Meta quanto às capacidades do Avocado, o desempenho real do modelo não pode ser verificado de forma independente neste momento. Só quando o modelo é divulgado publicamente é que investigadores e programadores externos podem avaliar objetivamente as suas capacidades.

Segundo relatos, a Meta ainda não anunciou um calendário de lançamento nem planos de comercialização para o modelo Abacate. A empresa também não indicou se o modelo será lançado como open source ou apenas para uso interno.

Aviso de risco e aviso legal

        O mercado é arriscado e o investimento precisa de ser cauteloso. Este artigo não constitui aconselhamento pessoal de investimento e não tem em conta os objetivos de investimento específicos, a situação financeira ou as necessidades dos utilizadores individuais. Os utilizadores devem considerar se quaisquer opiniões, opiniões ou conclusões contidas neste artigo são consistentes com as suas circunstâncias específicas. Invista em conformidade, por sua conta e risco.