{{logo_bard}} Logo após o lançamento do Gemini 1.0 Ultra com a reformulação da marca Bard na semana passada, o Google está de volta com uma novo modelo para competir com o GPT-4. Isto é o Modelo Gêmeos 1.5 Pro, o sucessor do Gemini 1.0 Pro que atualmente alimenta a versão gratuita do Gemini (anteriormente Bard).
Enquanto a família de modelos Gemini 1.0 tem uma janela de contexto de até 32 mil tokens, o modelo 1.5 Pro aumenta o comprimento do contexto padrão para até 128 mil tokens. Não apenas isso, ele suporta uma enorme janela de contexto de até 1 milhão de tokens, muito superior aos tokens de 128K do GPT-4 Turbo e de 200K do Claude 2.1.
Gemini 1.5 Pro baseado na arquitetura Mixture-of-Experts (MoE)
O Google diz que o Gemini 1.5 Pro é um modelo de tamanho médio, mas tem desempenho quase igual ao Gemini 1.0 Ultra enquanto usa menos computação. Isso é possível porque o modelo 1.5 Pro é construído na arquitetura Mixture-of-Experts (MoE), semelhante ao modelo GPT-4 da OpenAI. Esta é a primeira vez que o Google lança um modelo MoE, no lugar de um modelo único denso.
Caso você não esteja familiarizado com o conceito de arquitetura MoE, consiste em vários modelos especialistas menores que são ativados dependendo da tarefa em questão. A utilização de modelos especializados para tarefas específicas proporciona resultados melhores e mais eficientes.
Chegando à grande janela de contexto do Gemini 1.5 Pro, ele pode ingerir grandes quantidades de dados de uma só vez. O Google diz que o comprimento de contexto de 1 milhão pode processar 700.000 palavras ou 1 hora de vídeo, ou 11 horas de áudio, ou bases de código com mais de 30.000 linhas de código.
Para testar a capacidade de recuperação do Gemini 1.5 Pro, visto que possui uma janela de contexto tão grande, o Google realizou o Agulha num palheiro desafio, e segundo a empresa, fez recall da agulha (declaração de texto) 99% do tempo. Em nossa comparação entre o Gemini 1.0 Ultra e o GPT-4, fizemos o mesmo teste, mas o Gemini 1.0 Ultra simplesmente não conseguiu recuperar a afirmação. Com certeza testaremos o novo modelo Gemini 1.5 Pro e compartilharemos os resultados.
Para ser claro, o modelo 1.5 Pro é atualmente em visualização e apenas desenvolvedores e clientes podem testar o novo modelo usando Estúdio de IA e Vertex AI. Você pode clicar no link para entrar na lista de espera. O acesso ao modelo será gratuito durante o período de testes.