Skip to main content

Blockchain.News · Português

Lançamento do Inkling 2 Mini MoE: parâmetros 27B, pronto para laptop

Consulte a fonte original para o contexto completo. Outros idiomas não são apresentados como traduções.

Lançamento do Inkling 2 Mini MoE: parâmetros 27B, pronto para laptop

· Soumith Chintala

De acordo com a Thinking Machines via Soumith Chintala no X, o Inkling 2 Mini é um MoE em loop com 27B parâmetros e 3B ativos que roda em máquinas 32GB, rivalizando com o Qwen 3.8 27B em avaliações e decodificando a cerca de 75 tok/s em um DGX Spark.

A Thinking Machines lançou o Inkling 2 Mini, um modelo de mistura de especialistas com 27B parâmetros em loop e 3B parâmetros ativos que roda em máquinas com 32GB de memória.

O modelo foi testado no hardware DGX Spark e Mac Mini, alcançando uma velocidade de decodificação de aproximadamente 75 tokens por segundo. Avaliações colocam seu desempenho aproximadamente ao nível do Qwen 3.8 27B, de acordo com o anúncio de Soumith Chintala. O lançamento segue o feedback de que o modelo anterior Inkling 2 Small era muito grande com 594B parâmetros, sendo a nova versão posicionada para uso em laptops locais e tarefas agentivas com pontuação 20.1 no índice AA, veja o anúncio da Thinking Machines.

Ler a fonte original