O modelo inclui uma configuração de esforço de raciocínio que os desenvolvedores podem ajustar de 0,2 a 0,99. A Thinking Machines disse que a configuração permite que os usuários equilibrem o desempenho em relação ao número de tokens gerados. Nos testes da empresa, o Inkling igualou a pontuação Terminal Bench 2.1 do Nemotron 3 Ultra, gerando cerca de um terço do número de tokens.
Os desenvolvedores podem ajustar o Inkling por meio do Tinker usando comprimentos de contexto de 64.000 ou 256.000 tokens e testá-lo por meio do Inkling Playground. O modelo está disponível por meio de APIs da Together AI, Fireworks, Modal, Databricks e Baseten. Também é suportado por software de inferência, incluindo SGLang, vLLM, TokenSpeed, llama.cpp e Hugging Face Transformers.
Os pesos completos do Inkling estão disponíveis no Hugging Face como ponto de verificação original e como ponto de verificação NVFP4 quantizado. A Thinking Machines também apresentou uma prévia do Inkling-Small, que tem 276 bilhões de parâmetros totais e 12 bilhões de parâmetros ativos. A empresa disse que divulgaria o peso total do modelo menor após a conclusão dos testes.
Fonte: Computer World
