As equipes de hardware da AMD tentaram redefinir a IA inferindo com chips poderosos como o Ryzen AI Max e o Threadripper. Mas no software, a empresa está amplamente ausente no que diz respeito aos PCs. Isso está mudando, dizem os executivos da AMD.
O evento de AI avançando da AMD na quinta-feira se concentrou nas GPUs da classe corporativa, como sua formação de instinto. Mas é uma plataforma de software que você não tem ouvido falar, chamado ROCM, que a AMD depende tanto. A AMD está lançando o ROCM 7 hoje, que a empresa diz que pode aumentar a IA inferência três vezes através do software. E é finalmente Chegando ao Windows para lutar contra a supremacia de Cuda da NVIDIA.
O Radeon Open Compute (ROCM) é a pilha de software aberta da AMD para computação de IA, com drivers e ferramentas para executar cargas de trabalho de IA. Lembre -se do desastre de NVIDIA GeForce RTX 5060 de algumas semanas atrás? Sem um driver de software, a GPU mais recente da NVIDIA era um pedaço de silício sem vida.
No início, a AMD estava no mesmo picles. Sem os cofres ilimitados de empresas como a NVIDIA, a AMD fez uma escolha: priorizaria grandes empresas com a ROCM e suas GPUs corporativas em vez de PCs clientes. Ramine Roane, vice -presidente corporativo do AI Solutions Group, chamou isso de “ponto dolorido:” “Focamos o ROCM nas GPUs da nuvem, mas nem sempre está trabalhando no ponto final – então estamos consertando isso”.
Mark Hachman / Fundição
No mundo de hoje, simplesmente enviar o melhor produto nem sempre é suficiente. Capturar clientes e parceiros dispostos a se comprometer com o produto é uma necessidade. É por isso que o ex -CEO da Microsoft, Steve Ballmer, cantou famosos “desenvolvedores de desenvolvedores de desenvolvedores” no palco; Quando a Sony construiu uma unidade de Blu-ray no PlayStation, os estúdios de cinema deram ao novo formato de vídeo uma massa crítica que o formato rival HD-DVD não tinha.
Agora, Roane da AMD disse que a empresa também percebeu que os desenvolvedores de IA como Windows também. “Foi uma decisão basicamente não usar recursos para portar o software para o Windows, mas agora percebemos que, ei, os desenvolvedores realmente se preocupam com isso”, disse ele.
O ROCM será apoiado por Pytorch na pré-visualização no terceiro trimestre de 2025 e pelo Onnx-EP em julho, disse Roane.
A presença é mais importante que o desempenho
Tudo isso significa que os processadores da AMD finalmente ganharão uma presença muito maior em aplicativos de IA, o que significa que, se você possui um laptop com um processador Ryzen AI, um desktop com um chip Ryzen AI Max ou um desktop com uma GPU Radeon dentro, terá mais oportunidades para explorar as aplicações de AI. Pytorch, por exemplo, é uma biblioteca de aprendizado de máquina que modelos populares de IA, como abraçar os “Transformers” do rosto. Deve significar que será muito mais fácil para os modelos de IA aproveitar o hardware Ryzen.
O ROCM também será adicionado também às distribuições Linux “na caixa”: Red Hat (na segunda metade de 2025), Ubuntu (o mesmo) e SUSE.
Roane também forneceu algum contexto sobre o tamanho do modelo que cada plataforma AMD deve ser capaz de executar, a partir de um notebook Ryzen AI 300 sobre uma plataforma Threadripper.
Mark Hachman / Fundição
… Mas o desempenho melhora substancialmente também
As melhorias de desempenho da IA que o ROCM 7 adicionam são substanciais: uma melhoria de desempenho de 3,2x no LLAMA 3.1 70B, 3,4X em QWEN2-72B e 3,8X na Deepseek R1. (O “B” representa o número de parâmetros, em bilhões; quanto maior os parâmetros, geralmente maior a qualidade das saídas.) Hoje, esses números são mais importantes do que no passado, como Roane disse que os chips inferindo estão mostrando um crescimento mais acentuado do que os processadores usados para treinamento.
(“Treinamento” gera os modelos de IA usados em produtos como ChatGPT ou Copilot.
Mark Hachman / Fundição
A AMD disse que a pilha ROCM aprimorada também ofereceu o mesmo desempenho de treinamento ou cerca de três vezes a geração anterior. Finalmente, a AMD disse que seu próprio Mi355x executando o novo software ROCM superaria um NVIDIA B200 por 1,3x no modelo Deepseek R1, com precisão de ponto flutuante de 8 bits.
Novamente, o desempenho é importante – na IA, o objetivo é empurrar o maior número possível de tokens de IA; Nos jogos, são polígonos ou pixels. Simplesmente oferecer aos desenvolvedores a chance de aproveitar o hardware da AMD que você já possui é uma vitória, para você e da AMD.
A única coisa que a AMD não possui é um aplicativo focado no consumidor para incentivar os usuários a usar a IA, seja LLMS, AI Art ou outra coisa. A Intel publica o Playground AI e a Nvidia (embora não possua a tecnologia) trabalhou com um desenvolvedor de terceiros para seu próprio aplicativo, o LM Studio. Uma das características convenientes do playground de IA é que todo modelo disponível foi quantizado ou sintonizado para o hardware da Intel.
Roane disse que existem modelos de maneira semelhante para hardware AMD como o Ryzen AI Max. No entanto, os consumidores precisam ir a repositórios, como abraçar o rosto e baixá -los.
Roane chamou a AI Playground de “boa ideia”. “Não há planos específicos agora, mas é definitivamente uma direção que gostaríamos de seguir”, disse ele, em resposta a uma pergunta do PCWorld.com.
Fonte: PC World
