PC para IA com 128 GB VRAM: setup com 4 Radeon atinge 1.192 tokens/s

Um entusiasta de inteligência artificial demonstrou o poder de um PC montado para rodar modelos de linguagem avançados localmente, alcançando a impressionante marca de 1.192 tokens por segundo. Atualizado em 22 de junho de 2026. A máquina, equipada com quatro placas de vídeo AMD Radeon AI PRO R9700, totaliza 128 GB de memória de vídeo (VRAM) e dispensa a necessidade de serviços em nuvem para tarefas de IA.

O projeto, compartilhado pelo usuário u/brainchillzZ na comunidade r/LocalLLM do Reddit, detalha o desempenho do computador ao executar o modelo Qwen3.8-Flash-Next, que possui cerca de 180 bilhões de parâmetros, segundo a reportagem do Hardware.com.br.

A configuração por trás do desempenho

O computador foi montado com componentes de alta performance focados em computação de IA. A configuração se destaca por coordenar quatro GPUs para trabalhar em uma única tarefa, uma abordagem diferente de outros projetos que dividem as placas para tarefas distintas.

• Placas de Vídeo: 4x AMD Radeon AI PRO R9700, cada uma com 32 GB de VRAM, totalizando 128 GB.
• Memória RAM: 122 GB.
• Conexão: As placas estão conectadas via interfaces PCI Express 5.0 x16.
• Sistema Operacional: Ubuntu 26.04 com kernel Linux 7.0.
• Consumo: Cada GPU foi limitada a um consumo de 211 W, somando aproximadamente 844 W apenas para as placas de vídeo durante a geração de respostas.

O salto de desempenho: de 75 para 1.192 tokens por segundo

O proprietário do PC relatou que, inicialmente, utilizava o software llama.cpp para rodar o mesmo modelo de IA, atingindo entre 65 e 75 tokens por segundo. O desempenho mudou drasticamente ao adotar o Radiance, um mecanismo de inferência que utiliza paralelismo tensorial para distribuir o processamento entre as quatro GPUs simultaneamente.

Essa mudança de software permitiu um aumento de velocidade de aproximadamente três vezes para um único fluxo de dados e um desempenho agregado massivo com múltiplas solicitações, conforme os testes divulgados:

• 1 fluxo: 236 tokens/s
• 2 fluxos: 371 tokens/s
• 4 fluxos: 591 tokens/s
• 8 fluxos: 890 tokens/s
• 16 fluxos: 1.192 tokens/s

Por que 128 GB de VRAM são cruciais para IA local?

Executar modelos de linguagem grandes localmente tem como principal desafio a memória. O modelo Qwen3.8-Flash-Next, em sua versão quantizada, possui um arquivo de cerca de 113,6 GiB, de acordo com o Hardware.com.br. Para obter alta velocidade, é essencial que todo o modelo caiba na VRAM da placa de vídeo, que é muito mais rápida que a RAM do sistema.

Com 128 GB de VRAM, o PC consegue manter todos os parâmetros do modelo carregados, evitando o gargalo de ter que transferir dados da RAM. A AMD posiciona a Radeon AI PRO R9700, com seus 32 GB de VRAM, exatamente para essas cargas de trabalho intensivas. A grande capacidade de memória também permite reservar espaço para o "cache KV", essencial para manter o contexto em conversas longas e múltiplas sessões simultâneas.

Um detalhe curioso: o gabinete à prova de gatos

Além do desempenho, um detalhe inusitado da montagem chamou a atenção: uma modificação no gabinete Thermaltake. O proprietário instalou uma tampa superior elevada usando hastes de aço e ímãs. A razão, segundo ele, foi para impedir que seu gato, que gostava de deitar sobre o PC, bloqueasse a saída de ar quente do radiador, garantindo a refrigeração adequada do sistema.

Perguntas frequentes sobre PC para IA

O que é a AMD Radeon AI PRO R9700?

A AMD Radeon AI PRO R9700 é uma placa de vídeo profissional baseada na arquitetura RDNA 4. Ela é equipada com 32 GB de memória GDDR6 e 128 aceleradores de IA, sendo projetada especificamente para desenvolvimento e inferência de inteligência artificial local, conforme especificado pela AMD.

Quantos tokens por segundo é um bom desempenho para IA local?

Um desempenho considerado fluido para chatbots em tempo real fica na faixa de 30 a 40 tokens por segundo, onde a resposta parece quase instantânea para o usuário. A marca de 236 tokens/s para um único usuário e 1.192 tokens/s agregados para 16 usuários é excepcionalmente alta e demonstra a capacidade do sistema de lidar com cargas de trabalho pesadas e simultâneas.

É possível montar um PC similar?

Sim, mas exige um investimento significativo e conhecimento técnico. Cada placa Radeon AI PRO R9700 tem um preço de varejo sugerido de US$ 1.299, e o custo real pode variar. Além disso, é preciso uma placa-mãe com múltiplas vias PCIe 5.0 para garantir que as placas operem com a máxima largura de banda, um fator crucial para o desempenho em configurações multi-GPU.

Conclusão

O projeto do entusiasta é uma prova impressionante do potencial do hardware de consumidor e profissional para criar estações de trabalho de IA locais que rivalizam com serviços de nuvem. A combinação de VRAM massiva e software otimizado, como o Radiance, foi a chave para desbloquear um desempenho que, até pouco tempo, era restrito a grandes datacenters.