Entusiastas têm sentimentos mistos sobre as novas GPUs Instinct da AMD

AMD Instinct é a marca de GPU profissional da AMD. Eles são frequentemente usados ​​para cargas de trabalho pesadas, como IA, aprendizado de máquina e atuam como equivalentes das GPUs NVIDIA para data centers. 

A AMD lançou a GPU Instinct MI250 em 2021. Sendo uma GPU relativamente cara e pouco usada, nunca teve muitos benchmarks. Recentemente, ProjectPhysX no Twitter compartilhou sua opinião depois de executar alguns benchmarks nesta GPU, e seus pensamentos foram bastante intrigantes.

Em uma série de tweets (thread), ela expressou sua opinião sobre o desempenho que pode ser esperado, além de alguns pontos de interrogação.

O MI250 tem uma descrição enganosa da AMD. Esta GPU é anunciada como “GPU de chiplet único”, no entanto, existem dois GCDs (Graphics Complex Arrays) com duas GPUs. Isso significa que é um chip MCM (Multi Chip Module). 128 GB de memória GPU são compartilhados entre dois GCDs.

Bem, então, o que há de errado com isso? O problema é que uma GPU não pode acessar diretamente os dados em outra GPU. Pense nisso como uma tentativa da AMD de SLI, mas em aprendizado de máquina. Muitos algoritmos e softwares não estão configurados para funcionar com várias GPUs, o que significa que 128 GB de memória geralmente são disfarçados de 64 GB. Alguns algoritmos podem ser executados ainda mais lentamente devido a um gargalo de software.

ProjectPhysX continua dizendo que no papel o MI200 parece decente, às vezes até mais rápido que o A100 da NVIDIA. No entanto, em aplicativos e benchmarks com restrição de largura de banda, como a treliça de Boltzmann, essa GPU não pode oferecer desempenho no mesmo nível da NVIDIA A100. A razão é que é tão ineficiente quanto a arquitetura NVIDIA Kepler, que, lembre-se, tem cerca de 10 anos.

O gráfico pode parecer grande, mas nosso foco principal deve ser no NVIDIA A100, que tem desempenho muito melhor que o Instinct MI200.

Nem toda a esperança está perdida, pois ainda é uma melhoria significativa em relação à última geração (MI100) com o dobro do armazenamento (32 GB vs. 64 GB para o MI200). Além disso, o nó também é significativamente melhor, possuindo 8 GPUs em 4 soquetes com interconexão rápida. 

A AMD está mirando no data center com uma solução de computação de alta velocidade e econômica, embora a NVIDIA ainda represente uma ameaça real com sua próxima arquitetura Hopper para cargas de trabalho de IA.

Leia mais sobre o MI250 aqui.