NVIDIA quebra benchmarks MLPerf com GPUs H100 e prova por que é a líder incontestada do mercado de IA

As GPUs H100 da NVIDIA estão no topo do espectro quando se trata de IA e a empresa mais uma vez estabeleceu novos recordes em benchmarks MLPerf.

A liderança em IA da NVIDIA continua à medida que as GPUs Hopper H100 alcançam desempenho recorde de IA generativa MLPerf

Nos últimos benchmarks MLPerf publicados pela NVIDIA, a empresa destaca que estabeleceu vários novos recordes, onde o supercomputador Eos completou um benchmark de treinamento baseado em um modelo GPT-3 com 175 bilhões de parâmetros treinados em um bilhão de tokens em apenas 3,9 minutos. Este é um enorme ganho em relação ao recorde anterior, onde o supercomputador conseguiu completar o mesmo benchmark em 10,9 minutos, marcando um impressionante aumento de 3x.

Agora, os números alcançados pelo supercomputador são realmente fenomenais, mas qual é a principal razão por trás da conquista?

Em palavras simples, a arquitetura de GPU Hopper de última geração da NVIDIA é combinada com recursos de software bem refinados. O supercomputador Eos emprega atualmente 10.752 GPUs NVIDIA H100 Tensor Core, que substituíram os A100s bastante antigos, e é por isso que o enorme aumento de desempenho ocorre em primeiro lugar. Além disso, por meio de recursos de software bem desenvolvidos, como o NeMo da NVIDIA , que auxilia no treinamento LLM, a Team Green conseguiu extrair um poder excepcional de sua plataforma.

Além disso, outra conquista recorde da NVIDIA mencionada no post são os avanços feitos no “escalamento do sistema”, onde através da ajuda de diversas otimizações de software, a empresa conseguiu apresentar uma taxa de eficiência de 93%. As 10.752 GPUs H100 superaram em muito o dimensionamento do treinamento de IA em junho, quando a NVIDIA usou 3.584 GPUs Hopper. A importância do escalonamento eficiente é imensa na indústria, pois atingir alto poder computacional requer a utilização de mais recursos de hardware e, sem suporte de software adequado, a eficiência do sistema fica ainda mais comprometida.

O papel da NVIDIA na indústria de IA é de grande importância, uma vez que a empresa tem o poder de fornecer as GPUs de IA mais capazes conhecidas pela humanidade, pelo menos por enquanto. Deixando de lado o aspecto financeiro, a Team Green tem trabalhado rapidamente em seus recursos de software, além de colaborar com os clientes para garantir que seu portfólio de produtos ofereça desempenho ideal, mantendo a eficiência e a estabilidade.

Fonte de notícias: Blog da NVIDIA