A Intel revelou, nesta terça-feira (9), o Intel Gaudi 3, seu mais novo acelerador de IA voltado para computação de IA em larga escala. Fabricado em um processo de 5 nanômetros, o lançamento oferece uma melhor eficiência energética e mais poder de processamento, se comparado à geração anterior (Gaudi 2). 3759n
Intel Gaudi 3 2c2jq
De acordo com a empresa, que apresentou o Intel Gaudi 3 durante o evento Intel Vision 2024, a nova linha oferece um desempenho de IA computacional até 4x melhor do que a geração anterior, além de um aumento de 1,5x na largura de banda de memória e 2x na largura de banda de rede. Com o incremento, a solução da companhia desponta como uma das poucas alternativas do mercado para infraestrutura de IA Generativa em larga escala.
O Intel Gaudi 3 se destaca como a alternativa GenAI que apresenta uma atraente combinação de desempenho de preços, escalabilidade do sistema e vantagem do tempo de retorno.
Justin Hotard, vice-presidente executivo e gerente geral da Intel para data center e grupo de IA
Os chips Gaudi 3 possuem 64 Núcleos de Processamento Tensor (TPCs) personalizados para IA e são totalmente programáveis, com 8 Motores de Multiplicação Matricial (MME), o que resulta em um excelente desempenho em processamento computacional heterogêneo. Cada coprocessador MME é capaz de executar 64 mil operações paralelas, o que garante a capacidade de lidar com operações matriciais complexas, algo essencial para algoritmos de Deep Learning.
A Intel ressalta ainda que o acelerador Intel Gaudi 3 promete atender empresas das mais diversas áreas, como finanças, manufatura e saúde, que estejam buscando ampliar rapidamente a ibilidade à IA e a transição de projetos de IA generativa, desde de fases experimentais até a implementação em escala total.
A companhia assegura que a solução vai atender a esses requisitos e oferecerá, ainda, versatilidade por meio de software aberto baseado na comunidade e Ethernet aberta padrão do setor, ajudando as empresas a escalar seus sistemas e aplicações de IA de forma flexível.
Dentre os principais destaques do Intel Gaudi 3 ainda estão:
- Mecanismo de computação dedicado a IA: A solução permite um alto grau de eficiência computacional, tornando-os adeptos ao lidar com operações complexas de matrizes, um tipo de computação que é fundamental para algoritmos de aprendizagem profunda. Este projeto exclusivo acelera a velocidade e a eficiência das operações de IA paralelas e a vários tipos de dados, incluindo FP8 e BF16;
- Boost de memória para requisitos de capacidade de LLM: 128 gigabytes (GB) de capacidade de memória HBMe2, 3,7 terabytes (TB) de largura de banda de memória e 96 megabytes (MB) de memória de o aleatório estático integrado (SRAM) fornecem ampla memória para processar grandes conjuntos de dados GenAI em menos Intel Gaudi 3s, particularmente útil para atender grandes modelos de linguagem e multimodal, resultando em maior desempenho da carga de trabalho e eficiência do custo do data center;
- Dimensionamento eficiente do sistema para Enterprise GenAI: Vinte e quatro portas Ethernet de 200 gigabits (Gb) estão integradas a cada acelerador Intel Gaudi 3, fornecendo redes flexíveis e de padrão aberto;
- Software do setor aberto para produtividade de desenvolvedores: O software Intel Gaudi integra o framework PyTorch e oferece modelos otimizados baseados na comunidade hugging face, o framework de IA mais comum para desenvolvedores de GenAI de hoje. Isso permite que os desenvolvedores GenAI operem em um alto nível de abstração para facilidade de uso e produtividade e facilidade de portabilidade de modelos em diferentes tipos de hardware.
Briga com AMD e NVIDIA pelo mercado de IA u2o6s
O lançamento da Intel acirra a disputa com outras fabricantes, como a AMD e NVIDIA, esta última que, inclusive, anunciou, recentemente, o H200, U Ryzen Embedded 8000 para sistemas embarcados para aplicações industriais.
Atualmente, muitas ferramentas de IA já são utilizadas na indústria, principalmente no campo de visão computacional e processamento de Big Data. Com isso, juntas, as fabricantes já preparam-se para uma nova geração computacional, onde a IA promete dominar ainda mais os espaços nas mais diversas áreas.
Disponibilidade 4w3zf
O acelerador Intel Gaudi 3 estará disponível para fabricantes de equipamentos originais (OEMs) no segundo trimestre de 2024 em configurações padrão. Entre as parcerias de destaque estão Dell Techonolgies, HPE, Lenovo e Supermicro, com soluções utilizando os novos aceleradores chegando ao mercado já no terceiro trimestre.
Veja também:
Qualcomm RB3 Gen 2 é lançado com 10x mais performance em IA. Confira todos os detalhes do lançamento.
Revisado por Glauco Vital em 9/4/24.
