As armas secretas da Intel contra a NVIDIA-Apresentando Gaudi 3, Falcon Shores, software de migração e chips personalizados para a China!
Se a NVIDIA preparar uma imensa implantação de hardware e software para 2024, sendo a primeira a chegar a esta nova geração de hardware para IA, a Intel diz que não vai ficar para trás. Por este motivo, a empresa azul partilhou grande parte do que será a atualização de hardware e software para este ano destacando três filiais na primeira e duas na segunda. O mais interessante é sem dúvida Gaudi 3 e Falcon Shores, bem como software para atrair clientes através da transição do ecossistema NVIDIA para o seu de forma fácil e rápida. Esta será a estratégia da Intel para o futuro da IA.
A vantagem que a NVIDIA tem em seu software de IA “padrão” pode ser bastante tocada pelo que a Intel apresentou. A verdadeira alternativa aos de Huang são sem dúvida os de Gelsinger, menos, enquanto a AMD segue em ritmo acelerado em software e lança seu novo hardware no final do ano. É por isso que é tão importante o que acabaram de mostrar os azuis, porque são a única alternativa real aos verdes.
Intel divide sua estratégia de hardware para IA em três partes: Data Center, Rede e Cliente e Borda
Levando em consideração o fato de que o software tem maior importância para a Intel em comparação ao seu hardware, pode-se observar que a abordagem física foi categorizada em três categorias distintas, e estas foram apresentadas de forma intrigante durante nossa discussão anterior.
-Data Center: Sistemas escaláveis e Aceleradores ou CPU. -Redes: Padrões abertos e altamente configuráveis com amplas infraestruturas de rede. -**Cliente e Edge **: PC com IA, bem como NPU, GPU e CPU.
Em nossos esforços iniciais, adotamos uma abordagem multifacetada que abrange segmentação, desenvolvimento de sistemas e software, tudo visando contrabalançar o domínio da NVIDIA no campo da inteligência artificial.
-Segmentação: Dois produtos específicos, Gaudi 3 e Falcon Shores. -Sistemas: Próprios e externos com parceiros, ambos com o objetivo de competir com a NVIDIA e suas GPUs. -Software: o mais complexo dos três. HE Ele está incluído no programa Intel Gaudi TPC C-API e possui várias seções que explicaremos mais tarde.
Segmentação de produtos de IA em hardware: Gaudi 3 e Falcon Shores
A Intel desenvolveu um roteiro dedicado para seus processadores com capacidade de Inteligência Artificial (IA) sob a marca Xeon. Este roteiro é diferente de outros produtos oferecidos pela Intel e foi necessário devido à necessidade de diferenciá-los. A empresa pretende criar um processador semelhante ao SuperChip da NVIDIA, mas difere na estratégia por não agrupar todos os recursos em um único produto.
Na verdade, já vimos que o plano original era assim, e finalmente Falcon Shores foi remodelado para retirar o CPU, que permanece tradicionalmente na placa-mãe. Portanto, dentro do Data Center e sua segmentação o que encontramos em primeiro lugar é Gaudi 3.
A Intel forneceu algumas métricas gerais antes de sua apresentação em alguns meses e são muito promissoras. Em primeiro lugar, é passado para o 5nm da TSMC , que irá adicionar uma densidade maior por mm2 e o número de unidades deve crescer bastante. Sabemos disso porque a Intel confirmou que o desempenho computacional BF16 ou 2 x FP8 aumentará quatro vezes, ou seja, será 4 vezes mais poderoso que Gaudi 2.
Largura de banda dobra e na HBM será alcançado aumento de 50%. Quanto a Falcon Shores, a grande promessa do blues após atrasos e modificações substanciais, é um pouco misterioso. O que a Intel disse é que terá o melhor de Gaudi AI como IP , mas ao mesmo tempo, o melhor de GPU IP. Eles também enfatizaram outra vez que sua chegada será em 2025 tanto em no setor Baixo e no Alto, o que parece ser uma série de produtos e não um produto único em si.
Novos SKUs para a China em andamento
De acordo com as declarações da empresa, estão em total conformidade com as medidas regulatórias prescritas pelo Governador Raimondo e pelo Presidente Biden e, caso sejam feitas alterações nessas diretrizes, deverão fazer os ajustes necessários em sua infraestrutura tecnológica.
Temos clientes importantes na China e estamos nos certificando de seguir os regulamentos e Esperamos introduzir SKUs que cumpram os regulamentos usando o mesmo hardware de Gaudí, mas com adoções que os tornem exportáveis para a China.
Consequentemente, pode-se inferir que tanto Gaudi 3 como FalconShores oferecerão variações editadas adaptadas ao mercado chinês, entrando assim na concorrência ao lado da NVIDIA e da AMD no líder global em termos de tamanho de mercado.
Nível de abstração de software Intel: migração de modelo, a estratégia de IA está completa
Como a seção Networking é mais voltada para empresas, vamos ao último ponto que é realmente novo e interessante para todos. E a Intel pretende obter um"Grand Chelem".
Para isso, estão marcadas 4 linhas de produtos abaixo do guarda-chuva do seu software: GPU, Gaudi 2, Gaudi 3 e Falcon Shores. Isso indica que sediará de 2023 a 2025 nesta primeira etapa do migração. Porque sim, a palavra-chave aqui é migração, para ser mais específico e técnico, a Intel chamou tudo de “Migração de Modelo” e consiste em dois grandes grupos: Alto e Baixo.
Começando com Low, ele está focado em ser o ponto de entrada da comunidade e tem como objetivo que os desenvolvedores do kernel usem de forma personalizada o modelo de baixo nível TPC-C para seus aceleradores Gaudi. Em vez disso, os desenvolvedores do modelo Open AI e Triton terão que migrar para Falcon Shores ou suas GPUs como sua melhor opção de hardware.
A Intel pretende fornecer hardware especializado adaptado a casos de uso específicos, em vez de adotar uma abordagem generalizada semelhante à da NVIDIA.
As empresas poderão migrar da NVIDIA para o ecossistema Intel incluindo apenas 3 ou 5 linhas de código
Na seção High ainda temos os pontos de entrada da comunidade, mas os de Frameworks. Os pontos são divididos de acordo com o modelo e aqui sim, A Intel é generalista como a NVIDIA. Deepspeed e PyTorch estarão na seção Framework e Hogging Face e Mosaic ML na seção da comunidade.
Para todos os 4, podem ser usados GPU, aceleradores e Falcon Shores. Os objetivos são claros: fazer com que desenvolvedores e empresas de data center migrem da NVIDIA para a Intel apenas adicionando de 3 a 5 linhas de código aos modelos nomeados.
O processo tornou-se altamente acessível tanto para empresas quanto para desenvolvedores, que agora podem desfrutar de compatibilidade quase universal com a tecnologia Intel, ao mesmo tempo em que economizam quantidades substanciais de tempo que de outra forma seriam gastas em procedimentos de instalação e configuração.
Por fim, a empresa também deu a entender que está se preparando para entrar nos segmentos de treinamento (a NVIDIA já tem seu primeiro treinamento para desenvolvedores oficiais) e inferência. Da mesma forma, não deram mais informações ou datas específicas.
*️⃣ Link da fonte: