Gaudi 3, Falcon Shores e chips personalizados para a China enfrentam a NVIDIA!
Se a NVIDIA preparar uma imensa implantação de hardware e software para 2024, sendo a primeira a chegar a esta nova geração de hardware para IA, a Intel diz que não vai ficar para trás. Por este motivo, a empresa azul partilhou grande parte do que será a atualização de hardware e software para este ano destacando três filiais na primeira e duas na segunda. O mais interessante é sem dúvida Gaudi 3 e Falcon Shores, bem como software para atrair clientes através da transição do ecossistema NVIDIA para o seu de forma fácil e rápida. Esta será a estratégia da Intel para o futuro da IA.
A vantagem que a NVIDIA tem em seu software de IA “padrão” pode ser bastante tocada pelo que a Intel apresentou. A verdadeira alternativa aos de Huang são sem dúvida os de Gelsinger, menos, enquanto a AMD segue em ritmo acelerado em software e lança seu novo hardware no final do ano. É por isso que é tão importante o que acabaram de mostrar os azuis, porque são a única alternativa real aos verdes.
Intel divide sua estratégia de hardware para IA em três partes: Data Center, Rede e Cliente e Borda
Levando em consideração o aspecto do software, que tem maior importância para a Intel em comparação com seus componentes de hardware, vale a pena notar que a abordagem física geral foi categorizada em três grupos distintos e apresentada de forma intrigante, conforme mencionado no slide anterior.
-Data Center: Sistemas escaláveis e Aceleradores ou CPU. -Redes: Padrões abertos e altamente configuráveis com amplas infraestruturas de rede. -**Cliente e Edge **: PC com IA, bem como NPU, GPU e CPU.
Em nossos esforços iniciais, iniciamos um trio de empreendimentos com foco em segmentação, arquitetura de sistemas e desenvolvimento de software. Essa abordagem estratégica está alinhada ao nosso objetivo de competir com a NVIDIA no domínio da inteligência artificial. Abaixo, forneceremos uma breve visão geral dessas áreas principais:
-Segmentação: Dois produtos específicos, Gaudi 3 e Falcon Shores. -Sistemas: Próprios e externos com parceiros, ambos com o objetivo de competir com a NVIDIA e suas GPUs. -Software: o mais complexo dos três. HE Ele está incluído no programa Intel Gaudi TPC C-API e possui várias seções que explicaremos mais tarde.
Segmentação de produtos de IA em hardware: Gaudi 3 e Falcon Shores
A Intel desenvolveu um roteiro distinto para suas CPUs projetadas especificamente para inteligência artificial, que são comercializadas sob o nome de Xeon. Esta linha de processadores opera independentemente de outros produtos e necessita de uma nomenclatura própria e exclusiva. Ao contrário da NVIDIA, que oferece um produto único conhecido como SuperChip, a estratégia da Intel envolve a incorporação de capacidades de IA em múltiplas ofertas, em vez de concentrá-las todas em uma.
Na verdade, já vimos que o plano original era assim, e finalmente Falcon Shores foi remodelado para retirar o CPU, que permanece tradicionalmente na placa-mãe. Portanto, dentro do Data Center e sua segmentação o que encontramos em primeiro lugar é Gaudi 3.
A Intel forneceu algumas métricas gerais antes de sua apresentação em alguns meses e são muito promissoras. Em primeiro lugar, é passado para o 5nm da TSMC , que irá adicionar uma densidade maior por mm2 e o número de unidades deve crescer bastante. Sabemos disso porque a Intel confirmou que o desempenho computacional BF16 ou 2 x FP8 aumentará quatro vezes, ou seja, será 4 vezes mais poderoso que Gaudi 2.
Largura de banda dobra e na HBM será alcançado aumento de 50%. Quanto a Falcon Shores, a grande promessa do blues após atrasos e modificações substanciais, é um pouco misterioso. O que a Intel disse é que terá o melhor de Gaudi AI como IP , mas ao mesmo tempo, o melhor de GPU IP. Eles também enfatizaram outra vez que sua chegada será em 2025 tanto em no setor Baixo e no Alto, o que parece ser uma série de produtos e não um produto único em si.
Novos SKUs para a China em andamento
De acordo com as declarações da organização, estão em total conformidade com as medidas regulatórias estabelecidas pelo Governador Raimondo e pelo Presidente Biden e, caso sejam propostas modificações, modificarão seu hardware de acordo para acomodar tais alterações.
Temos clientes importantes na China e estamos nos certificando de seguir os regulamentos e Esperamos introduzir SKUs que cumpram os regulamentos usando o mesmo hardware de Gaudí, mas com adoções que os tornem exportáveis para a China.
Consequentemente, pode-se inferir que tanto Gaudi 3 como FalconShores deverão lançar as suas edições censuradas adaptadas especificamente para o mercado chinês, entrando assim num cenário altamente competitivo ao lado de líderes da indústria como a NVIDIA e a AMD na arena global.
Nível de abstração de software Intel: migração de modelo, a estratégia de IA está completa
Como a seção Networking é mais voltada para empresas, vamos ao último ponto que é realmente novo e interessante para todos. E a Intel pretende obter um"Grand Chelem".
Para isso, estão marcadas 4 linhas de produtos abaixo do guarda-chuva do seu software: GPU, Gaudi 2, Gaudi 3 e Falcon Shores. Isso indica que sediará de 2023 a 2025 nesta primeira etapa do migração. Porque sim, a palavra-chave aqui é migração, para ser mais específico e técnico, a Intel chamou tudo de “Migração de Modelo” e consiste em dois grandes grupos: Alto e Baixo.
Começando com Low, ele está focado em ser o ponto de entrada da comunidade e tem como objetivo que os desenvolvedores do kernel usem de forma personalizada o modelo de baixo nível TPC-C para seus aceleradores Gaudi. Em vez disso, os desenvolvedores do modelo Open AI e Triton terão que migrar para Falcon Shores ou suas GPUs como sua melhor opção de hardware.
A Intel pretende fornecer hardware especializado adaptado a modelos específicos, em vez de adotar uma abordagem generalizada semelhante à da NVIDIA.
As empresas poderão migrar da NVIDIA para o ecossistema Intel incluindo apenas 3 ou 5 linhas de código
Na seção High ainda temos os pontos de entrada da comunidade, mas os de Frameworks. Os pontos são divididos de acordo com o modelo e aqui sim, A Intel é generalista como a NVIDIA. Deepspeed e PyTorch estarão na seção Framework e Hogging Face e Mosaic ML na seção da comunidade.
Para todos os 4, podem ser usados GPU, aceleradores e Falcon Shores. Os objetivos são claros: fazer com que desenvolvedores e empresas de data center migrem da NVIDIA para a Intel apenas adicionando de 3 a 5 linhas de código aos modelos nomeados.
O processo é extremamente simples tanto para empresas quanto para desenvolvedores, garantindo compatibilidade quase perfeita com o hardware Intel e, ao mesmo tempo, economizando quantidades substanciais de tempo normalmente dedicado aos procedimentos de instalação e configuração, eliminando completamente a necessidade de tais atividades.
Por fim, a empresa também deu a entender que está se preparando para entrar nos segmentos de treinamento (a NVIDIA já tem seu primeiro treinamento para desenvolvedores oficiais) e inferência. Da mesma forma, não deram mais informações ou datas específicas.
*️⃣ Link da fonte: