Liberte o poder da IA com o Xeon de 5ª geração da Intel-até 64 núcleos e 320 MB de cache!
Juntamente com os processadores Intel Cora Ultra, a empresa também anunciou seu 5ª geração Intel Xeon. Esses processadores são considerados líderes em aceleração de IA por hardware apoiado por software avançado e maduro. Para fazer isso, estamos analisando CPUs com design multichip na forma de duas ferramentas de computação com até 32 núcleos cada. Nos modelos mais básicos, temos um design monolítico clássico capaz de abrigar no máximo 32 núcleos.
Desta forma, o Intel Xeon de 5ª geração poderá oferecer uma configuração de até 64 núcleos e 128 threads de processamento acompanhada de até 320 MB de cache L3. Talvez o mais interessante em comparação com seu concorrente AMD EPYC Genoa (4ª geração), seja que os núcleos, o cache, a interface de interconexão Mesh e o controlador de memória, tudo isso interligado sob o mesmo chip. No caso da AMD acontece o contrário, o que gera pequenos gargalos que afetam o desempenho.
Também deve ser levado em consideração que a Intel adiciona 64 núcleos com 2 blocos , enquanto a AMD recorre a 4 blocos de 16 núcleos cada. Cada bloco possui 32 MB de cache L3 (128 MB no total), o que acaba limitando o desempenho das máquinas virtuais.
Intel Xeon 5ª geração vs 4ª geração
De acordo com a Intel, entre o Intel Xeon de 5ª e 4ª geração há uma melhoria média de desempenho de 21%. Em inferência, a melhoria chega a até 42%; e na computação de alto desempenho a melhoria é de até 40%. Embora as melhorias de desempenho sejam perceptíveis, a maior melhoria está na distribuição, reduzindo gargalos comprimindo 64 núcleos em 2 blocos em vez de 4 blocos como seu antecessor, o que cria um gargalo maior devido às latências de interconexão.
O segundo grande avanço do Intel Xeon de 5ª geração está na memória. Chega para triplicar o cache compartilhado (320MB L3). Também suporta até 12 módulos de memória DRAM DDR5 a 5.600 MHz , próximo a uma memória CXL intercalada. A potência sem controle é inútil e é por isso que seu desempenho foi melhorado, oferecendo 34% mais desempenho para cada watt consumido. Isto também gera uma economia de 100W de energia por tomada no estado inativo.
Para melhorar o desempenho da IA, adicionamos extensões Intel AMX (Intel Advanced Matrix Extensions). Eles fornecem maior desempenho em modelos de linguagem LLM e em qualquer IA em geral. Somado a isso está o software Intel AI otimizado para mais de 300 modelos de Deep Learning e mais de 50 modelos de Machine Learning.
Intel Xeon 8582\+ vs AMD EPYC 9554: duelo entre os melhores do seu segmento
No nível de desempenho, temos cargas de trabalho convencionais (Linkpack, NAMD, LAMMPDS, serviços financeiros, etc.). Nestes, o Intel Xeon de 5ª geração promete ser até 117% mais rápido que seu concorrente AMD EPYC. No desempenho de virtualização com 16 vCPUs, falamos de até 133% de melhoria** de desempenho. E finalizamos com desempenho de até 160% na forma de inferência.
Com esses dados é que a Intel defende sua liderança em desempenho de IA em uma CPU. Além disso, o Intel Xeon de 5ª geração oferece um ótimo equilíbrio entre desempenho, eficiência e custo. A empresa indica que suas CPUs consomem menos energia, reduzem as emissões de CO2 e possuem uma arquitetura mais econômica.
Esses dados são baseados no TCO, o “ Custo Total de Propriedade”. O TCO é um cálculo que leva em consideração todos os custos associados à aquisição, implementação, operação e manutenção de um ativo ou serviço ao longo de seu ciclo de vida. De acordo com a Intel, em um exemplo de 50 servidores Intel Xeon 5ª geração vs AMD EPYC Genoa, suas CPUs são capazes de oferecer 62% mais economia de custos.
*️⃣ Link da fonte: