Descubra os revolucionários chips Graviton4 e Trainium2 da AWS já disponíveis!
-Processadores
Os engenheiros da Amazon Web Services ( AWS ) projetaram um par de novos chips, Graviton4 e Trainium2, que estão sendo lançados hoje. O objetivo é satisfazer as necessidades crescentes dos clientes que dependem dos serviços em nuvem da empresa, mantendo-se em uma posição competitiva em comparação com plataformas rivais.
Os novos processadores Graviton4 e Tranium2 melhoram o desempenho com uma ampla variedade de cargas de trabalho, incluindo aquelas relacionadas a aprendizado de máquina e procedimentos de treinamento de inteligência artificial. A Amazon enfatiza que os chips recém-revelados representam o “non plus ultra” em termos de desempenho, eficiência energia e inovação.
AWS Graviton4
Graviton4 foi projetado para ser o processador AWS mais poderoso e com maior eficiência energética até hoje. Ele oferece uma melhoria de 30% no desempenho desempenho computacional , 50% mais núcleos e 75% mais largura de banda de acesso à memória em comparação com os processadores Graviton3 da geração anterior.
A empresa oferece a capacidade de executar praticamente qualquer aplicativo ou carga de trabalho no Amazon Elastic Compute Cloud ( Amazon EC2 ). Não à toa, os clientes incluem empresas como Anthropic, Databricks, Datadog, Epic, Honeycomb e SAP que usam chips Graviton4 para gerenciar bancos de dados, ferramentas de análise, servidores web, processos em lote, serviços de publicidade, servidores de aplicativos e microsserviços.
AWS Trainium2
Um chip como o Trainium2 foi projetado para fornecer o melhor desempenho computacional para treinamento de modelo aprendizado de máquina na AWS. Para essas tarefas específicas, hoje cada vez mais comuns e exigentes, o processador oferece até 4 vezes o desempenho dos chips Trainium de primeira geração. Ele pode ser implementado em UltraClusters EC2 compostos por um número máximo de 100.000 chips.
É óbvio que com estas premissas torna-se possível otimizar o funcionamento dos modelos básicos do LLM ( grandes modelos de linguagem ) num curto espaço de tempo e com uma dupla melhoria na eficiência energética.
Por outro lado, os modelos generativos modernos usam bilhões de parâmetros que exigem enorme poder de computação e alto desempenho de computação.
A AWS revela o que clientes como a Anthropic estão usando o Trainium2 para construir e treinar modelos em grande escala, explorando novas possibilidades no uso de sistemas de inteligência artificial avançada.
barra lateral inferior relacionada 300
*️⃣ Link da fonte: