Até 79% mais rápido que o Meteor Lake da Intel, com preços e consumo de energia mais baixos!
Durante uma apresentação recente compartilhada com Tom’s Hardware USA, a AMD comparou seus processadores com tecnologia Ryzen AI integrada, que é projetada especificamente para tarefas com uso intensivo de inteligência artificial, com o recém-lançado processador Intel Core Ultra baseado na avançada arquitetura Meteor Lake. Notavelmente, existe uma disparidade significativa de desempenho entre essas duas ofertas em ambientes de IA locais.
Para fornecer um ponto de referência, a AMD comparou seu produto com dois modelos de laptop, um utilizando um processador Ryzen 7 7840U e outro com um chip Intel Core Ultra 7 155H. Uma distinção importante entre esses dispositivos reside no consumo de energia, em que o primeiro (modelo Intel) consome quase o dobro de energia com 28 watts em comparação com o último (modelo AMD) com apenas 15 watts.
A primeira distinção relativa ao custo baseia-se na relação entre as despesas e o hardware. Ilustrado na imagem representada, a opção Intel é vendida por US$ 999 e inclui uma unidade de estado sólido (SSD) de 512 GB, bem como uma tela IPS de alta definição total (FDH) de 60 Hz. Por outro lado, a um preço mais acessível de US$ 899, a AMD apresenta uma alternativa que apresenta uma tela OLED aprimorada IMAX de 2,8K e 120 Hz e um SSD com capacidade de terabyte.
Lhama 2 e Mistral Instruct. O primeiro foi desenvolvido pela Meta e serve como um indicador adequado do potencial do acelerador; por outro lado, este último é um LLM com 7,3 bilhões de parâmetros que foi concebido por ex-desenvolvedores Meta e DeepMind.
Apesar da tendência dos fabricantes determinarem tanto os critérios de avaliação como os métodos de avaliação específicos, existe uma disparidade notável no desempenho entre os dois cenários de teste que foram considerados. Por exemplo, a AMD utilizou o mesmo conjunto de resultados de benchmark para criar uma narrativa interativa envolvendo uma bola saltitante, bem como compor uma ode poética destacando as virtudes de sua arquitetura de processador.
Além disso, a organização de Lisa Su avaliou a métrica de “tempo até o primeiro token”, que denota a duração entre o início da consulta e o recebimento da resposta inicial do modelo de linguagem. Além disso, uma avaliação fundamental examinada foi “tokens por segundo”, momento em que o modelo de linguagem fornece a sua resposta de forma sequencial.
Levando todos os fatores em consideração, o Ryzen 7 7840U exibiu notável eficiência nas tarefas Llama v2 Chat e Mistral Instruct, alcançando uma melhoria impressionante de 79% no primeiro e um aumento de 41% no segundo. Este desempenho excepcional pode ser atribuído principalmente à integração perfeita do NPU, GPU RDNA 3 e CPU Zen 4, que facilita o processamento eficiente de IA local. Além disso, um executivo da AMD observou que a aceleração do AVX512 desempenhou um papel significativo na condução destes excelentes resultados.
Além da “equipe vermelha”, eles forneceram um guia de instruções passo a passo por meio de seu blog detalhando o processo de instalação e execução do LLVM e do LM Studio em sistemas que incorporam CPUs Ryzen acompanhadas por Ryzen AI ou Radeon RX série 7000 placas gráficas. Notavelmente, a Intel reconhece o potencial para aumentar os recursos de IA em sua tecnologia e se comprometeu a fornecer desempenho aprimorado de suas futuras arquiteturas Arrow Lake e Lunar Lake, prometendo uma melhoria de até três vezes na eficiência do processamento de IA ao utilizar recursos de CPU e GPU.
*️⃣ Link da fonte: