Contents

Cartões revolucionários de IA de Jim Keller

Contents

A Tenstorrent, sob a liderança do estimado gênio da arquitetura Jim Keller, conhecido por seu trabalho nos processadores AMD K7, K8 e Zen, bem como nos chipsets Apple A4 e A5, lançou seus kits de desenvolvimento Grayskull e75 e Grayskull e150, que são placas PCI Express projetadas especificamente para aprimorar os recursos de aceleração de inferência.

O Tenstorrent utiliza uma arquitetura de grade composta por Tensix Cores, que possui recursos de processamento de tensores em pequena e grande escala. Esses núcleos incorporam cinco processadores RISC-V, uma unidade matemática de array especializada em cálculos de tensores, uma unidade SIMD projetada para operações vetoriais, hardware otimizado para compactação e descompactação de pacotes e até 1,5 MB de SRAM.

Quem é Jim Keller, o mago da arquitetura que você deveria conhecer

Nossos processadores possuem interface de comunicação direta entre seus núcleos, eliminando a necessidade de transferência de dados via DRAM. Nosso sistema foi projetado tendo em mente a facilidade de programação, é dimensionado com mais eficiência do que GPUs e é excelente no gerenciamento da escassez de tempo de execução e de cálculos condicionais.

Tenstorrent define o segundo termo como a capacidade do hardware de utilizar seus próprios algoritmos exclusivos para processar seletivamente partes específicas de um determinado conjunto de dados, descartando o restante. Essa abordagem aumenta a velocidade com que as inferências são feitas e acelera a convergência do processo de aprendizagem, segundo comunicado da empresa.

/images/grayskull-e75-11-03-2024.jpg

O modelo Grayskull e75 representa a opção de entrada em termos de capacidades de desempenho. Ele apresenta um design discreto como uma placa PCI Gen 4 equipada com um chip Grayskull solitário com potência máxima de 75 watts. Embora este nível de energia geralmente não exija a inclusão de uma conexão de energia adicional, o Tenstorrent incorporou uma porta PCIe de 6 pinos dedicada ao fornecimento de corrente elétrica ao ventilador de resfriamento integrado. No que diz respeito às características específicas do chip Grayskull, o fabricante fornece informações detalhadas sobre seus parâmetros técnicos, permitindo aos usuários tomar decisões informadas com base em suas necessidades específicas.

-Núcleo Tensix: 96 -Relógio AI: 1 GHz -SRAM: 96 MB -Memória: 8 GB LPDDR4 a 102,4 GB/s -Interface: PCIe 4.0 x16 -TBP: 75W -Dimensões (sem Kit de Refrigeração): 18 x 167,5 x 69 mm -Dimensões (com Kit de Refrigeração): 18 x 257 x 98 mm

Grayskull DevKit foi projetado para atender aos requisitos de desenvolvedores de aprendizado de máquina que buscam uma alternativa às GPUs convencionais. O dispositivo suporta uma ampla gama de modelos, aumentando assim a adaptabilidade dos projetos de inteligência artificial. Segundo a empresa, o Grayskull DevKit demonstra desempenho excepcional em cinco modelos – BERT, ResNet, Whisper, YOLOv5 e U-Net.

/images/grayskull-e150-11-03-2024.jpg

Grayskull E150 possui impressionantes capacidades de potência, chegando a 200 watts, tornando-o uma opção significativamente mais forte em comparação com o desempenho modesto do Mjolnir. Aqui estão seus recursos detalhados:

-Núcleo Tensix: 120 -Relógio AI: 1,2 GHz -SRAM: 120 MB -Memória: 8 GB LPDDR4 a 118,4 GB/s -Interface: PCIe 4.0 x16 -Potência total da placa: 200W -Dimensões (sem Kit de Refrigeração): 36 x 260 x 111 mm -Dimensões (com Kit de Refrigeração): 36 x 399 x 114 mm

O fornecimento do software TT-Buda e TT-Metalium vem junto com os kits de desenvolvimento. O primeiro permite a execução imediata de modelos predefinidos, enquanto o último facilita a criação de novos modelos ou a modificação dos existentes. Duas ofertas do Tenstorrent, nomeadamente Grayskull e75 e e150, podem ser adquiridas a um custo de US$ 599 e US$ 799 cada. Infelizmente, não possuímos quaisquer dados sobre seu desempenho em diversas cargas de trabalho ou quando comparado com outras alternativas no mercado.

O acesso do Tenstorrent a ambas as opções de kit de desenvolvedor constitui uma informação significativa, embora não seja o único anúncio recente. Recorde-se que a organização formou uma aliança com o Leading-edge Semiconductor Technology Center (LSTC), nação com a qual mantém laços particularmente robustos.

*️⃣ Link da fonte:

Estão disponíveis,