Hardware · Chip sob medida

AMD compra a Taalas e aposta em 'assar' o modelo de IA no próprio silício: um chip por modelo, sem passar pela memória

A startup de Toronto grava os pesos do modelo nas camadas de metal do chip; num teste, rodou o Llama 3.1 8B a cerca de 17 mil tokens por segundo — desempenho que a própria Taalas diz ser 73 vezes o do H200 da Nvidia com um décimo da energia.

Ler na TI Magazine →