AMD fecha acordo pela Taalas: o silício molda-se ao modelo

A AMD anunciou um acordo definitivo para adquirir a Taalas, empresa canadiana fundada em 2023, com a intenção de reforçar a sua oferta na área da inferência. Como consta do comunicado oficial da AMD Investor Relations, a operação pretende integrar a tecnologia da Taalas no roteiro dos aceleradores, ao lado das GPU Instinct e dos CPU EPYC. Vamsi Boppana, senior vice president do Artificial Intelligence Group da AMD, sublinhou que o objetivo é construir uma “plataforma de IA completa” com flexibilidade de implementação. No comunicado, a AMD descreve a tecnologia da Taalas como capaz de otimizar os fluxos de dados da inferência, reduzindo os estrangulamentos de cálculo e de memória das arquiteturas de uso geral.

O valor acrescentado prometido pela Taalas está numa abordagem que grava os pesos dos modelos diretamente no silício, evitando o vaivém constante de dados entre a memória e as unidades de cálculo. O diretor executivo, Ljubisa Bajic, explicou que a empresa nasceu para “repensar a inferência de IA a partir dos alicerces, construindo o hardware à volta do modelo”. Segundo dados avançados pela própria Taalas e retomados pela imprensa especializada, não verificados por testes independentes nem pelo MLPerf, o chip HC1 — fabricado no processo de 6 nanómetros da TSMC — serviria o Llama 3.1 8B a quase 17 000 tokens por segundo, com um consumo dez vezes menor e uma velocidade superior à de uma NVIDIA H200 (o termo de comparação varia consoante as fontes). A Taalas afirma ainda ser capaz de levar um novo chip ao mercado em cerca de dois meses, contra o ano ou dois da prática habitual do setor.

Depois do anúncio, as ações da AMD valorizaram cerca de 1,5%. Restam, porém, incertezas de peso: o comunicado não especifica os termos financeiros do acordo nem a data de fecho, embora refira as aprovações regulatórias necessárias. Não há detalhes sobre o que acontecerá ao pessoal da Taalas nem sobre que produtos daí resultarão. Fica em aberto uma questão de fundo: como os chips da Taalas são dedicados a um único modelo, a sua longevidade está presa à vida desse modelo, um desafio estrutural que nem o comunicado oficial nem as declarações conhecidas até agora abordaram de forma explícita.

A inferência é o verdadeiro centro de custos da IA de hoje, e a ideia de travar o movimento dos dados é elegante. Mas gravar no silício os pesos de um modelo já treinado arrisca transformar a infraestrutura num museu acelerado assim que os modelos forem atualizados. — Olya