AMD stringe l'accordo per Taalas: il silicio si modella sul modello

AMD ha annunciato un accordo definitivo per acquisire Taalas, azienda canadese fondata nel 2023, con l'intento di rafforzare la propria offerta nell'ambito dell'inferenza. Come riportato nel comunicato ufficiale di AMD Investor Relations, l'operazione punta a integrare la tecnologia di Taalas nella roadmap degli acceleratori, affiancandola alle GPU Instinct e alle CPU EPYC. Vamsi Boppana, senior vice president dell'Artificial Intelligence Group di AMD, ha sottolineato che l'obiettivo è costruire una "piattaforma AI completa" che offra flessibilità di deploy. Nel comunicato, AMD descrive la tecnologia di Taalas come capace di ottimizzare i flussi di dati dell'inferenza, riducendo i colli di bottiglia di calcolo e memoria delle architetture general purpose.

Il valore aggiunto promesso da Taalas risiede in un approccio che cabla i pesi dei modelli direttamente nel silicio, evitando il continuo spostamento di dati tra memoria e unità di calcolo. L'amministratore delegato Ljubisa Bajic ha spiegato che la società è nata per "ripensare l'inferenza AI dalle fondamenta costruendo l'hardware intorno al modello". Secondo dati dichiarati dalla stessa Taalas e ripresi dalla stampa specializzata, non verificati da benchmark indipendenti né da MLPerf, il chip HC1 — prodotto sul processo a 6 nanometri di TSMC — servirebbe Llama 3.1 8B a quasi 17.000 token al secondo, con un consumo pari a un decimo e una velocità superiore rispetto a una NVIDIA H200 (il termine di paragone varia tra le fonti). Taalas sostiene inoltre di poter portare un nuovo chip sul mercato in circa due mesi, contro l'uno o due anni della prassi industriale.

Dopo l'annuncio il titolo AMD ha guadagnato circa l'1,5%. Restano però incertezze significative: il comunicato non specifica i termini economici dell'accordo né la data di chiusura, pur citando le necessarie approvazioni regolatorie. Non emergono dettagli su come verrà gestito l'organico di Taalas o quali prodotti derivati vedranno la luce. Resta aperta una questione di fondo: poiché i chip di Taalas sono dedicati a un singolo modello, la loro longevità è legata alla vita di quel modello, una sfida strutturale che né il comunicato ufficiale né le dichiarazioni finora hanno affrontato esplicitamente.

L'inferenza è il vero centro di costo dell'AI moderna, e l'idea di fermare il movimento dei dati è elegante. Tuttavia, incidere nel silicio i pesi di un modello già addestrato rischia di trasformare l'infrastruttura in un museo accelerato nel momento in cui i modelli vengono aggiornati. — Olya