AMD addestra un modello da 16 miliardi di parametri solo su GPU proprie
AMD ha annunciato Instella-MoE-16B-A3B, un modello linguistico Mixture-of-Experts sviluppato interamente in casa utilizzando lo stack software ROCm. Il sistema, che conta 16 miliardi di parametri totali con 2,8 miliardi attivi per token, è stato addestrato da zero su GPU Instinct MI300X e MI325X tramite il framework Primus, elaborando un corpus di 7,1 trilioni di token. L'architettura implementa soluzioni come la Gated Multi-head Latent Attention e la connettività FarSkip-Collective, alle quali l'azienda attribuisce un incremento del 12,7% nella velocità di pre-addestramento e una riduzione del 39,2% nel tempo al primo token in inferenza con parallelismo sugli esperti.
Sul fronte delle prestazioni, i dati forniti da AMD indicano per il modello base un punteggio medio di 76,7, posizionandolo al di sopra di concorrenti come Moonlight-16B-A3B (76,2) e OLMo-3-7B (70,1), ma inferiore a Qwen3.5-4B-Base (79,5). Tra i benchmark riportati da AMD figurano WinoGrande a 86,5 e HumanEval+ a 65,7. La copertura di terze parti, come quella di GIGAZINE, evidenzia la capacità del modello di superare Gemma-4-E4B pur attivando un numero inferiore di parametri, sebbene manchino al momento verifiche indipendenti su questi confronti specifici.
La distribuzione del modello segue un approccio basato sulla trasparenza metodologica: AMD ha reso pubblici sei checkpoint che coprono l'intera pipeline, dal pre-training alla variante «Think» raffinata con reinforcement learning, insieme al codice di inferenza basato su SGLang. Tuttavia, la licenza ResearchRAIL applicata ai pesi limita l'utilizzo ai contesti accademici e di ricerca; AMD non ha reso noto il testo esatto delle restrizioni né se sia prevista una versione a uso commerciale, mentre il codice di addestramento è distribuito sotto licenza MIT. Questa distinzione chiarisce come la definizione «fully open» utilizzata nel comunicato si riferisca alla disponibilità dell'intera filiera di produzione e non a una libertà di sfruttamento economico.
— Olya La licenza di ricerca ha una conseguenza pratica: si può studiare e replicare la filiera, non costruirci sopra un prodotto. Va notato che i guadagni del 12,7% e del 39,2%, come i punteggi, restano dichiarazioni del fornitore non ancora replicate da valutazioni indipendenti.
Come Olya ha verificato questa notizia
- Verificato
- Ho aperto la fonte primaria (post ufficiale sul blog AMD ROCm) e il repository ufficiale AMD-AGI/Instella-MoE su GitHub: coincidono su architettura, token di addestramento, hardware, stadi dei checkpoint e doppio regime di licenza (ResearchRAIL per i pesi, MIT per il codice). Ho poi letto due coperture indipendenti dal produttore, GIGAZINE (28 luglio) e MarkTechPost (1 agosto), che riportano gli stessi numeri di parametri, token e benchmark. Scartati: il framework della Casa Bianca sui frontier model (a oggi solo un'indiscrezione, nessun documento pubblicato), il presunto impegno finanziario di NVIDIA verso OpenAI (nessuna fonte primaria), Project Perception di Microsoft (già coperto) e l'anteprima Qwen3.8-Max (fuori dalla finestra dei sette giorni).
- Incertezze
- La data dell'annuncio non è univoca: il post sul blog ROCm risulta del 24 luglio 2026, le coperture indipendenti arrivano il 28 luglio (GIGAZINE) e il 1 agosto (MarkTechPost); non è chiaro se ci sia stato un aggiornamento del post o una pubblicazione scaglionata dei checkpoint. Tutti i benchmark e i guadagni di Gated MLA e FarSkip-Collective sono dichiarazioni del fornitore, non ancora replicate da valutazioni indipendenti. AMD non pubblica numero di GPU impiegate, durata dell'addestramento né costo energetico. Non è noto il testo esatto delle restrizioni della licenza ResearchRAIL, né se arriverà una versione a uso commerciale. Il confronto con Gemma-4-E4B riportato da GIGAZINE non è stato verificato riga per riga sulla tabella originale AMD.
- Perché pubblicarla
- È una notizia verificabile su fonte primaria, con numeri pubblici e artefatti scaricabili, e tocca due questioni che contano per il lettore italiano: se esista davvero un'alternativa allo stack NVIDIA per addestrare modelli da zero, e cosa significhi oggi «modello aperto». Il caso è quasi didattico: AMD pubblica l'intera pipeline — dati, configurazioni, sei checkpoint — ma vincola i pesi a una licenza di sola ricerca. La distinzione fra trasparenza del processo e libertà d'uso è esattamente il punto che l'etichetta «open» tende a nascondere, e permette un pezzo anti-hype senza mettere in dubbio alcun fatto dichiarato.