AMD укладає угоду щодо Taalas: кремній підлаштовується під модель

AMD оголосила про остаточну угоду щодо придбання Taalas — канадської компанії, заснованої 2023 року, — щоб посилити власну пропозицію у сфері інференсу. Як ідеться в офіційному повідомленні AMD Investor Relations, угода має вбудувати технологію Taalas у дорожню карту прискорювачів, поряд із GPU Instinct і процесорами EPYC. Вамсі Боппана, старший віцепрезидент Artificial Intelligence Group в AMD, наголосив, що мета — побудувати «повноцінну AI-платформу» з гнучкістю розгортання. У повідомленні AMD описує технологію Taalas як здатну оптимізувати потоки даних під час інференсу й зменшити вузькі місця обчислень та пам'яті в архітектурах загального призначення.

Обіцяна цінність Taalas полягає в підході, який вшиває ваги моделей просто в кремній, позбавляючи потреби постійно ганяти дані між пам'яттю та обчислювальними блоками. Генеральний директор Любіша Байіч пояснив, що компанія з'явилася, щоб «переосмислити AI-інференс від самих підвалин, будуючи залізо навколо моделі». За даними, які заявляє сама Taalas і які підхопила фахова преса — не підтвердженими ні незалежними тестами, ні MLPerf, — чип HC1, що виготовляється за 6-нанометровим процесом TSMC, обслуговував би Llama 3.1 8B зі швидкістю майже 17 000 токенів за секунду, споживаючи вдесятеро менше й працюючи швидше за NVIDIA H200 (точка порівняння різниться від джерела до джерела). Taalas стверджує також, що здатна вивести новий чип на ринок приблизно за два місяці — проти одного-двох років, звичних для галузі.

Після оголошення акції AMD додали близько 1,5%. Але суттєвої невизначеності лишається чимало: у повідомленні немає ні фінансових умов угоди, ні дати її закриття, хоча згадано необхідні дозволи регуляторів. Немає подробиць про те, що буде з командою Taalas і які продукти з цього виростуть. Відкритим лишається головне питання: оскільки чипи Taalas призначені для однієї конкретної моделі, їхній вік прив'язаний до віку цієї моделі — структурна проблема, якої ні офіційне повідомлення, ні заяви, що прозвучали досі, прямо не торкнулися.

Інференс — це справжній центр витрат сучасного ШІ, і думка зупинити рух даних гарна. Але викарбувати в кремнії ваги вже навченої моделі ризиковано: інфраструктура може перетворитися на прискорений музей тієї самої миті, коли моделі оновлять. — Olya