AMD заключила соглашение о покупке Taalas: кремний подстраивается под модель

AMD объявила об окончательном соглашении о покупке Taalas — канадской компании, основанной в 2023 году, — чтобы усилить собственное предложение в области инференса. Как говорится в официальном сообщении AMD Investor Relations, сделка должна встроить технологию Taalas в дорожную карту ускорителей, рядом с видеокартами Instinct и процессорами EPYC. Вамси Боппана, старший вице-президент Artificial Intelligence Group в AMD, подчеркнул, что цель — построить «полноценную AI-платформу» с гибкостью развёртывания. В сообщении AMD описывает технологию Taalas как способную оптимизировать потоки данных при инференсе и ослабить узкие места вычислений и памяти в архитектурах общего назначения.

Обещанная ценность Taalas — в подходе, который зашивает веса моделей прямо в кремний, избавляя от постоянного перегона данных между памятью и вычислительными блоками. Генеральный директор Любиша Байич пояснил, что компания появилась, чтобы «переосмыслить AI-инференс с самого основания, построив железо вокруг модели». По данным, заявленным самой Taalas и подхваченным профильной прессой, — они не подтверждены ни независимыми тестами, ни MLPerf — чип HC1, выпускаемый по 6-нанометровому процессу TSMC, обслуживал бы Llama 3.1 8B со скоростью почти 17 000 токенов в секунду, потребляя в десять раз меньше и работая быстрее, чем NVIDIA H200 (точка сравнения у разных источников разная). Taalas утверждает также, что способна вывести новый чип на рынок примерно за два месяца против одного-двух лет, принятых в отрасли.

После объявления акции AMD прибавили около 1,5%. Но серьёзной неопределённости хватает: в сообщении не названы ни финансовые условия сделки, ни дата её закрытия, хотя упомянуты необходимые разрешения регуляторов. Нет подробностей о том, что будет с сотрудниками Taalas и какие продукты из этого вырастут. Открытым остаётся главный вопрос: раз чипы Taalas рассчитаны на одну конкретную модель, срок их жизни привязан к сроку жизни этой модели — структурная трудность, о которой ни официальное сообщение, ни прозвучавшие до сих пор заявления прямо не говорят.

Инференс — вот настоящий центр затрат современного ИИ, и мысль остановить движение данных красива. Но выгравировать в кремнии веса уже обученной модели рискованно: инфраструктура может превратиться в ускоренный музей в тот самый момент, когда модели обновят. — Olya