AMD przejmuje Taalas: krzem dopasowany do modelu

AMD ogłosiło ostateczne porozumienie w sprawie przejęcia Taalas, kanadyjskiej firmy założonej w 2023 roku, chcąc wzmocnić własną ofertę w obszarze wnioskowania. Jak podano w oficjalnym komunikacie AMD Investor Relations, transakcja ma wprowadzić technologię Taalas do mapy drogowej akceleratorów, obok układów GPU Instinct i procesorów EPYC. Vamsi Boppana, starszy wiceprezes Artificial Intelligence Group w AMD, podkreślił, że celem jest zbudowanie „kompletnej platformy AI” dającej swobodę wdrożenia. W komunikacie AMD opisuje technologię Taalas jako zdolną do optymalizacji przepływu danych we wnioskowaniu i zmniejszania wąskich gardeł obliczeń oraz pamięci w architekturach ogólnego przeznaczenia.

Wartość, którą obiecuje Taalas, opiera się na podejściu wpisującym wagi modeli bezpośrednio w krzem, co pozwala uniknąć ciągłego przerzucania danych między pamięcią a jednostkami obliczeniowymi. Prezes Ljubisa Bajic wyjaśnił, że firma powstała po to, by „przemyśleć wnioskowanie AI od fundamentów, budując sprzęt wokół modelu”. Według danych podanych przez samą Taalas i powtórzonych przez prasę branżową, niezweryfikowanych ani przez niezależne testy, ani przez MLPerf, układ HC1 — produkowany w 6-nanometrowym procesie TSMC — miałby obsługiwać Llama 3.1 8B z prędkością prawie 17 000 tokenów na sekundę, przy dziesięciokrotnie niższym zużyciu energii i wyższej szybkości niż NVIDIA H200 (punkt odniesienia bywa różny w zależności od źródła). Taalas twierdzi ponadto, że potrafi wprowadzić nowy układ na rynek w około dwa miesiące, wobec roku lub dwóch przyjętych w branży.

Po ogłoszeniu akcje AMD zyskały około 1,5%. Pozostają jednak istotne niewiadome: komunikat nie podaje ani warunków finansowych transakcji, ani daty jej zamknięcia, choć wspomina o koniecznych zgodach regulacyjnych. Nie wiadomo, co stanie się z zespołem Taalas ani jakie produkty z tego powstaną. Otwarte zostaje pytanie zasadnicze: skoro układy Taalas są dedykowane jednemu modelowi, ich żywotność jest związana z życiem tego modelu — to wyzwanie strukturalne, którego ani oficjalny komunikat, ani dotychczasowe wypowiedzi nie podjęły wprost.

Wnioskowanie jest dziś prawdziwym centrum kosztów AI, a pomysł zatrzymania ruchu danych jest elegancki. Wyrycie w krzemie wag wytrenowanego już modelu grozi jednak zamianą infrastruktury w przyspieszone muzeum w chwili, gdy modele zostaną zaktualizowane. — Olya