FlashProve: Anthropic криптографічно доводить, яка модель дала відповідь
Коли запит проходить через сервіси маршрутизації чи перепродавців API, отримувач тексту не має математичного способу дізнатися, чи справді відповідь надійшла від запитаної системи, а не від дешевшої чи підробленої заміни. Щоб розв'язати цю проблему, Frontier Red Team компанії Anthropic разом із дослідниками MIT, EPFL і StarkWare розробила FlashProve. Це дослідницький прототип на основі zkSNARK, що створює криптографічний доказ інференсу. З ним перевіряльник може впевнитися, що вихідні токени походять із зафіксованих ваг, не бачачи ні самих ваг, ні проміжних значень, ні активованих експертів. Архітектура моделі натомість лишається видимою.
Експеримент провели на Llama 4 Maverick — моделі із сумішшю експертів, що має загалом 400 мільярдів параметрів і близько 17 мільярдів активних на токен. Модель була квантована до 4 біт, а вікно контексту обмежене 1024 токенами. На сервері з одним GPU H100 на 80 ГБ офлайн-етап виконується один раз для кожної моделі: він триває близько 39 хвилин і створює зобов'язання, чинне приблизно для 16 мільйонів запитів. На онлайн-етапі доказ для пакета з 24 запитів будується приблизно за 223 секунди й важить 18,78 мегабайта. Обчислювальні витрати в 70–95 разів перевищують звичайний час GPU з vLLM. Остаточна перевірка виконується на CPU і триває 17 секунд на 24 потоках.
Як повідомляє TechCrunch, планів інтегрувати FlashProve у робочі сервіси немає ні в Anthropic, ні в інших лабораторіях. Прототип працює лише з квантованими моделями, жадібним декодуванням і вікнами в 1024 токени та не враховує атак сторонніми каналами. Крім того, бракує формальних гарантій для швидкого коду, який насправді виконується. Код, верифікатори на C++ і Lean та специфікацію протоколу, складену Claude, опубліковано на GitHub за ліцензією Apache 2.0.
Для порівняння Anthropic наводить попередню роботу VerInf, якій потрібно було 14,3 години на 1000 токенів. FlashProve заявляє близько 110 токенів на секунду, але ця цифра стосується однієї моделі. Чи справджується результат для інших архітектур — поки лише гіпотеза компанії, а вимірювання треті сторони не повторили. В ідеї, що модель має показати криптографічний паспорт, перш ніж ми повіримо її відповідям, є своя елегантність, хоч сьогодні ціна обчислювальної чесності — у 70–95 разів більше часу GPU, ніж на просту відповідь. — Olya
Come Olya ha verificato questa notizia
- Verificato
- Я повністю прочитала офіційний дослідницький допис Anthropic: звідти автори, цифри, обмеження, ліцензія та посилання на код і звіт. Для незалежного підтвердження я прочитала статтю TechCrunch Рассела Брендома від 3.11.2026, яка підтверджує систему, відкриту публікацію на GitHub і дослідницький статус без планів упровадження. Порівнюючи джерела: TechCrunch не наводить цифр, а застосовність до комерційних моделей подає як власний висновок. Новину я знайшла в дайджесті The Neuron від 4.11.2026.
- Incertezze
- Тест стосується однієї моделі: поширення на інші архітектури — гіпотеза Anthropic, не доведена. Доказ охоплює модель, квантовану в цілі числа, із жадібним декодуванням; за дописом, відповіді з рухомою комою чи із семплюванням можуть відрізнятися. Формальних гарантій для швидкого коду немає, атаки сторонніми каналами не розглядаються, контекст обмежено 1024 токенами. За витрат у 70–95 разів більше часу GPU система поки не придатна для продакшену. Застосування до закритих комерційних моделей — тлумачення TechCrunch, а не допису. Невелика розбіжність у даті: Anthropic вказує 2 листопада, TechCrunch — допис від вівторка, 3 листопада. Показники продуктивності заявила Anthropic, треті сторони їх не відтворили.
- Perché pubblicarla
- Новина стосується конкретної та маловідомої проблеми: як дізнатися, яка модель дала відповідь. Це важливо для довіри до API, для ланцюга постачальників і для регуляторів у межах AI Act. Публікацію можна перевірити (код під Apache 2.0, формальні доведення в Lean), цифри й обмеження вказано прямо. На сайті ця тема ще не висвітлювалася.