Доказательный инференс: действительно ли ваш ИИ – это именно ваш ИИ?

Компания Anthropic разработала FlashProve для проверки инференса моделей ИИ с помощью криптографических доказательств

20 Ноября, 2026

Доказательный инференс: действительно ли ваш ИИ – это именно ваш ИИ?

Недавние технологические сбои и инциденты в сфере кибербезопасности по всему миру продемонстрировали уязвимость современной цифровой инфраструктуры. От масштабных перебоев в работе сервисов крупных компаний и финансовых учреждений до кибератак с использованием инструментов на базе ИИ – организации сталкиваются со все большими трудностями при защите своих систем и обеспечении их стабильной работы.

По мере того как искусственный интеллект все активнее интегрируется в бизнес-процессы и критическую инфраструктуру, для обеспечения безопасности уже недостаточно просто защищать системы от несанкционированного доступа. Организациям также нужны инструменты, позволяющие проверять, работают ли сервисы ИИ должным образом и действительно ли они используют заявленные модели.

Для решения этой проблемы компания Anthropic представила FlashProve – систему с открытым исходным кодом, которая использует криптографические доказательства для проверки инференса моделей ИИ без раскрытия их проприетарных весов.

Обычно пользователи не могут самостоятельно проверить, какая именно модель обрабатывает их запросы. Поставщик услуг ИИ может незаметно заменить модель на менее мощную, чтобы сократить расходы, или злоумышленник может вмешаться в процесс инференса.

Подход Anthropic, известный как доказательный инференс (provable inference), использует криптографические доказательства для подтверждения того, что ответ был сгенерирован конкретной моделью на основе исходного запроса. Это обеспечивает дополнительный уровень прозрачности для бизнеса и разработчиков ИИ.

В основе FlashProve лежит криптографическая технология zkSNARKs (zero-knowledge succinct non-interactive arguments of knowledge), которая позволяет проверять правильность вычислений без раскрытия конфиденциальной информации.

Система работает в два этапа:

  1. Криптографическая фиксация модели: поставщик модели создает криптографический отпечаток весов модели, позволяющий идентифицировать ее конкретную версию без раскрытия параметров.
  2. Проверка инференса: для каждого запроса поставщик генерирует доказательство того, что ответ был получен именно с помощью зафиксированной модели и исходного входного промпта.

Пользователи могут проверять эти доказательства без доступа к самой модели и без необходимости воспроизводить ее вычисления. Это позволяет подтвердить использование заявленной модели, не раскрывая ее весов.

Компания Anthropic протестировала FlashProve на Llama 4 Maverick – модели архитектуры Mixture of Experts (MoE) с 400 миллиардами параметров, используя 4-битное квантование весов.

Криптографическая верификация может повысить безопасность и подотчетность сервисов ИИ в нескольких задачах:

  • Безопасность ИИ: выявление несанкционированной подмены моделей и определенных видов манипуляций с процессом инференса.
  • Происхождение модели: проверка того, что поставщик ИИ использует именно заявленную модель, а не скрытую альтернативу.
  • Соблюдение нормативных требований: подтверждение того, что системы ИИ используют утвержденные модели и соответствуют конкретным требованиям.
  • Мониторинг безопасности ИИ: поддержка независимого надзора за инфраструктурой ИИ и внедрением передовых моделей.

Такие возможности могут быть особенно полезны в регулируемых отраслях, в частности в медицине и финансовом секторе, где целостность моделей и подотчетность имеют решающее значение.

Компания Anthropic выпустила FlashProve в качестве исследовательского прототипа с открытым исходным кодом под лицензией Apache 2.0. Релиз содержит исполняемый код, технический отчет, спецификацию протокола и формальные математические доказательства, написанные на языке Lean.

Текущая реализация имеет определенные ограничения: она поддерживает контексты инференса объемом до 1024 токенов, использует целочисленные вычисления модели с жадным декодированием (greedy decoding) и не скрывает архитектуру модели. Поддержка более длинных контекстных окон и расширение функциональности остаются направлениями для будущих исследований.