ИИ 4 ноября 2026, 01:41 МСК

Anthropic разрабатывает FlashProve для проверки происхождения ответов ИИ

Anthropic представила исследовательскую систему FlashProve, которая должна криптографически подтверждать, какая модель создала конкретный ответ.

По данным TechCrunch, FlashProve призвана выявлять подмену модели, в том числе со стороны самой компании, которая её обслуживает. Например, система могла бы обнаружить скрытое использование более дешёвой модели или проверить заявление стороннего разработчика о том, каким ИИ выполнена задача.

Для этого лаборатории должны публиковать цифровые отпечатки моделей, позволяющие проверять происхождение ответов без раскрытия весов; проверка задумана достаточно лёгкой для выполнения на локальном устройстве. Исследователи опубликовали техническую спецификацию и рабочий код отдельных компонентов на GitHub под открытой лицензией.

Разработка продолжается: это промежуточный исследовательский результат, и планов внедрения FlashProve в Anthropic или других лабораториях пока нет.

• Проверка происхождения ответа не требует раскрывать веса модели
• Спецификация и код отдельных компонентов опубликованы на GitHub
• Планов внедрения системы пока нет