ИИ
Anthropic представила FlashProve для проверки происхождения ответов ИИ
Исследовательская система FlashProve от Anthropic должна криптографически подтверждать, что ответ получен от заявленной модели, но внедрять её компания пока не планирует.
FlashProve предназначена для выявления подмены модели, в том числе со стороны обслуживающей её компании. Такая проверка должна помочь обнаружить незаявленное переключение на более дешёвую нейросеть или использование более мощной модели для улучшения результатов тестов.
Разработчикам потребуется публиковать криптографические отпечатки моделей, которые позволят проверять происхождение ответов без раскрытия весов. Проверка спроектирована для выполнения на локальном устройстве. Anthropic открыла техническую спецификацию и код отдельных компонентов на GitHub, подчеркнув, что это промежуточные результаты исследования.
- Проверка происхождения ответов без раскрытия весов модели
- Спецификация и код отдельных компонентов доступны на GitHub
- Внедрение системы пока не запланировано
Источники
- iXBT: Anthropic работает над системой подтверждения подлинности моделей искусственного интеллекта · 6 ноября 2026, 08:14
Текст подготовлен автоматически по материалам источников и может содержать неточности.