Представим ситуацию: компания продаёт доступ к топовой модели по цене топовой модели, а втихую подсовывает что-то подешевле, экономя на вычислениях. Или наоборот: хвастается результатами мощной системы, которые на самом деле выдала урезанная версия. Проверить это со стороны пользователя до сих пор было почти невозможно. Anthropic решила закрыть эту дыру.
Компания представила FlashProve: открытую систему для «доказуемого вывода» (provable inference). Суть простая: криптографическое доказательство того, что конкретный ответ сгенерировала именно заявленная модель. Работает это похоже на подпись в электронных письмах, подтверждающую подлинность отправителя, только здесь подписывается не письмо, а результат работы нейросети. Система защищает даже от подмены со стороны самой лаборатории-разработчика: если компания решит втихую подменить модель, обман вскроется.
Ключевая деталь: технология не раскрывает веса модели, те самые внутренние параметры, которые определяют её поведение и которые лаборатории вроде Anthropic или OpenAI охраняют как главный актив. Вместо этого публикуется криптографический «отпечаток» модели, по которому позже можно сверить любой её ответ. Закрытые коммерческие модели тоже смогут участвовать в такой верификации, не теряя коммерческой тайны. Проверка при этом достаточно лёгкая, чтобы проводить её на обычном устройстве пользователя, без обращения к серверам лаборатории.
Anthropic выложила техническую спецификацию и рабочий код на GitHub и честно признала: это не готовый продукт, а промежуточный результат исследования, который разработчики надеются доработать сообща с сообществом. Внедрять FlashProve в собственных продуктах компания пока не планирует. Но сам факт появления такого инструмента, сигнал всей индустрии: времена, когда пользователю оставалось просто верить вендору на слово, заканчиваются.
Создание AI-агентов и автоматизация на n8n: проектируем и запускаем под ключ.
