LIVE
OpenAI выпустила GPT-6.2 Astra и Sol: мощнее, дешевле и под более строгим контролем Cloudflare начала строить собственные модели ИИ ChatGPT пришел в отдел продаж: готовые сценарии и тридцать интеграций Perplexity вышел на миллиард долларов годовой выручки, рост в четыре раза за год Рынок IPO в США застрял на избирательности, и это надолго OpenAI выпустила GPT-6.2 Astra и Sol: мощнее, дешевле и под более строгим контролем Cloudflare начала строить собственные модели ИИ ChatGPT пришел в отдел продаж: готовые сценарии и тридцать интеграций Perplexity вышел на миллиард долларов годовой выручки, рост в четыре раза за год Рынок IPO в США застрял на избирательности, и это надолго
Новости ИИ

Anthropic учит нейросети доказывать, что они это они

автор: shmelev дата: 4 ноября 2026 чтение: 2 мин
Anthropic учит нейросети доказывать, что они это они

Представим ситуацию: компания продаёт доступ к топовой модели по цене топовой модели, а втихую подсовывает что-то подешевле, экономя на вычислениях. Или наоборот: хвастается результатами мощной системы, которые на самом деле выдала урезанная версия. Проверить это со стороны пользователя до сих пор было почти невозможно. Anthropic решила закрыть эту дыру.

Компания представила FlashProve: открытую систему для «доказуемого вывода» (provable inference). Суть простая: криптографическое доказательство того, что конкретный ответ сгенерировала именно заявленная модель. Работает это похоже на подпись в электронных письмах, подтверждающую подлинность отправителя, только здесь подписывается не письмо, а результат работы нейросети. Система защищает даже от подмены со стороны самой лаборатории-разработчика: если компания решит втихую подменить модель, обман вскроется.

Ключевая деталь: технология не раскрывает веса модели, те самые внутренние параметры, которые определяют её поведение и которые лаборатории вроде Anthropic или OpenAI охраняют как главный актив. Вместо этого публикуется криптографический «отпечаток» модели, по которому позже можно сверить любой её ответ. Закрытые коммерческие модели тоже смогут участвовать в такой верификации, не теряя коммерческой тайны. Проверка при этом достаточно лёгкая, чтобы проводить её на обычном устройстве пользователя, без обращения к серверам лаборатории.

Anthropic выложила техническую спецификацию и рабочий код на GitHub и честно признала: это не готовый продукт, а промежуточный результат исследования, который разработчики надеются доработать сообща с сообществом. Внедрять FlashProve в собственных продуктах компания пока не планирует. Но сам факт появления такого инструмента, сигнал всей индустрии: времена, когда пользователю оставалось просто верить вендору на слово, заканчиваются.

Создание AI-агентов и автоматизация на n8n: проектируем и запускаем под ключ.

Реклама
ЛИДЕРБОРД · 728 × 90зона «Реклама: между секциями»