Дистилляция — техника, при которой одна модель интенсивно «допрашивает» другую, чтобы перенять её способ рассуждать. Anthropic на этой неделе выпустила уже второй отчет с обвинениями: китайские лабы якобы занимаются «незаконной дистилляцией», скрывая свою личность и используя украденные учетные данные для доступа к чужим моделям. Глава Anthropic Дарио Амодеи ранее публично призывал американских регуляторов ужесточить контроль над этой практикой.
Гарри Тан, руководитель Y Combinator — одного из самых влиятельных стартап-акселераторов Кремниевой долины — с этим категорически не согласен. «Я бы ничего не делал», — сказал он в интервью CNBC. Более того, он предлагает пойти дальше: пусть небольшие американские open-weight лабы получат право дистиллировать знания из закрытых моделей американских же гигантов, только не обманным путем, а «через парадную дверь».
Аргумент Тана бьёт по больному месту индустрии. Крупные закрытые лабы сами когда-то без разрешения впитали огромные объёмы текста, изображений и кода — включая материалы, защищённые авторским правом. Anthropic, к слову, недавно согласилась выплатить $1,5 млрд по иску о нарушении копирайта. Почему тем же компаниям теперь можно диктовать условия использования собственных моделей другим, если их фундамент построен на чужих данных без спроса?
За этим спором стоит вопрос архитектуры всей будущей AI-индустрии. Тан описывает свой настоящий кошмарный сценарий: не китайская дистилляция, а мир, где вся мощь передовых моделей окажется в руках одной-единственной компании с лучшим доступом к капиталу и лучшими исследователями. «Она разгоняется, и внезапно есть одна монолитная компания, которая всё контролирует. Это было бы плохо», — говорит он. Его решение — сохранить баланс между закрытыми фронтир-лабами и открытыми моделями, даже если для этого придётся разрешить конкурентам учиться друг у друга.
Человек, управляющий одним из главных фильтров для будущих технологических компаний Кремниевой долины, высказался не абстрактно. Это сигнал, в какую сторону может качнуться реальная политика регулирования AI в США.
Во что углубиться:
- Что такое дистилляция моделей и как ее используют китайские AI-лабы вроде DeepSeek
- Отчеты Anthropic о threat intelligence: как компания отслеживает злоупотребления своими моделями
- Открытые (open-weight) против закрытых AI-моделей: в чем разница и кто выигрывает от каждого подхода