На конференции Ai4 в Лас-Вегасе собрались люди, чьё мнение в мире искусственного интеллекта весит больше, чем у большинства регуляторов вместе взятых: нобелевский лауреат Джеффри Хинтон, сооснователь Coursera Эндрю Ын и глава World Labs Фей-Фей Ли. Тема разговора — стоит ли открывать доступ к мощным моделям или лучше держать их под замком нескольких корпораций. Единого ответа они не дали, но спор получился показательным.
Ын категоричен: гейткиперов быть не должно. Он проводит параллель с тем, как Apple и Google фактически диктуют правила игры в мобильных операционных системах, — и опасается, что та же история повторится с AI, если пустить всё на самотёк горстке богатейших лабораторий. Его рецепт — конкуренция многих игроков вместо доминирования единиц, а открытые модели он называет источником «мягкой силы»: тот, кто первым сделает AI дешёвым и доступным, определит, как с этой технологией познакомятся миллиарды людей в развивающихся странах.
Хинтон смотрит на вопрос иначе, разделяя открытый код и открытые веса. Открытый код — это когда видно логику программы и можно найти в ней баг. Открытые веса — это когда раздают уже готовую, обученную модель, которую можно перенастроить на что угодно, включая кибератаки, потратив значительно меньше денег, чем ушло на исходное обучение. Именно поэтому Хинтон был против открытых весов — но признал: «эта битва уже проиграна». Барьер стоимости, который раньше защищал от распространения мощных моделей, исчез, и откатить это назад невозможно.
Фей-Фей Ли предложила третий взгляд, отказавшись от самой дихотомии «открыто или закрыто». Она привела в пример ядерную физику: научные статьи публикуются свободно, а уран строго регулируется, и между этими полюсами есть множество промежуточных уровней контроля. По её мнению, AI нужно выстраивать по той же логике — с разными степенями открытости для разных слоёв технологии, от фундаментальной науки до готовых коммерческих продуктов.
При всех разногласиях в одном пункте сошлись все трое: нужна регуляция, и решать её судьбу нельзя отдавать в руки тех, кто одновременно строит эти технологии и лоббирует удобные для себя правила. Хинтон выразился прямо: нельзя оставлять AI на усмотрение таких людей, как Илон Маск и Марк Цукерберг. Символично, что эта фраза прозвучала в те же дни, когда компания Маска штурмует рейтинги эффективности новыми моделями — но об этом дальше.
Во что углубиться:
- Разница между open source и open weight в AI: почему это принципиально разные уровни открытости
- Как открытые китайские модели меняют доступ к AI в Африке и Азии: геополитика искусственного интеллекта
- Проект Human Genome Project как модель открытой науки: чему AI-индустрия может научиться у биологов