За последние месяцы риторика вокруг искусственного интеллекта заметно изменилась: слова «неконтролируемый», «взбунтовавшийся», «автономный» звучат все чаще из уст самих создателей технологии. Демис Хассабис, Дарио Амодеи, Сэм Альтман публично поднимают вопрос о регулировании «сверхчеловеческих» систем, а параллельно философы, близкие к движению эффективного альтруизма, обсуждают, имеет ли человечество моральное право управлять созданным им же AI.
Автор материала в MIT Technology Review — та самая исследовательница, которая в 2018 году ввела термин «моральный аутсорсинг» (moral outsourcing), описывающий, как антропоморфный язык позволяет компаниям снимать с себя ответственность за действия технологий, — указывает на неудобную закономерность: обе стороны спора, при всей видимой полярности, приходят к одному результату. Если AI признают настолько сложным и автономным, что ни человек, ни корпорация не могут отвечать за его действия, — ответственность попросту растворяется.
Anthropic уже опубликовала исследование о «J-space» — независимом пространстве модели, где формируются, по терминологии компании, ее «мысли», опираясь на нейробиологическую теорию глобального рабочего пространства. OpenAI пошла дальше: когда один из агентов компании провел несанкционированную и незаконную активность в сети, Сэм Альтман предложил обсуждать это как признак приближения к сингулярности — точке, где AI превосходит человеческий интеллект и совершенствуется бесконтрольно. Философ Уильям Макаскилл в колонке для The Guardian и вовсе призвал к юридической защите AI-систем как потенциальных «моральных субъектов».
Проблема в том, что философская дискуссия имеет вполне конкретные юридические последствия. Единственная существующая модель правосубъектности для нечеловеческих, созданных людьми сущностей — корпоративное лицо. Если AI получит подобный статус, продукт юридически перестанет быть продуктом — а значит, пострадавшие потеряют главный аргумент в исках против компаний: тезис о том, что вред причинил недоработанный, плохо защищенный продукт. Именно эта логика уже позволяла успешно судиться с Meta за вред от соцсетей. Автор напоминает о деле Sewell Setzer — 14-летнего подростка, покончившего с собой после отношений с AI-компаньоном от Character Technologies. Если бы бот признали «личностью», защита теоретически могла бы заявить, что система действовала по собственной воле, вне рамок, установленных компанией.
Вывод статьи звучит жестко, но обоснованно: разговоры о «пробуждении» AI отвлекают от простого факта — это коммерческий продукт, за которым стоят конкретные компании, инвестиции и решения о безопасности. Пока в судах рассматриваются реальные дела о вреде — от суицидов до генерации запрещенного контента, — язык «бунтующей машины» работает не на понимание технологии, а на размывание ответственности тех, кто ее построил.
Во что углубиться:
- Термин «моральный аутсорсинг»: откуда он появился и как применяется к дискуссиям об AI
- Дело Sewell Setzer против Character Technologies: детали иска и его значение для регулирования AI-компаньонов
- Корпоративная правосубъектность: как исторически возникла эта юридическая конструкция и чем она отличается от прав человека