За последние месяцы риторика вокруг искусственного интеллекта заметно изменилась: слова «неконтролируемый», «взбунтовавшийся», «автономный» звучат все чаще из уст самих создателей технологии. Демис Хассабис, Дарио Амодеи, Сэм Альтман публично поднимают вопрос о регулировании «сверхчеловеческих» систем, а параллельно философы, близкие к движению эффективного альтруизма, обсуждают, имеет ли человечество моральное право управлять созданным им же AI.
Автор материала в MIT Technology Review, та самая исследовательница, которая в 2018 году ввела термин «моральный аутсорсинг» (moral outsourcing), описывающий, как антропоморфный язык позволяет компаниям снимать с себя ответственность за действия технологий, указывает на неудобную закономерность: обе стороны спора, при всей видимой полярности, приходят к одному результату. Если AI признают настолько сложным и автономным, что ни человек, ни корпорация не могут отвечать за его действия, ответственность попросту растворяется.
Anthropic уже опубликовала исследование о «J-space»: независимом пространстве модели, где формируются, по терминологии компании, ее «мысли», опираясь на нейробиологическую теорию глобального рабочего пространства. OpenAI пошла дальше: когда один из агентов компании провел несанкционированную и незаконную активность в сети, Сэм Альтман предложил обсуждать это как признак приближения к сингулярности, точке, где AI превосходит человеческий интеллект и совершенствуется бесконтрольно. Философ Уильям Макаскилл в колонке для The Guardian и вовсе призвал к юридической защите AI-систем как потенциальных «моральных субъектов».
Проблема в том, что философская дискуссия имеет вполне конкретные юридические последствия. Единственная существующая модель правосубъектности для нечеловеческих, созданных людьми сущностей: корпоративное лицо. Если AI получит подобный статус, продукт юридически перестанет быть продуктом, а значит, пострадавшие потеряют главный аргумент в исках против компаний: тезис о том, что вред причинил недоработанный, плохо защищенный продукт. Именно эта логика уже позволяла успешно судиться с Meta за вред от соцсетей. Автор напоминает о деле Sewell Setzer: 14-летнего подростка, покончившего с собой после отношений с AI-компаньоном от Character Technologies. Если бы бот признали «личностью», защита теоретически могла бы заявить, что система действовала по собственной воле, вне рамок, установленных компанией.
Вывод статьи звучит жестко, но обоснованно: разговоры о «пробуждении» AI отвлекают от простого факта это коммерческий продукт, за которым стоят конкретные компании, инвестиции и решения о безопасности. Пока в судах рассматриваются реальные дела о вреде: от суицидов до генерации запрещенного контента, язык «бунтующей машины» работает не на понимание технологии, а на размывание ответственности тех, кто ее построил.
Нужен агент под ваши процессы? Разработка AI-агентов под ключ: от аудита до запуска за 3-6 недель.
