Пока инженеры латают дырки в песочницах, гарвардский историк Джилл Лепора смотрит на происходящее с дистанции в несколько десятилетий и предлагает менее техническую, но не менее тревожную рамку. В новой книге «The Rise and Fall of the Artificial State» она описывает, как частные корпорации постепенно и без чьего-либо согласия присваивают функции, которые традиционно принадлежали государству.
Лепора уточняет: она не против технологий как таковых — замужем за компьютерным учёным и искренне увлечена происходящими интеллектуальными революциями. Проблема, по её словам, в другом: в том, как компании берут на себя роль государства. Она прослеживает этот процесс от рекламного ролика Apple 1984 года, противопоставлявшего личный компьютер тоталитарным мейнфреймам IBM, через попытки Facebook создать собственный «Верховный суд» (Oversight Board) после выборов 2016 года, до того момента, когда Anthropic наняла философа для написания «конституции» для Claude, а Сэм Альтман в разговоре с Джо Роганом всерьёз назвал идею AI-президента неплохой.
Особый прицел у Лепоры — на то, как лидеры технокомпаний читают научную фантастику. Она напоминает про рассказ Э. М. Форстера «Машина останавливается» 1909 года — историю про людей, которые живут в изолированных капсулах, боятся природы и поклоняются машине, обеспечивающей все их потребности. Предупреждающие истории такого рода, написанные как раз для того, чтобы предостеречь, лидеры вроде Илона Маска и части Кремниевой долины воспринимают буквально — как инструкцию к действию, а не как тревожный сигнал. Забавнее всего с Маском, отмечает Лепора: научная фантастика, которую он любит, по факту противоречит его собственным политическим убеждениям.
Главный тезис книги в том, что «искусственное государство» обречено на провал — потому что для своего существования оно должно эксплуатировать природные ресурсы, но при этом разрушает саму природу, от которой критически зависит. Этот конфликт повторяется во всей научной фантастике о технологическом будущем: искусственный порядок не может пережить уничтожение мира, который его питает.
Выход, по мнению историка, не в том, чтобы снести все дата-центры, а в возврате к демократической процедуре принятия решений. Она приводит пример дата-центра в Юте, который поддержали местные представители власти, хотя более 70% жителей были против. Люди на местных собраниях задают простые вопросы: сколько будет стоить электричество, сколько нужно воды, появятся ли рабочие места и надолго ли. Ответов на эти вопросы почти никогда нет — потому что решения принимались не с гражданами, а вместо них.
Во что углубиться:
- Telecommunications Act 1996 года: как этот закон определил современный вид интернета в США
- Конституция Claude от Anthropic: что это такое и как её писал философ
- Протесты против дата-центров в Юте и других штатах США: причины и требования жителей