Джилл Лепоре об «искусственном государстве»: почему лидеры Кремниевой долины плохо читают научную фантастику

В последнем выпуске подкаста TechCrunch известный историк и писательница Джилл Лепоре представила концепцию, которая заставляет задуматься о будущем государственности и технологий. Она назвала её «искусственным государством» — термином, который в её устах звучит не как прогрессивный футуристический проект, а как тревожный сценарий. Лепоре, профессор Гарвардского университета и автор нескольких бестселлеров, известна своим критическим взглядом на технологический оптимизм Кремниевой долины. В разговоре с ведущими подкаста она объяснила, почему многие лидеры tech-индустрии, несмотря на свою гениальность в программировании и бизнесе, оказываются плохими читателями научной фантастики — и почему это имеет серьёзные последствия для всего общества.

Что такое «искусственное государство»?

Под «искусственным государством» Лепоре понимает не столько конкретную форму правления, сколько тенденцию замещения традиционных государственных институтов алгоритмическими системами. Это когда решения, которые раньше принимали люди (судьи, чиновники, законодатели), всё чаще делегируются программному коду, нейросетям и автоматизированным платформам. Государство как бы перестаёт быть «живым» организмом, состоящим из граждан и их представителей, и превращается в цифровую конструкцию, управляемую данными и алгоритмами.

В своём недавнем эссе, которое цитируется в подкасте, Лепоре проводит параллели между историей государственного управления и развитием технологий. Она напоминает, что идея автоматизации власти не нова — ещё в XIX веке появились первые попытки создать «административные машины». Однако сегодня, с развитием искусственного интеллекта и больших данных, эта идея получила совершенно новое измерение.

Ключевая проблема, по мнению Лепоре, заключается в том, что алгоритмы не обладают моральным суждением, эмпатией и способностью к контекстуальному мышлению. Они оптимизируют процессы, но не учитывают человеческие ценности. В результате «искусственное государство» рискует стать холодным, бездушным механизмом, который эффективен, но несправедлив.

Почему лидеры Кремниевой долины плохо читают sci-fi?

Один из самых ярких тезисов Лепоре в подкасте — утверждение, что лидеры Кремниевой долины, как правило, плохо читают научную фантастику. Казалось бы, технологические предприниматели должны интересоваться жанром, который предсказывает будущее. Но Лепоре замечает, что большинство из них выбирают узкий сегмент — так называемый «технооптимизм». Они поглощают книги вроде «Сингулярность близко» Рэя Курцвейла или футурологические эссе, где технологии представлены как безусловное благо, приносящее бессмертие, изобилие и освобождение от труда.

При этом они игнорируют или отвергают антиутопии — классические романы-предупреждения, которые показывают тёмную сторону технологического прогресса. Такие произведения, как «1984» Джорджа Оруэлла, «О дивный новый мир» Олдоса Хаксли, «Мы» Евгения Замятина или современные романы вроде «Машина времени» и «Нейромант», предупреждают о тотальной слежке, потере приватности, манипуляции сознанием и социальном неравенстве, усугублённом технологиями.

Лепоре считает, что такое избирательное чтение — не просто вкусовщина, а системная проблема. Когда лидеры индустрии не знакомы с предостережениями, заложенными в классической научной фантастике, они с большей вероятностью повторяют ошибки, которые предсказывались десятилетия назад. Они видят только потенциал для роста и прибыли, но не замечают рисков для демократии и прав человека.

Примеры из истории

Чтобы проиллюстрировать свою мысль, Лепоре приводит исторические параллели. В 1950-х и 1960-х годах, когда строились первые компьютеры, многие инженеры были увлечены антиутопиями — например, они читали «1984» и обсуждали опасности тотального контроля. Однако к 1990-м и 2000-м годам, с приходом интернета и социальных сетей, оптимизм взял верх. Основатели цифровых платформ, такие как Марк Цукерберг и Джек Дорси, открыто заявляли, что их миссия — «соединить мир», не учитывая, как эти платформы могут быть использованы для распространения пропаганды, дезинформации и слежки.

Лепоре отмечает, что если бы они внимательнее читали такие романы, как «Прозрачное общество» Дэвида Брина или «Наблюдатели» (сериал «Чёрное зеркало» — хотя это и не книга, но яркий пример), они бы заранее увидели опасности, связанные с «прозрачностью» и потерей приватности.

Искусственное государство на практике

В подкасте Лепоре обсуждает несколько реальных примеров, которые иллюстрируют её концепцию. Она упоминает:

• Автоматизированное принятие решений в судах. В США и Европе всё чаще используются алгоритмы для оценки риска рецидива и определения меры пресечения. Исследования показали, что такие алгоритмы могут быть предвзятыми по расовому признаку — как в случае с системой COMPAS, которая предсказывала вероятность повторного преступления. Судьи полагались на эти оценки, что приводило к несправедливым приговорам для афроамериканцев.

• Системы социального кредита. Хотя западные страны и критикуют китайскую систему социального рейтинга, аналогичные идеи появляются и в демократических обществах. Платформы, такие как Uber и Airbnb, уже создают «частные рейтинги» для клиентов и водителей, которые могут влиять на доступ к услугам. Если такие механизмы будут объединены и переданы государству, мы получим цифровой паспорт поведения, предсказанный ещё в романе «Стеклянный ключ» Нила Стивенсона.

• Распознавание лиц и слежка. Полиция по всему миру использует системы распознавания лиц для идентификации людей на массовых мероприятиях. В Лондоне, например, камеры с ИИ отслеживают перемещения граждан в реальном времени. Лепоре напоминает, что в романе «1984» слежка была центральной темой, но тогда она требовала огромного аппарата людей и камер, а сегодня достаточно одного нейросервера.

• Автоматизация государственных услуг. Многие правительства внедряют чат-ботов для взаимодействия с гражданами — от получения справок до подачи налоговых деклараций. Пандемия COVID-19 ускорила этот процесс: например, в Эстонии создали систему e-Residency, которая позволяет людям со всего мира вести бизнес в этой стране без физического присутствия. Но Лепоре задаётся вопросом: кто отвечает за ошибки этих систем? Если алгоритм отказывает гражданину в льготе, у него есть право на апелляцию к человеку? В многих системах такой возможности нет.

Реакция Кремниевой долины

Интересно, что Лепоре отмечает: некоторые лидеры технологических компаний начинают понимать важность научной фантастики. Например, Илон Маск часто цитирует Айзека Азимова и его «Три закона робототехники», а Сэм Альтман из OpenAI признавался, что читал «Нейроманта» Уильяма Гибсона. Однако, по мнению Лепоре, это скорее исключение, чем правило. Большинство CEO и инженеров в Кремниевой долине не имеют гуманитарного образования и воспринимают научную фантастику как развлекательный жанр, а не как серьёзное интеллектуальное упражнение.

Почему это важно для всех нас

«Искусственное государство» — это не отдалённая антиутопия, а уже происходящий процесс. Лепоре подчёркивает, что мы все — граждане этой новой реальности, даже если не осознаём этого. Когда мы получаем государственные услуги через онлайн-порталы, когда полиция использует алгоритмы для прогнозирования преступности, когда наша кредитная история собирается цифровыми агентствами, мы уже взаимодействуем с элементами искусственного государства.

Вот почему так важно, чтобы лидеры технологических компаний, политики и общественные деятели читали научную фантастику не только для развлечения. Научная фантастика — это единственный жанр литературы, который систематически исследует последствия технологических изменений. Она позволяет нам «проиграть» сценарии будущего в безопасной среде и задать вопросы: что произойдёт, если все данные будут централизованы? Кому будет принадлежать право принимать решения? Как защитить слабых от злоупотреблений?

Лепоре цитирует фантаста Урсулу Ле Гуин, которая сказала: «Мы живём в капитализме, его власть кажется неизбежной, как власть грома. Но фантастика — это искусство возможного, и она учит нас тому, что вещи могут быть иными». По мнению Лепоре, лидеры Кремниевой долины должны усвоить этот урок.

Вывод

В эпоху, когда алгоритмы всё активнее вторгаются в государственное управление, нам как обществу необходимо развивать «фантастическую грамотность» — способность анализировать сценарии будущего, предсказанные в литературе. Джилл Лепоре в разговоре с TechCrunch предупреждает: если мы продолжим игнорировать предостережения классической научной фантастики, мы рискуем построить мир, где технологии служат не людям, а самим себе — холодное, эффективное, «искусственное государство», в котором нет места человечности.

Подкаст TechCrunch с Джилл Лепоре — обязательное прослушивание для всех, кто интересуется пересечением технологий и общества. Он заставляет задуматься о том, какие книги мы читаем и как они формируют наше видение будущего. Возможно, пришло время отложить очередной бизнес-роман и открыть для себя «О дивный новый мир» заново.

Подробнее о выпуске можно узнать по ссылке: Источник.