Роман Олдоса Хаксли «О дивный новый мир», действие которого происходит в 2540 году — показатель того, насколько далеко в будущее заглянул автор — был опубликован в 1932 году. Это было время межвоенной передышки, когда мировые державы переживали бурный научно-технический прогресс. Книга Хаксли, как и произведение Джорджа Оруэлла «1984», написанное десятилетия спустя, стала романом-предостережением. Критические высказывания Хаксли по поводу технократизма — особенно опасного в условиях усиления власти государства над личностью, о чем предупреждал и Оруэлл, — были ответом на безудержный энтузиазм, вызванный техническими достижениями той эпохи.
Прозорливое предупреждение Хаксли
Нельзя не соотнести опасения Хаксли с нынешним страхом потерять контроль над стремительно расширяющимися возможностями искусственного интеллекта. Развитие ИИ грозит массовым сокращением рабочих мест, связанных с обработкой документов, информации, созданием контента, юридической деятельностью, бухгалтерским учетом и другими подобными услугами для «белых воротничков». В результате общество будет вынуждено перевести десятки миллионов ранее продуктивных людей на базовый доход, тем самым сделав их полностью зависимыми от государства. Аналогичными последствиями в сфере занятости чревато стремительное развитие робототехники в промышленности и логистике, использование дронов для доставки грузов и переход на автономные транспортные средства. Все это может привести к значительному расширению социального государства и усилению зависимости от него граждан.
Менее очевидная опасность
Постепенно надвигается и менее очевидная опасность, которую предвидел Хаксли: неуклонный рост государственного (и корпоративного) мониторинга и контроля общества с помощью технологий. На самом деле Хаксли не только бил тревогу по поводу чрезмерной зависимости от технологий: он предостерегал от рисков технологического управления обществом.
Кредитные рейтинги — лишь видимая часть айсберга медленно расширяющейся технологической практики, направленной на ослабление человеческих связей, которые до сих пор формировали «общество», заменяя их государственными и/или корпоративными структурами, цифровыми платформами и сервисами.
Сегодняшние признаки кошмарного будущего Хаксли
Если вспомнить, как развивалось современное общество и наш образ жизни только за последние 30 лет, и сравнить их с тем, как Хаксли описывает жизнь в Мировом государстве (World State), можно провести немало тревожных параллелей.
В книге идет речь о поощрении государством употребления опиата «сома», который помогает людям расслабиться и избавиться от беспокойства или стресса. Это предвестие широко распространенного в наши дни использования американцами подобных наркотиков, в частности марихуаны, транквилизаторов и других видов лекарственных и наркотических средств для снятия боли или стресса, как легальных, так и нелегальных.
Современная экономика зачастую вынуждает обоих родителей работать, чтобы свести концы с концами, а также пользоваться аутсорсинговыми услугами по уходу за детьми и раннему дошкольному образованию. Здесь можно провести аналогию со стремлением Мирового государства единолично отвечать за воспитание и идеологическую обработку подрастающего поколения.
Дети в Мировом государстве с рождения принадлежат к одной из пяти социальных каст: Альфа, Бета, Гамма, Дельта и Эпсилон. Подобным образом социально-экономический статус современной семьи в значительной степени предопределяет образование, окружение, питание, уровень жизни и социальные связи ребенка. Все это, в свою очередь, сильно влияет на его здоровье (и, как следствие, телосложение), карьерные возможности, выбор татуировок и пирсинга, манеру одеваться. Зачастую социальное положение человека можно точно определить по одному его внешнему виду.
Эту современную версию кастовой системы Мирового государства дополняют и усиливают широко популярные онлайн-платформы знакомств. Оснащение их фильтрами поиска позволяет людям с более высоким статусом — в частности, женщинам — автоматически исключать возможность общения (и, в конечном итоге, продолжения рода) с менее привлекательными и низкостатусными участниками.
Небывалая востребованность развлечений — опиума для народа
Внимание Мирового государства к развлечениям граждан и их полной вовлеченности в процесс потребления — одна из наиболее очевидных параллелей с современной культурой. Однако даже Хаксли не мог себе представить такого неограниченного доступа — в любое время и в любом месте — к фильмам, телесериалам, музыке, спорту, порнографии, мемам, магазинам, анимации, партийной агитации и всем их гибридам и вариантам.
В отличие от совместного досуга, популярного в прошлом, — карточных, салонных и настольных игр, кружков вязания, командного боулинга и т. п. — современные развлечения в основном пассивны и располагают к уединению. Получаемое от подобных занятий удовольствие укрепляет зависимость от них, ослабляя социальные связи и подавляя личную активность. Это, в некотором смысле, еще один вид опиатов — сома, передаваемая цифровым способом.
Дивный новый мир… но только для молодых?
Два главных героя романа Хаксли — Бернард и Линайна — в какой-то момент получают разрешение посетить отдаленную «нецивилизованную» территорию — Резервацию. Помимо всего прочего, их шокировал вид пожилых людей, стареющих естественным образом, в отличие от жителей Лондона (входящего в Мировое государство), искусственно поддерживающих молодость с помощью химикатов и гормонов. Вместо столицы Англии, в книге Хаксли мог бы оказаться практически любой современный мегаполис, такой как Лос-Анджелес, Нью-Йорк или Даллас, где широко применяются методы антивозрастной терапии: ботокс, филлеры, пластическая хирургия и т. д.
Сегодня, подобно происходящему в Резервации, людей преклонного возраста все чаще отправляют в «дома престарелых» или «сообщества пенсионеров», что исключает их из основной социальной среды. В результате к настоящему времени почти исчезло понятие большой семьи — живущей под одной крышей или в шаговой доступности. В прежние времена бабушки и дедушки в такой семье вносили свой вклад в воспитание внуков, передавая им семейные традиции, социальные нормы и образцы культурной идентичности.
Какой ценой достигается стабильность общества?
Тотальный контроль и технологически управляемое социальное расслоение — не единственные бичи Мирового государства. Наиболее зловещим его аспектом является убеждение, что стабильное общество — это то, в котором личностная автономия подавлена, все формы боли изгнаны, а потребительство и погоня за удовольствиями — основные занятия населения, составляющие смысл его существования.
Более того, в романе Хаксли утверждается, что цель Мирового государства — общественное благо — не совместима с поиском истины и смысла.
Персонаж Хаксли по имени Мустафа Монд, выполняющий обязанности «мирового контролера», убежден: ничто так не способствует общественному благу, как признание бесполезности истины и искусственно достигнутое отсутствие страданий. Выполнение этих условий, по его мнению, верный способ добиться стабильности в обществе, которая, в свою очередь, гарантирует постоянство благополучия.
В книге Оруэлла государственное принуждение общества к стабильности показано еще более сурово и мрачно, чем у Хаксли. Но у каждого из этих режимов есть свои аналоги в современном мире. В таких странах, как Китай, Иран, Северная Корея, правящие круги и, в случае Ирана, религиозные авторитеты применяют тоталитарные и, где необходимо, жесткие меры политического и общественного контроля. На Западе же правительства чрезмерно уступчивы лоббированию корпораций, соучаствуя в их «мягком» контроле над населением, ставшим послушным благодаря потребительству, разъединенности, обжорству, опиатам и бесконечным развлечениям.
В обоих случаях истина приносится в жертву стабильности: в диктаторских режимах она подавляется жестким контролем над СМИ и системой образования, а на Западе становится неактуальной из-за всеобщего предпочтения комфорта, паллиативов и отвлекающих факторов.
В тоталитарных государствах за высказывание правды в адрес власти грозит тюрьма или еще что похуже. На Западе истина размывается почти до бессмысленности: ее прежнее определение как объективной, окончательной, неопровержимой и основанной на фактах уступает место идее субъективных, связанных с чувствами и лично «пережитыми истинами».
Незаметное скатывание в состояние Мирового государства
Возможно, мы находимся только в начале пути к «дивному новому миру». Кирпичики в технологической стене контроля продолжают громоздиться один на другой, но незаметно и постепенно, что позволяет этим мерам практически не встречать сопротивления.
Можно привести массу примеров нашего медленного скатывания в состояние Мирового государства:
- правительства стремятся препятствовать использованию наличных денег или даже вовсе отказываются от них в пользу цифровых (и, следовательно, бесконечно отслеживаемых) платежных средств;
- центральные банки планируют выпускать собственные криптовалюты, изолированные от традиционных показателей денежной массы, инфляции и фискальной отчетности;
- принудительный отказ от автомобилей с двигателями внутреннего сгорания в пользу электромобилей, подключенных к электросети, позволяет осуществлять централизованный цифровой мониторинг использования транспортных средств и их местоположения;
- хранение ДНК граждан в цифровых базах данных открывает лазейки для ловких маркетологов и делает возможной дискриминацию по генетическому признаку со стороны работодателей и страховых компаний.
Одержимость Марка Цукерберга созданием своего виртуального мира под названием «Метавселенная» («Metaverse») — пожалуй, самый ясный сигнал тревоги, дающий понять: те, у кого сегодня реальная власть — владельцы цифровых платформ, все чаще используемых нами для доступа к информации, покупок, развлечений и общения в соцсетях, — стремятся привлечь нас к симуляции централизованного «благополучного» и «стабильного» общества, от которого предостерегал Хаксли.
Чтобы избежать обвинений в неолуддитском мышлении, не будем отрицать преобразующей силы технологий. Они сделали и продолжают делать нашу жизнь проще, здоровее, продуктивнее и интереснее. Мы можем всячески использовать их для достижения благополучия и уменьшения страданий, прилагая как индивидуальные, так и совместные усилия. У нас всегда есть возможность предпочесть потоку дезинформации и манипуляций поиск истины — какой бы неудобной или неприятной она ни была. Главное — не поддаваться искушению использовать технологии в целях общественного контроля.
Иллюзорность нашей веры в свою защищенность
Наша правовая система не защитит нас от кошмара, изображенного Хаксли: стоит изменить законы — и немыслимое станет явным и обязательным. Нас не спасет религия: история достаточно убедительно показала, как ее лидеры могут использовать свое влияние, чтобы загнать нас в угол так же легко, как и вдохновить. Искусство, как ни соблазнительно видеть в нем оплот, не является таковым: им можно манипулировать, превратив в инструмент власти. Более того, современные компьютеры научились создавать поистине впечатляющие произведения искусства, что еще лет пять назад было немыслимо.
Технологии сами по себе, безусловно, не являются нашими антагонистами: Кубрик и Кэмерон продемонстрировали это на примерах HAL 9000 в «Космической одиссее» и Скайнета в «Терминаторе». Не стоит паниковать, уподобляясь ведущим технологам, предсказывающим, что однажды ИИ, интернет вещей, продвинутые сетевые дроны, роботы и подобные им машины научатся взаимодействовать друг с другом, чтобы в какой-то момент — возможно, в недалеком будущем — обойти меры предосторожности, запрограммированные нами.
Мы еще не совсем в Матрице. Но как убедиться, что шанс избежать участи, описанной Хаксли, еще не упущен? Не стоит ли собраться с духом и, пока еще есть время, принять повышающую осознанность красную таблетку, как это сделал Нео в научно-фантастическом мире Вачовски, вместо того, чтобы проглотить еще одну отупляющую синюю таблетку под мантру «Netflix and chill» («смотри Netflix и расслабляйся»)?
Отказ от опасного контроля
Необходим защитный рефлекс, при котором мы инстинктивно, как механизм коллективного выживания, будем отвергать любые технологические меры, способные обеспечить еще более навязчивый мониторинг и дистанционное влияние на наши индивидуальные действия, мнения и образ жизни. Самое сложное при этом — быть готовым пожертвовать определенной степенью безопасности, здоровья и даже счастья ради отстаивания права жить при минимальном количестве централизованных и организованных в цифровом формате средств контроля.
Всегда найдутся веские и даже вполне обоснованные аргументы в пользу все более сложной системы данных, на основе которой организуется, измеряется и управляется наша жизнь. Поиск правильного баланса между тем, что полезно для общества, и тем, что ущемляет права личности, всегда было и будет неточной наукой.
Тщательно следя за технологиями, за тем, чтобы работающие на микрочипах инструменты не превратились в цифровые оковы, мы должны остерегаться незаметно скатиться в мир Хаксли, где:
- стерты понятия семьи, дружбы и сообщества;
- глубокие эмоции подавлены и заменены поверхностными развлечениями;
- исторические знания и культурные традиции, как и в романе «1984» Оруэлла, переписаны, осуждены или забыты;
- не поощряется духовность, понимаемая как стремление к высшим истинам или личностному росту.
Все перечисленное довольно неприятно перекликается с общественными стереотипами, которые формируются и укрепляются сегодня на наших глазах.
Вперед в прошлое, чтобы не быть порабощенным в будущем
Вопреки тому, в чем нас пытаются убедить политики и технологические миллиардеры, понятия «перемены» и «прогресс» не всегда соответствуют их рекламному представлению. В нашем мире, который становится все более цифровым, виртуальным и управляемым алгоритмами, избежать зависимости от схем можно, только отдавая предпочтение, когда это возможно, общению с людьми, реальным разговорам и даже столкновениям точек зрения — как с оппонентами извне, так и самим собой.
Мы должны бороться за сохранение свободы, автономии и — что, возможно, наиболее важно — анонимности там, где это желательно: в финансовых, религиозных, политических вопросах, в повседневном образе жизни. Мы должны обеспечить нашим детям прочные моральные устои и основы образования, одновременно воспитывая в них страстную любовь к независимости и самостоятельности, а также здоровое недоверие к власти. Мы должны заново открыть для себя способность не создавать религиозные догматы, а скорее подвергать сомнению те из них, которые уводят нас от самоанализа и трезвого взгляда на жизнь.
В конечном счете лучшим противовесом предсказанию Хаксли будет восстановление контактов с нашими ближними. Это тем более важно сейчас, когда цифровые «персонажи», управляемые ИИ, все чаще оказываются способны пройти знаменитый тест Тьюринга и обмануть человека, выдавая себя в разговоре с ним за другого настоящего человека или даже — благодаря невероятно точной эмуляции голоса и цифровой видеосъемке — за лучшего друга, члена семьи, одноклассника или коллегу.
Чтобы не попасть в подобную цифровую ловушку, нужно по возможности избегать цифровых коммуникационных интерфейсов в пользу личных контактов в реальной жизни. Поменяйте смайлики, «лайки» и комментарии на социальных платформах на реальные разговоры, обеды, ужины и шахматные партии в парке. Переключитесь со скроллинга и стриминга на вечеринки, спортивные мероприятия, концерты, игровые и комедийные шоу. Обретите заново истинно человеческое чувство комфорта в окружении собратьев-людей. В крайнем случае просто посидите и насладитесь своим любимым напитком в непосредственной близости от других людей в баре, кафе или ресторане.
Не пренебрегайте предупреждениями провидцев
Сформированные на протяжении тысячелетий чувство общности и повседневное непосредственное социальное взаимодействие — самое важное наше коллективное достояние. Оно позволяет каждому из нас быть чем-то большим, чем животное, и выгодно отличает от машин.
Базовые устои и структуры человечества развивались в течение долгого времени не просто так. Позволить заржаветь и прийти в негодность этим опорам нашего общества, променяв их на дегуманизированную логику «систем» и бескомпромиссное совершенство «схем» в стремлении к еще большему комфорту, эффективности и стабильности, — это самоубийство цивилизации. Хаксли предрекал его. Нас предупреждали.
Читайте также:
- Я могу назвать себя «экспертом по ИИ», а вы?
- 3 лайфхака по работе с музыкальным ИИ в условиях нехватки данных
- Инженерия будущего: интеграция данных, программного обеспечения и искусственного интеллекта
Читайте нас в Telegram, VK и Дзен
Перевод статьи Paul Maglione: Has AI Brought Us To The Doorstep Of Huxley’s Brave New World?
