Лондонский Senate House, прототип Министерства правды из «1984»
Мыслители и писатели прошлого оставались в рамках гуманистической парадигмы. Они верили, что человек, его сознание, его воля и его искренняя лояльность — это главный приз для любой власти. Мы ждали антиутопию в её классическом, грязном и страшном обличии — с колючей проволокой, бараками и марширующими солдатами. Такая наступила в менее развитых странах. Свидетели прав человека верили, что если европейцев, американцев и скандинавов не бьют дубинкой за неправильные мысли, то они свободны. Цифровой тупик стал внезапным открытием.
По оруэлловскому сценарию власть должна была ломать людей через колено, выжигать инакомыслие пытками, страхом и тотальной пропагандой, требуя фанатичной любви к вождю.
В утопиях Азимова, Ефремова и Бэнкса искусственный интеллект и глобальные сети создавались с одной-единственной целью — сберечь, защитить и развить внутренний мир человека. Роботы у Азимова запрограммированы Тремя законами, защищающими ценность человеческой жизни и душевного покоя, а доброжелательные Разумы у Бэнкса берут на себя рутину администрирования, чтобы предоставить человеческому духу абсолютную свободу для творчества, любви и экзистенциальных поисков.
Во всех этих сценариях человек оставался центром вселенной. Воображаемая Система будущего тратила гигантские ресурсы на то, чтобы так или иначе взаимодействовать с внутренним миром каждого. Присутствие человека в этой схеме было обязательным.
В Океании велась яростная, тотальная война за человеческое сознание. Партийному функционеру О’Брайену было мало просто заставить Уинстона Смита подчиниться или замолчать. Системе требовалось выпотрошить его внутренний мир, сломать его интеллектуальное сопротивление и заставить его искренне, всей душой полюбить Большого Брата. Это был мир ручного, глубоко человеческого по своей природе тоталитаризма. Личность, пусть и растоптанная, оставалась главной ценностью, центром вселенной и конечной целью власти. Антиутопия не исключала диалога. Попытки уничтожить личность требовали признания того, что у человека есть личность.
Теперь же выяснилось, что душу можно игнорировать. Системе вообще не интересна ваша душа. Ей достаточно контролировать ваши поведенческие маркеры и оптимизировать ваши цифровые следы.
Система распознавания лиц не спрашивает, любите ли вы правительство. Ей всё равно. Она сравнивает ваши параметры с базой данных и решает, пропустить вас или вызвать полицию. ИИ-алгоритм в медицине не интересуется вашими экзистенциальными страхами перед болезнью — он просто калькулирует ваши шансы на выживание в рамках выделенного бюджета.
Раньше думали, что антиутопия — это когда человека заставляют думать правильно. Сегодняшняя антиутопия — это когда то, что вы думаете, вообще ни на что не влияет.
Человек стал объектом администрирования, который нужно эффективно и, желательно, бесконтактно распределять, маркировать и, если нужно, изолировать от системы одним кликом мыши.
Власти, корпорациям и управляющим алгоритмам плевать на наши мысли, убеждения или преданность. Современный ламповый бюрототалитаризм занимается не воспитанием духа, а сухой математической оптимизацией потоков, снижением издержек и управлением биологическими рисками.
Мы превратились в цифровой след, в биометрические юниты и экономическое топливо для автоматизированного улья.
В случае чего человека незаметно и бесконтактно отфильтруют: заблокируют банковский счет, отменят визу, аннулируют цифровой пропуск на работу и водительские права, пришлют автоматический штраф по почте, выселят из квартиры, заблокируют ваш адрес и сайт, и на основе скрытых оценок лишат доступа к услуге без объяснения причин.
Программы разнообразия, равенства и инклюзивности, деколонизация науки в а поверку оказываются бездушным бюрократическим механизмом. Корпорации внедряют жесткие квоты и вводят новые языковые эвфемизмы не из любви к людям. Они делают это ради защиты от судебных исков, улучшения рейтингов и демонстрации идеологической лояльности.
Системе больше не нужно строить концлагеря. Мы покупаем устройства слежки за собственные деньги, постоянно носим их в кармане и добровольно подстраиваем свое поведение под шаблоны, которые ИИ легче всего распознать и переварить. Системе не пришлось нас ломать — мы сами оптимизировали себя под её стандарты.
Ради инклюзивности Кембридж нанял доцента-исследователя в области образования Фарах Ахмед (Farah Ahmed), которая состояла в террористической исламистской организации Хизб ут-Тахрир. Фарах говорила, что западное образование несет угрозу традиционным ценностям мусульман, а демократия является коррумпированной традицией.
Научные гранты теперь выдаются не за ценность открытия для человечества, а за соответствие состава исследователей правильным анкетам. Живой человек настолько утратил значение для системы, что проходящий по формальным критериям террорист или психопат запросто попадает на руководящие должности. Тогда как лишенный артистизма или способности к патологическому вранью эксперт вылетает с работы в три пинка.
Это тотальное двумыслие, где за ширмой заботы скрывается абсолютное равнодушие к судьбе конкретного живого существа.
Оруэлл описывал мир, где люди мучили людей ради удержания власти. Мы же оказались в реальности технократического отчуждения, где человеческий фактор последовательно вычищается из всех сфер жизни не пойми для чего.
Оказаться лицом к лицу со злобным, но человечным тираном — это трагедия, которая все же оставляет пространство для бунта и сопротивления духа.
Растворение в бездушном математическом алгоритме лишает человека даже возможности быть услышанным.
Современная антиутопия победила не силой, а полным упразднением человека как мыслящей единицы.