Лондонский Senate House, прототип Министерства правды из «1984»
Мыслители прошлого оставались в рамках гуманистической парадигмы. Они верили, что человек, его сознание, его воля и его искренняя лояльность — главный приз для любой власти. Ждали антиутопию в её классическом, грязном и страшном обличии — с колючей проволокой, бараками и марширующими солдатами. Такая наступила в менее развитых странах. Свидетели прав человека верили, что если европейцев, американцев и скандинавов не бьют дубинкой за неправильные мысли, то те свободны. Цифровой тупик стал внезапным открытием.
По оруэлловскому сценарию власть должна была ломать людей через колено, уничтожать инакомыслие пытками, страхом и пропагандой, требовать фанатичной любви к вождю.
В утопиях Азимова, Ефремова и Бэнкса ии создавался с одной-единственной целью — сберечь, защитить и развить внутренний мир человека. Роботы у Азимова запрограммированы Тремя законами, защищающими ценность человеческой жизни и душевного покоя, а доброжелательные Разумы у Бэнкса берут на себя рутину администрирования, чтобы предоставить человеческому духу абсолютную свободу для творчества, любви и экзистенциальных поисков.
Во всех этих сценариях человек оставался центром вселенной. Воображаемая Система будущего тратила гигантские ресурсы на то, чтобы взаимодействовать с внутренним миром каждого. Присутствие человека в этой схеме было обязательным.
В Океании велась война за человеческое сознание. О’Брайену было мало просто заставить Уинстона Смита подчиниться или замолчать. Системе требовалось выпотрошить его внутренний мир, сломать его интеллектуальное сопротивление и заставить его искренне, всей душой полюбить Большого Брата. Личность, пусть и растоптанная, оставалась главной ценностью, центром вселенной и конечной целью власти. Антиутопия не исключала диалога. Попытки уничтожить личность (зачем-то) учитывали, что у человека есть личность.
Теперь же выяснилось, что душу можно игнорировать. Системе вообще не интересна ваша душа. Ей достаточно контролировать ваши поведенческие маркеры и оптимизировать ваши цифровые следы.
Система распознавания лиц не спрашивает, любите ли вы правительство. Ей всё равно. Она сравнивает ваши параметры с базой данных и решает, пропустить вас или вызвать полицию. ИИ-алгоритм в медицине не интересуется вашими экзистенциальными страхами — он просто высчитывает ваши шансы на выживание в рамках бюджета.
Раньше думали, что антиутопия — это когда заставляют думать правильно. Сегодняшняя антиутопия — это когда то, что вы думаете, вообще ни на что не влияет.
Человек стал объектом администрирования, который нужно эффективно и, желательно, бесконтактно распределять, маркировать, использовать и, если нужно, изолировать от системы одним кликом мыши.
Современный ламповый бюрототалитаризм занимается не воспитанием духа, а сухой математической оптимизацией потоков, снижением издержек и управлением биологическими рисками.
Люди превратились в цифровой след, биометрические юниты, экономическое топливо для автоматизированного улья.
В случае чего человека незаметно и бесконтактно отфильтруют: заблокируют банковский счет, отменят визу, аннулируют цифровой пропуск на работу и водительские права, пришлют автоматический штраф по почте, выселят из квартиры, заблокируют мейл и сайт, выдадут нужные результаты поиска в интернете, на основе скрытых оценок лишат доступа к услуге без объяснения причин.
Программы разнообразия, равенства и инклюзивности, деколонизация науки в а поверку оказываются бездушным бюрократическим механизмом. Корпорации внедряют жесткие квоты и вводят новые языковые эвфемизмы не из любви к людям. Они делают это ради защиты от судебных исков, улучшения рейтингов и демонстрации идеологической лояльности.
Системе больше не нужно строить концлагеря. Мы покупаем устройства слежки за собственные деньги, постоянно носим их в кармане и добровольно подстраиваем своё поведение под шаблоны, которые ии удобнее распознавать и переваривать. Системе не пришлось нас ломать — вы сами оптимизировали себя под её стандарты.
Ради инклюзивности Кембридж нанял доцента-исследователя в области образования Фарах Ахмед (Farah Ahmed), которая состояла в террористической исламистской организации Хизб ут-Тахрир. Фарах говорила, что западное образование несет угрозу традиционным ценностям мусульман, а демократия является коррумпированной традицией.
Научные гранты выдаются не с учётом ценности открытия для человечества, а за умение заполнять анкетам. Живой человек настолько утратил значение для системы, что проходящий по формальным критериям террорист или психопат запросто попадает на руководящие должности. Тогда как лишенный артистизма или способности к патологическому вранью эксперт вылетает с работы в три пинка.
Это тотальное двумыслие, где за ширмой заботы скрывается абсолютное равнодушие к судьбе конкретного живого существа.
Оруэлл описывал мир, где люди мучили людей ради удержания власти. Мы же оказались в реальности технократического отчуждения, где человеческий фактор последовательно вычищается из всех сфер жизни не пойми для чего.
Оказаться лицом к лицу со злобным, но человечным тираном — это трагедия, которая все же оставляет пространство для бунта и сопротивления духа.
Растворение в бездушном математическом алгоритме лишает человека даже возможности быть услышанным.
Современная антиутопия победила не силой, а полным упразднением человека как мыслящей единицы.