Лондонский Senate House, прототип Министерства правды из «1984»
Мыслители прошлого оставались в рамках гуманистической парадигмы. Они верили, что человек, его сознание, его воля и его искренняя лояльность — главный приз для любой власти. Ждали антиутопию в её классическом, грязном и страшном обличии — с колючей проволокой, бараками и марширующими солдатами. Такая наступила в менее развитых странах. Свидетели прав человека верили, что если европейцев, американцев и скандинавов не бьют дубинкой за неправильные мысли, то те свободны. Цифровой тупик стал внезапным открытием.
По оруэлловскому сценарию власть должна была ломать людей через колено, уничтожать инакомыслие пытками, страхом и пропагандой, требовать фанатичной любви к вождю.
В утопиях Азимова, Ефремова и Бэнкса ии создавался с одной-единственной целью — сберечь, защитить и развить внутренний мир человека. Роботы у Азимова запрограммированы Тремя законами, защищающими ценность человеческой жизни и душевного покоя, а доброжелательные Разумы у Бэнкса берут на себя рутину администрирования, чтобы предоставить человеческому духу абсолютную свободу для творчества, любви и экзистенциальных поисков.
Во всех этих сценариях человек оставался центром вселенной. Воображаемая Система будущего тратила гигантские ресурсы на то, чтобы взаимодействовать с внутренним миром каждого. Присутствие человека в этой схеме было обязательным.
В Океании велась война за человеческое сознание. О’Брайену было мало просто заставить Уинстона Смита подчиниться или замолчать. Системе требовалось выпотрошить его внутренний мир, сломать его интеллектуальное сопротивление и заставить его искренне, всей душой полюбить Большого Брата. Личность, пусть и растоптанная, оставалась главной ценностью, центром вселенной и конечной целью власти. Антиутопия не исключала диалога. Попытки уничтожить личность (зачем-то) учитывали, что у человека есть личность.
Теперь же выяснилось, что душу можно игнорировать. Системе вообще не интересна ваша душа. Ей достаточно контролировать ваши поведенческие маркеры и оптимизировать ваши цифровые следы.
Система распознавания лиц не спрашивает, любите ли вы правительство. Ей всё равно. Она сравнивает ваши параметры с базой данных и решает, пропустить вас или вызвать полицию. ИИ-алгоритм в медицине не интересуется вашими экзистенциальными страхами — он просто высчитывает ваши шансы на выживание в рамках бюджета.
Раньше думали, что антиутопия — это когда заставляют думать правильно. Сегодняшняя антиутопия — это когда то, что вы думаете, вообще ни на что не влияет.
Человек стал объектом администрирования, который нужно эффективно и, желательно, бесконтактно распределять, маркировать, использовать и, если нужно, изолировать от системы одним кликом мыши. Читать далее →
