1. Введение
В поэме Ричарда Браутигана "Все под присмотром машин милосердия" предлагается идея управления с помощью машин, что в свою очередь вдохновило создание "умных городов". Умные города используют датчики для сбора данных и информационно-коммуникационные технологии для управления городскими системами. Они предлагают более эффективные способы управления государственным имуществом и повышения общественной безопасности. Однако у этой концепции есть недостатки, и ее политическая природа может быть непрозрачной. Независимо от этого, пилотные программы "умных городов" уже реализуются в нескольких странах мира.
Технологии "умных городов" могут представлять угрозу для демократических процессов и норм, если они не будут разработаны и реализованы при надлежащем совещательном надзоре и критическом внимании со стороны граждан. Во-первых, многие технологии умных городов разрабатываются с явным политическим подтекстом без достаточного этического обоснования. Во-вторых, медленные, плюралистические процессы, характерные для демократических систем, помогают гарантировать, что новая политика и новое поведение подвергаются достаточно тщательному обсуждению. В-третьих, этика умных городов плохо сочетается с плюралистическими нормами демократической системы, и что технологическая рациональность, лежащая в основе технологий "умного города", может поставить под угрозу медленные и методичные процессы демократического управления. Наконец, умные технологии должны стать доступными и понятными, чтобы граждане могли поставить их под коллективный контроль, чтобы сохранить легитимность демократических систем.
2. Архитектуры выбора
Исследователи в области "убеждающих технологий" работают над разработкой систем и объектов, способных менять поведение людей посредством "подталкивания". Идея "подталкивания" возникла в середине 1990-х годов на основе исследований в области кибернетики. Подталкивание – это непринудительное средство целенаправленного воздействия на определенное поведение. Так называемые «архитекторы выбора» могут использовать подталкивания для стимулирования желательного поведения и дестимулирования нежелательного, не нарушая свободу участвующих субъектов. Эта идея полезна для разработки убедительных технологий умного города, что делает её явно политической, поскольку отражает определенное представление о благе.
В Эйндховене на улице Stratumseind, одной из самых оживленных ночных улиц Нидерландов, проводятся эксперименты по созданию умного города. На фонарных столбах установлены wifi-трекеры, камеры и микрофоны для фиксации агрессивного поведения и предупреждения полиции. В прошлом эксперименте меняли интенсивность освещения и использовали запах апельсинов для разгона драк. Цель таких экспериментов - профилировать людей и нацелить их на просоциальное поведение.
Так же была разработана таксономия, которая классифицирует технологии убеждения на основе предполагаемого пользовательского опыта. Выделены четыре категории: принуждающие, определяющие, убеждающие и соблазняющие. Для каждой категории определены "стратегии проектирования", которые могут максимизировать вероятность желаемого поведения пользователя. Эту таксономию легко применить к существующим интеллектуальным системам. Например, запах апельсинов может быть либо решительной, либо соблазнительной стратегией, в зависимости от механизма действия. Использование wifi-трекеров, микрофонов и камер видеонаблюдения может быть скрытым или убеждающим. Знание о наличии таких технологий заставляет граждан контролировать свое поведение в соответствии с преобладающими нормами. Любые полицейские действия, которые проявляются в результате нарушения этих норм, являются примером стратегии принуждения без подталкивания.
Стратегическая таксономия может быть полезна для архитекторов умных городов. Используя огромные объемы данных, доступные через интеллектуальные системы, можно сделать стратегии проектирования более эффективными и безопасными для жителей города. Однако, важно учитывать этические вопросы, связанные с социальной ответственностью проектирования. Поэтому, разработчики должны согласовывать стандарты добра с сообществом и разрабатывать технологии, поощряющие их соблюдение.
Возвращаясь к примеру Stratumseind, стоит упомянуть что муниципалитет считает, что освещение может сыграть решающую роль в снижении агрессивного поведения и повышении безопасности района. Подтекст такого контроля предполагает, что безопасность и привлекательность района изоморфны стремлению к благу, что вызывает подозрения в том смысле, что объединение привлекательности и безопасности с строгим стремлением к просоциальному поведению не учитывает моральный характер некоторых проявлений гражданского неповиновения. Например, гонконгские протесты и протесты Джорджа Флойда были направлены на благо, несмотря на их антисоциальный характер. Системы умных городов, как на Stratumseind, не допускают политического самовыражения, что неправильно, потому что право на несогласие заложено в этике демократии. Концепция блага, которую воплощают эти системы, слишком просоциальна, чтобы допускать выражение несогласия.
3. Демократическая легитимность
Демократии отличаются плюрализмом в отношении блага. В демократических обществах ценятся определенные нормы, такие как толерантность, но их не следует рассматривать как благо само по себе. Толерантность помогает гарантировать индивидуальную свободу и следование своим представлениям о благе. Демократический плюрализм предполагает, что ни одно из благ не является более важным, чем другие. В демократии все люди важны для создания цивилизации, и они должны иметь свободу самовыражения.
Это очень интересное рассуждение об особенностях оценки ценностей и проблемах несоизмеримости в политических вопросах. Многие ценности и интересы не могут быть измерены и сравнены друг с другом, что делает их несоизмеримыми и порой противоречивыми. В таких случаях важно создать структуры, которые бы могли обсуждать и аргументировать различные точки зрения и помогать принимать решения на основе консенсуса и диалога. Важно, чтобы эти процессы были прозрачными и демократичными, и чтобы в них участвовали как можно больше граждан.
Демократическая легитимность — это первое достоинство коллективного принятия решений, но не гарантирует удовлетворения всех заинтересованных сторон. Необходимо создать набор норм и процедур, которые регулируют, как противоположные представления о благе могут быть оспорены. Справедливость является критерием доверия к совещательным процессам. Она поддерживает процедурный подход к социальной эпистемологии, где процедура гарантирует правильность результата. Таким образом, правильно разработанные и реализованные совещательные процедуры являются “производящими знания”, точно так же как научные исследования.
Демократические процессы должны быть справедливыми и открытыми, чтобы разрешать споры между разными представлениями о благе. При этом антисоциальное поведение может быть оправдано, если оно служит восстановлению справедливости и легитимности демократических процедур. Протесты в Гонконге и в случае Джорджа Флойда являются антисоциальными, поскольку они направлены против политических и экономических систем, нарушающих принцип чисто процедурной демократической легитимности.
Демократические страны постоянно обсуждают и пересматривают понятие "общественного блага", которое изменяется в соответствии с меняющимися нормами. Демократия неэффективна из-за неизбежных административных издержек, но это не недостаток, так как медлительность процедур гарантирует тщательное обсуждение новых политик и обоснованное принятие решений. Демократия легитимна благодаря глубоко неэффективным совещательным процедурам, которые допускают разнообразие и критику.
4. Технологическая рациональность
Системы умных городов, нацеленные на обеспечение безопасности и привлекательности, привилегируют узкое понятие блага, соответствующее современному капитализму, что противоречит демократической свободе. Концепция технологической рациональности выражает смешение социальных и технических функций, подразумеваемых в "конструктивной критике технологии" Маркса. Это объясняет, как правила и процедуры, которые достигают определенного рода универсальности, могут также представлять частные интересы посредством предположений. Эти интересы упускаются из виду, поскольку они выражаются не в приказах или командах, а технически воплощены, например, в внешне нейтральных правилах управления или технических разработках Эта тенденция возникает из индивидуалистической рациональности эпохи Просвещения. Индивидуалистическая рациональность означает свободу преследовать свои уникальные цели, продукт автономного мышления и совести. Отношения между индивидуальным рационалистом и обществом непросты. Этот новый "либералистский" режим свободной конкуренции приводит к двум пересекающимся явлениям: технологическому и экономическому. Свободная конкуренция благоприятствует предприятиям с механизированным и рациональным оборудованием. Индустриализация и механизация приводят к концентрации власти и формированию олигополий и монополий, что ослабляет способность индивидов к коллективным действиям. Индивидуалистическая рациональность, основанная на установке "индивид против общества", становится подвластной "господству гигантских предприятий машинной индустрии". Это создает условия для развития "технологической" рациональности.
Подразумевается, что технология — это не только совокупность технических объектов, но и способ существования, который организует поведение и социальные отношения. Технологическая рациональность требует, чтобы человеческие усилия были направлены и измерены стандартами конкурентной эффективности, навязанными индустриализацией и механизацией. Это означает, что объекты и услуги оцениваются только с точки зрения их коммерческой ценности. Технологически рациональный субъект востребован массовым производством и распределением, что приводит к немедленной идентификации индивида с его обществом и обществом в целом. Технологическая рациональность — это своего рода "тотальный эмпиризм", в котором понятия обретают полную идентичность с соответствующим набором экономических и промышленных операций. Тотальный эмпиризм устраняет понятия, которые не учитываются в технологических процессах и служит для согласования идей с господствующей системой. Однако, это приводит к потере политической свободы, так как технологическая рациональность делает акцент на конкурентной эффективности и прибыли, в ущерб значимым политическим решениям. Публичное пространство, где мы можем обсуждать важные вещи, сокращается, и вместо этого появляются нейтральные вопросы экономической эффективности, которые принимаются недемократическим путем.
5. Открытие умного города
Умные города, основанные на технократических принципах, исключают необходимость медленных и неэффективных совещательных процедур, которые являются неотъемлемой частью демократического управления. Однако, использование искусственного интеллекта несовместимо с демократическим управлением, которое основывается на постоянном процессе обсуждения и принятия решений. Проектирование технологий имеет глубокие политические последствия и не должно исключать участие большинства людей. Демократические нормы могут быть сохранены с помощью критической теории и создания идеальных речевых ситуаций, которые обеспечивают условия для демократической легитимности. Демократия имеет освободительную силу, даже в условиях капиталистических систем производства и потребления.
Архитекторы умных городов должны работать в сотрудничестве с полисом и создавать системы, учитывающие моральные предпочтения и потребности всех заинтересованных сторон. Это называется "демократической трансформацией снизу". Этот процесс должен быть демократически легитимным, ясным, прозрачным и поддающимся пересмотру. Государство должно иметь возможность регулярно вмешиваться в разработку и управление системами, чтобы они соответствовали общественному благу и общему представлению о городах. Фейнберг разработал теорию инструментализации, которая помогает понимать технические системы. Он начинает с "технических элементов", которые могут быть собраны вместе для формирования различных значений и намерений. Для понимания технических элементов, необходимо обладать определенными телесными и концептуальными возможностями, а также правильным отношением к миру.
Это процесс, который происходит путем деконтекстуализации объектов и их упрощения, чтобы подчеркнуть те качества, благодаря которым им приписывается та или иная функция. Фейнберг называет это "первичной инструментализацией". Фейнберг утверждает, что первичная инструментализация нейтральна, но лишь в свете социальных ценностей. Однако, при переориентации и интеграции вторичной инструментализации, технические элементы перестают быть нейтральными и становятся социализированными и предвзятыми. Этот процесс интеграции применим к более сложным артефактам, таким как города. Вторичные инструментализации закрепляют нормы, подразумеваемые при разработке и внедрении технологий. Диалектика техники — это обычный аспект технической сферы, знакомый всем, кто работает с машинами.
Теория инструментализации помогает понять, как технологии влияют на нас. Она не требует оптимизма или пессимизма, а позволяет расширяться и демократизировать умные города. В работе "Мышление о проектировании" Фейнберг использует эту теорию для анализа процесса проектирования. Они противопоставляют "пространство проектирования" и "технические нормы", говоря о том, как исторический выбор и культурные предположения о технологиях формируют процесс проектирования. При разработке новых устройств учитывается техническое наследие, и многие варианты отвергаются без социального обоснования. Нормы, также известные как "технические нормы", определяют процессы проектирования. Они могут быть явными, например, строительными нормами, или неявными, например, стандартными размерами холодильников, которые зависят от социальных принципов. Эти нормы формируют пространство проектирования, и, если мы хотим, чтобы умные города были справедливыми и законными, мы должны изменить технические нормы.
Главная задача - привнести альтернативные ценности в процесс проектирования, чтобы технические нормы были гуманными и освобождающими. Анализ технических норм, ограничивающих разработку и внедрение систем умных городов, критикуется в свете демократического процесса. Демократия играет важную роль в коллективной концептуализации умного города и позволяет избежать технических норм, ограничивающих проекты. Плюрализм демократии открывает потенциал для развития умных городских технологий и дает полису концептуальное и методологическое пространство для решения вопросов о том, каким должен быть город. Решение этих вопросов является крайне важным, поскольку технологии могут радикально изменить текстуру городских ландшафтов, и требуют тщательного участия сообщества на всех уровнях политики, исследований и разработок. Разработка методов, позволяющих рассматривать, анализировать и изменять технические нормы, необходима для гарантированного получения умных городов, которых мы заслуживаем.
Источник: Ryan Mitchell Wittingslow, “The Necessity of Critique”, 2022 г., из главы: “Who Controls the Smart City? From Machines of Loving Grace to a Democratic Transformation from Below” извлечено из: https://link.springer.com/book/10.1007/978-3-031-07877-4
Comments