Труд Боза Миллера "Являются ли технологии ценностно нейтральными" размышляет о ценностях заложенных в изобретениях и технологиях и опровергает тезис о ценностной нейтральности.
"Согласно Тезису о Ценностной Нейтральности (ТЦН), технологии морально и политически нейтральны: ни плохи, ни хороши. Только их применение может нести моральные и прочие ценности, но не технологии сами по себе"
"В этом тексте я выступаю против Питта [сторонника ТЦН], говоря, что из-за своих материальных качеств технологические артефакты являются частью нормативной морали и политического режима нежели являются приложением к нему"
"Питт формулирует ТЦН следующим образом: Технологические артефакты не имеют встроенных ценностей и не содержат их"
"Аргументы Питта можно расписать следующим образом:
Чтобы технологический артефакт содержал или имел ценности в нетривиальном смысле, эти ценности должны быть определяемы по технологическим артефактам, в которых они содержатся.
Ценности эмпирически не определяемы по технологическим артефактам.
Следовательно, либо технологические артефакты не содержат и не обладают ценностями совсем, либо они обладают ими, но только в тривиальном смысле"
Так ярким примером мировоззрения Йозефа Питта является данное высказывание
"Пистолет, свободно летающий в космосе, не обладает контекстом и системой оценки. И если этот пистолет найдут инопланетяне, которым он не может навредить, то в связи с новым контекстом использования, пистолет не будет обладать теми ценностями, которыми он обладает для человека"
"Пропоненты ТЦН говорят, что ценности появляются только из-за применений артефакта в контексте, тогда как оппоненты ТЦН будут настаивать, что внутри контекста артефакт может обладать ценностями и частично влиять на контекст независимо от того как он используется"
Питт же приводит аргумент озвученный Ибо ван де Полем:
"Дамбы созданы для безопасности […] Тогда как в случае с ножами функции артефакта и конечные ценности, которые могут быть достигнуты, реализуя функцию, четко разделены, такого нет в случае с морскими дамбами. Инструментальная функция дамб (защита от наводнения) с трудом отличается от конечной ценности, для которой они были созданы (безопасность связанная с наводнениями) […] Если такое выражение имеет смысл, следовательно технические артефакты, как объекты с функцией, могут обладать внешними конечными ценностями, так как функции — это внешние особенности технических артефактов."
"Знаменитый пример явно ценностно-определенных технологий являются низкие мосты над бульварами Лонг-Айленда, которые обладают расистскими ценностями. Винер (1980) утверждает, что планировщик города, Роберт Мозес (1888-1981) намеренно создал необычайно низкие эстакады над бульварами Лонг-Айленда, чтобы остановить проезд автобусов под ними, и следовательно остановить афроамериканцев, в большинстве своем пользующихся общественным транспортом, от попадания на пляжи Лонг-Айленда"
Далее Миллер приводит цитату Питера-Пола Вербика:
"Пистолет это не просто инструмент, не передатчик свободной воли человека. Он помогает определить ситуацию и агентов предлагая конкретные возможности для действия. Пистолет определяет человека, держащего его, как потенциального стрелка, а его соперника как потенциального трупа. Не отвергая человеческую ответственность ни в коем случае, этот пример показывает, что когда в человека стреляли, акцент должен быть сделан не на том стрелял человек или пистолет, но на их взаимосвязи"
"Питт принимает концепцию ценностей как мотивация (ЦМ) человеческих действий: ценность — это поощрение предпочитаемого состояния вещей индивидом или группой, что мотивирует наши действия. ЦМ прагматична в том, что она соединяет ценности и действия. Питт предполагает, что для мотивации человеческих действий, ценности должны быть эмпирически определяемы для него"
"Другая концепция ценностей как нормативных дискриминаторов (ЦНД) тоже возможна: ценность – это что-либо что служить для разграничения между двумя состояниями дел и оценивание одного из них выше чем других, с учетом того насколько они желанны или насколько о них волнуются, или насколько личный, социальный, естественный или космический порядок должен быть"
"По факту, ценности в технологиях настолько эффективны, потому что они зачастую эмпирически трудно узнаваемы. В примере Винера, ограничение афроамериканцев политическими методами привело бы к оппозиции, тогда как дизайн мостов обошел политические проверки. Низкие эстакады прошли незамеченными. Скамейки, разделенные на несколько сидений высокими поручнями эффективны в борьбе с бездомными, спящими на скамейках. И хотя их функция борьбы со сном более заметна, они все еще проходят почти незаметно так как технологии стремятся стать прозрачными или принимаемыми за должное, как очки, которые становятся незаметными для своих владельцев"
"Первая причина Питта, что ценности эмпирически неопределяемы по технологическим артефактам или ненаблюдаемы по дизайну чертежа или по материальному артефакту. […] Однако есть пару проблем с данным аргументом. Во-первых, иногда ценности напрямую читаемы по дизайнерским документам или материальным артефактам. […] Мое утверждение не в том, что документы дизайна содержат ценности артефакта они описывают, но то, что такие документы предоставляют эмпирический путь для определения ценностей. Тем более некоторые артефакты носят такие слоганы как «создано для веселья» или «дружественный к окружающей среде», которые ярко выражают ценности, которые они должны нести"
"Утверждается, что iPhoneXS от Apple автоматически распознает, когда делается селфи, и обрабатывает фотографию ценностно ориентированным способом сделать ее более красивой, например, размывая возрастные морщины и деформации кожи. Эти фото обработки делаются специальным процессором со встроенным нейронным процессором на процессоре телефона А12 "
"Я предлагаю следующий принцип (ценностный принцип): если определенная функция ценностно ориентирована, и определенные физические особенности артефакта предназначены для ее выполнения и существование этих особенностей в артефакте ни имеет других объяснимых причин, значит артефакт наделен соответствующими ценностями"
"Я предлагаю следующий принцип (ценностный принцип): если определенная функция ценностно ориентирована, и определенные физические особенности артефакта предназначены для ее выполнения и существование этих особенностей в артефакте ни имеет других объяснимых причин, значит артефакт наделен соответствующими ценностями"
"Питт спрашивает, обладает ли футбольный стадион Политехнического Университета Виргинии ценностями, и являются ли они ценностями ректора университета, который рассматривает его как символ престижа, ценностями игроков, которые видят его как шаг к профессиональной карьере в футболе, или студенческие ценности, которые видят в нем символ всего хорошего, что есть в их университете? […] То, что ценности стадиона Политехнического Университета Виргинии менее ясны, не говорит, что этот артефакт не может обладать ими. Более того вероятные субъективные интерпретации ограничены физическими особенностями артефакта. Если бы университет не ценил футбол, то у стадиона был бы другой дизайн (в частности его размер). Грязный десяток трибун был бы менее предрасположен к возможным интерпретациям."
"Как утверждает Сирл, социальные факторы объективны не смотря на то что их основа опирается на субъективные суждения. То что эта бумажка является пятидолларовой банкнотой определяется общей верой людей в то что она ей является. Но в то же время это объективный факт в двух смыслах. Во-первых, это не просто чье-то субъективное мнение, что это пятидолларовая купюра. Во-вторых, это будет пятидолларовой банкнотой, даже если некоторые не будут в это верить. Аналогично крест над церковью или флаг США над Белым Домом содержит в себе религиозные или национальные ценности соответственно, даже если некоторые индивиды имеют своеобразную интерпретацию их символического значения."
"Исследуя неожиданные последствия технологий, может раскрыть ценности, содержащиеся в них. Например, в широко распространенном видео на YouTubeЗеймен и Крайер обвиняли камеру HP в «расизме», потому что она отслеживала перемещения лица белой женщины, но не лицо черного мужчины. (Подумайте, что могло бы произойти если бы похожий глюк произошел в камере, установленной в автономном автомобиле, для определения пешеходов.) Похожим образом, когда появилось цветное кино, там было много цветов, которые могли отразить светлые тона кожи, но не тон кожи цветных людей, которые выходили монотонными. Стандартная карта, которая использовалась для калибровки цвета в фотоаппаратах, содержала фото белой женщины, соответственно, фотографии цветных людей зачастую не совпадали с настоящими оттенками"
"Во время процесса создания определение ценностей возможно путем их обдумывания . Определение ценностей в существующих технологиях возможно всвязи со следующей связью ценностей и причин (ЦП) : Если X ценно (в определенном плане) тогда человек имеет причины (определенного вида) для позитивного отклика (в отношении или поведении) относительно X. Однако обратное утверждение о ЦП ложно (если у кого-то есть причины для позитивного отношения в сторону X, то X необязательно ценно), ЦП тем не менее утверждает, что мы можем определить ценности, изучив ассоциируются ли наши причины с какими-либо ценностями."
Контраргументом сторонников ТЦН является утверждение, что технологии может быть наполнено ценностями только в тривиальном смысле:
"Чтобы доказать, что если технологии и обладают ценностями, то только тривиальными, Питт обращается к Руднеру, который определяет два риска, связанных с научной теорией приемлемости: принятие ложной гипотезы («ложно позитив») и отвержение правильной гипотезы («ложный негатив»). Руднер утверждает, что установление порога для принятия гипотезы невозможно без учета этих рисков. Ценность определяет какие риски допустимы. Значит, ученые должны принимать во внимание ценности, принимая или отвергая гипотезу."
"Например, предположим, что Xэто метод отливки бетонных потолков. X широко используется и считается безопасным. Предположим, что есть более дешевый метод Y, который можно использовать вместо X. Какой уровень уверенности нужен, чтобы принять гипотезу, что Y безопасен? Согласно Руднеру не существует ценностно нейтрального ответа. […] Питт (2014, 98) утверждает, что так как люди принимают решения, основываясь на эпистемологических суждениях, которые наполнены ценностно в том смысле, в каком описывал Руднер, решения наполнены теми же ценностями что и суждения на которых они основаны. Решения о технологиях не исключение и в этом тривиальном смысле технологии ценностно наполнены."
Далее Миллер отвечает на данный аргумент:
"Против этого [аргумента Питта] я скажу, то, что разделяет ценности вложенные в технологии и делает их нетривиальными, это материальная долговечность. Когда Мозес создавал низкие эстакады для ограничения доступа афроамериканцев на пляж, расовая сегрегация доминировала в США, а евгеника считалась признаваемой наукой. И хотя расизм все еще существует, Америка совершила сильное движение от расизма. Но мосты Мозеса все еще ограничивают афроамериканцев. Как планировщик Ли Коппельман отметил: «Этот собачий сын сделал так что автобусы никогда не смогут использовать эти чертовы бульвары» (цитируется у Винера 1980, 124). И потому что ценности Мозеса воплощены в мостах, они невосприимчивы к антирасистским социальным и политическим силам, действующим в США, что делает их существование нетривиальным"
"Можно возразить, что как и расовые отношения меняются, технологии могут быть изменены или заменены. Контекст применения технологии тоже может измениться, как например технологии перестанут давать тот же эффект, что и раньше, например, автобусы могут стать меньше и способными проезжать под мостами. Более того, с тем как идет это возражение, социальные практики тоже могут сопротивляться изменениям. Хотя изменение укоренившихся социальных практик может быть сложным, замена или изменение существующих технологий , особенно в большом масштабе, сопряжено с уникальными сложностями, что делает ценности заключенные в технологиях особенно стойкими. К тому же технологии частично влияют на контекст их использования, направляя или ограничивая их замену новыми технологиями."
Чтобы показать долговечность технологий и ценностей, заложенных в них автор приводит цитату Конуея:
"Чем старше приложение, тем менее вероятно, что твоя организация обладает хорошими знаниями о нем. Если у вас есть спецификация, обновлялась ли она вместе с тем как обновлялось приложение. Люди делавшие его уже вряд ли находятся с вами, особенно спустя несколько десятилетий. Ваш лучший источник информации — это то, как приложение ведет себя сегодня, и зачастую это означает изначальный код."
"Последняя часть аргумента Питта не защищает ТЦН напрямую, но нападает на мотивацию противостоять ей. Питт утверждает, что отрицание ТЦН позволяет людям избегать ответственности обвиняя технологии в своих действиях. Но Питт также утверждает: «машины не заставляют тебя что-либо делать. Это правда в стикере «Пушки не убивают, убивают люди» Ты решаешь использовать эту машину для совершения этого действия. Ты не можешь винить машину.» Аргумент Питта однако проблематичен. Во-первых это утверждение об уклонении от ответственности работает в обе стороны. Оружейные компании используют ТЦН, чтобы уклоняться от ответственности за последствия использования их оружий, утверждая, что они просто предоставляют нейтральный инструмент. Во-вторых технологии заставляют тебя совершать действия. Низкие мосты Мозеса заставляют людей заниматься чем-то другим вместо похода на пляж. Стена вокруг элитного жилого комплекса в бедном районе, заставляет местных жителей обходить его, тем самым минимизируя контакт жителей с местными. Поисковые системы непроизвольно меняют процессы формирования убеждений своих пользователей. Рабочий туалет с неудобной сидением заставляет работников тратить меньшее время в туалете и больше времени на работе"
"Более того технологии открывают возможности для осуществимых действий, которые частично определяют наши ответственности и нормативные ожидания. Ответственный субъект не будет делать больше того, что необходимо, но когда действие становится осуществимым, выполнение его может стать минимальным требованием для того, чтобы действовать ответственно. Например, в начале Олимпийских игр, судьи визуально определяли победителя спринтерского, но после появления камер фото-финиша их применение стало необходимым"
"Я приведу анализ Катца нацистских лагерей смерти, как технологий наделенных злыми ценностями: Физические объекты, которые составляли структуру лагерей, как и организационная система управляющая лагерем, были творением человека, созданным с набором определенных целей в голове. Эти цели были злыми как известно. Но самое важное – зло лагерей смерти было встроено в технологические артефакты сами по себе. Лагеря смерти не были, как предполагает общая мысль морально нейтральным артефактом, который просто использовали в злых целях. Эти лагеря смерти не были ценностно пустыми, и как технологическое творение человека, они являются аргументом против тезиса о моральной нейтральности технологических артефактов"
"Анализ Катца показывает три варианта как философские дебаты о ТЦН будут иметь моральные последствия. Дизайнеры, инженеры, техники и бюрократы используют ТЦН, чтобы избежать ответственности за губительные последствия их технологий […] Во-вторых ТЦН может предостеречь инженеров и техников от задавания моральных вопросов о своем труде. Когда инженеры и техники видят технологии ценностно нейтральными, они оставляют все мысли о моральной и политической составляющей на конечных пользователях. Из-за того что они считают что технологии ценностно нейтральны, инженеры и разработчики технологий могут сопротивляться обсуждению ценностей, смотреть на это как на помехи их работе, а не как их ответственность […] В-третьих, если ТЦН ложно, существуют ограничения присущие законному использованию технологий, которые не существуют если ТЦН верна. Предположим, что большая часть человечества превратилась в пожирающих плоть зомби, которые угрожают тем, кто не превратились в зомби. Предположим незомби планируют построить лагерь смерти для зомби, оборудованный газовыми камерами и печами. […] Если ТЦН верна, допустимо строительство этих печей для подготовки к данной ситуации так как сами печи ценностно нейтральны. Только их применение может быть оценено как хорошее или плохое. […] Но если ТЦН ложна и аргумент Катца верен, значит газовые камеры для убийства зомби или печи для избавления от трупов или живых людей злы по своей сути"
"Пропоненты ТЦН могут возразить, что инженеры должны отказаться от создания лагерей смерти не потому, что лагеря смерти содержат злые ценности, но потому что они должны ожидать, что ценностно нейтральные лагеря смерти будут использованы во зло. Ожидание возможных негативных применений для нейтральной технологии, дает менее веские причины для отказа от их строительство нежели если бы они изначально обладали негативными ценностями. Если ТЦН верна, то для лагерей смерти должно быть как негативное, так и позитивное применение. Иначе как они могут быть нейтральными?"
В конце автор приводит следующее заключение к своей работе:
"За пределами антропологии технологий и философии технологий, технологии зачастую считаются ценностно нейтральными, следовательно развитие технологий в отличие от их применения избегает этических дебатов. В отличие от последователей антропологии технологий, философы с классическим подходом к этике обычно не имеют концептов и чувств, чтобы взаимодействовать с моральным аспектом технологий. Но удивительно, что внутри антропологии технологий явная нормативная оценка технологий редка. Наиболее публикуемые книги и исследования по антропологии технологий ограничиваются описательными и методологическими заявлениями и отстраняются от рекомендаций, осуждения или восхваления технологий"
Источники:
https://journals.sagepub.com/doi/full/10.1177/0162243919900965
Pitt, J. C. 2014. ““Guns Don’t Kill, People Kill”
Pitt, J. C. "Values in and/or around Technologies.” In The Moral Status of Technical Artifacts, edited by Kroes, P., Verbeek, P. P., 89–101 Dordrecht, the Netherlands: Springer
Comments