Решение социальной дилеммы доверия для обеспечения положительной циркулярности
Очевидное знакомство, которое ассоциируется с понятием доверия, оправдывает неловкость, испытываемую, когда дело доходит до его определения, вопрос, на который у нас может возникнуть соблазн ответить по-августински: "Если никто не спрашивает меня, я знаю: но если бы я хотел объяснить это тому, кто должен спросить меня, я бы ясно сказал, что это не так". Затем мы можем попытаться подойти к вопросу с другой стороны: кому мы доверяем? Когда мы им доверяем? Когда доверие необходимо?
Однако, какими бы информативными не были эти ответы, они не только бесполезны для лучшего понимания доверия, но и могут быть широко опровергнуты реальностью социальных взаимодействий.
Связь между межчеловеческим доверием и верой в трансцендентные божества была обнаружена антропологами при исследовании первой дилеммы, которую традиционные общества должны были преодолеть, чтобы существовать - доверие, относящееся как к абсолютной необходимости, так и к практической невозможности. Существование социальной системы обусловлено развитием нерушимых взаимодействий между различными сообществами, включая обмен товарами через логику подарков и встречных подарков или членов семьи через теорию альянса. Эти взаимодействия не только являются результатом индивидуальных решений, но и главным образом стимулируются и управляются более широкой круговой динамикой в масштабе социальной системы, которая пользуется определенной автономией по отношению к своим членам. Тогда эта динамика может быть либо положительной, как это иллюстрирует теория подарка и контрдара, либо отрицательной, как это иллюстрирует автогенеративная логика мести, и развитие общества обусловлено его успехом в поиске средств разрядки негативной взаимности. В обоих случаях это подразумевает переход на трансцендентальный уровень и подлинную веру.
Как только отрицательная взаимность побеждена, установление положительной взаимности для процветания группы происходит путем создания экономики подарков. Подарки во многом похожи на жертвы - или, скорее, на "автоматические жертвы", поскольку "мы отдаем себя, давая...", - говорит Маусс, отмечая онтологическое измерение, подразумеваемое материальным даром, который связывает людей вместе на трансцендентном уровне, но подразумевает обратную временность. В то время как месть приходит в ответ на предшествующее действие во имя справедливости, дар предвосхищает взаимность и вызывает ее: он требует реакции.
Здесь возникает дилемма: если, по определению, дар должен быть спонтанным, как даритель может знать, что он эффективно приведет к косвенному контрдару, а затем инициирует добродетельный круг позитивной взаимности? С точки зрения получателей, спонтанность подарка, похоже, передает двойную связь: с одной стороны, обязательство что-то вернуть, а с другой стороны, невозможность принять это сообщение без денатурации самого подарка. Затем получатель сталкивается с двумя противоречивыми сигналами: сообщением "Я дарю вам подарок" и мета-сообщением "вам нужно что-то вернуть".
Эта дилемма должна быть преодолена путем введения третьей стороны, Hau для Маори, которая обеспечивает взаимность подарка, сохраняя при этом его спонтанность, путем разъединения отправителя двух сообщений: донор отправляет сообщение, а третья сторона отправляет сообщение.мета-сообщение.
Современная концепция доверия, основанная на теории рационального выбора
Согласно Жирару и Анспаху, формы обмена и типы третьих сторон эволюционировали на протяжении веков, но структура социального доверия остается неизменной. Первоначально основанная на вере в духов, она стала верой в уникального Бога и, по делегированию, в его земного лейтенанта, монарха божественного права. С окончанием политической теологии появление современности привело к серьезному сдвигу в восприятии социального порядка и подходе к будущему. От естественного и божественного социальный порядок теперь воспринимается как человеческий институт, возникающий в результате взаимодействия свободных агентов с непредсказуемым поведением, что требует необходимости переориентировать доверие на новую основу.
Здесь стоит отметить, что, несмотря на большую разницу между антропологией Томаса Гоббса и Жан-Жака Руссо, механизмы, играющие в построении такого доверия, принципиально рациональны.
Тем не менее, концепция Гоббса и Руссо о государстве как третьей стороне связана не с самим доверием, а с условиями развития доверия между людьми.
Независимость доверия от степени информации
Нет ничего плохого в том, чтобы напомнить, что рациональные агенты - это всего лишь радикальное упрощение процесса принятия решений человеком. Теория основана на треноге, включающей рекурсивное метакогнитивное знание, проективное метакогнитивное знание и информацию об эволюции системы.
Рациональный агент, по определению, чисто рационален. Он принимает решения на основе имеющейся информации, которая обрабатывается с помощью правил расчета, стремясь к ожидаемым последствиям, которые максимизируют его цели. Его когнитивный процесс не зависит от степени доступности информации, так что недостаток информации автоматически заставит его переключиться на другой режим принятия решений - режим доверия.
Точно так же было бы ошибочно вызывать доверие в ситуациях, когда агенты считают, что у них есть согласованные интересы. Здесь снова на карту поставлено не что иное, как рациональные ожидания из-за метакогнитивного предположения теории рационального выбора: Людовик предсказывает поведение Лоуренса, потому что он предполагает, что Лоуренс рационален, имеет доступ к той же информации, а также предполагает, что Людовик сам рационален.
Наконец, наблюдение за социальными взаимодействиями показывает большую сложность для доверительных отношений, чем то, что эти теории могли бы описать - также предполагая, что у нас есть ограниченная власть над нашими отношениями к доверию.
Фундаментальное различие между доверием и опорой
В ответ на аргумент Зиммеля о том, что мы не можем разумно доверять, когда ничего не знаем, некоторые утверждают, что мы, однако, склонны доверять врачу, с которым только что познакомились, в нетривиальных решениях. Тем не менее, полагаться на рецепт врача не означает, что мы полностью отдаемся его доброй воле, и именно поэтому часто предпочитают термин "доверие", рассматриваемый как слабая степень доверия.
Однако в конечном счете Зиммель прав, говоря, что мы не можем "разумно доверять", потому что доверие находится за пределами разума или, точнее, за пределами этой рациональности. Это особенно ясно при рассмотрении его второго аргумента, согласно которому тому, кто знает все, не нужно доверять.
Доверие отражает альтернативный способ принятия решений, вытекающий как из выбора поставить себя в ситуацию добровольной уязвимости (поскольку доверие всегда происходит за счет возможности быть преданным), поставив чьи-то слова выше любой другой информации, так и из желания построить отношения с этим человеком. Именно потому, что люди являются лишь частично рациональными агентами, они способны доверять, что позволяет им выходить за рамки рациональности, чтобы принимать решения в направлении большей цели, которая в конечном счете является социальной, а не чисто индивидуальной.
Затем возникают три вывода о доверии:
Во-первых, это выбор, который обязательно подразумевает помещение себя в ситуацию добровольной уязвимости с целью социальной интеграции.
Во-вторых, доверие не может быть захвачено теорией рациональных решений, и оно наиболее сильно ощущается именно тогда, когда оно диктует поведение, противоположное рекомендации процесса принятия решений, основанного на рациональных ожиданиях.
В-третьих, учитывая, что доверие проистекает из социальной рациональности и обязательно связано с возможностью предательства, подразумевая интенциональность, доверие может характеризовать только отношения между агентами, обладающими свободной волей.
Deepfake не представляет угрозы для демократий
Deepfake - это техника компьютерного зрения, использующая методы глубокого обучения для генерации синтетических изображений с целью воспроизведения особенностей исходного изображения в целевом изображении. Он был в основном опосредован проектом Face2Face и Синтезирующим проектом Obama. С тех пор он нашел применение в самых разных областях - от интернет-мемов до искусства и киноиндустрии.
Самая большая проблема Deepfake связана с дезинформацией и манипулированием. Это объясняет, почему основные усилия по устранению его потенциальных негативных последствий до сих пор были сосредоточены не на регулировании его использования, а на обнаружении синтетического контента.
Еще один аргумент, наконец, гласит, что если бы производительность Deepfake стала достаточно продвинутой, чтобы сделать обнаружение синтетического контента невозможным и использоваться для распространения ложных новостей, это могло бы нанести смертельный удар по онлайн-доверию.
Если под этим подразумевается, что, полагая, что ложные новости распространяются против их политических представителей, люди в конечном итоге потеряют веру в них и начнут не доверять политическим институтам в целом, я бы ответил, что такое состояние общего недоверия уже существует и не следует приписывать Deepfake.
Роль Deepfake в продвижении доверия в цифровую эпоху
С другой стороны, если то, что следует понимать под "онлайн-доверием", является скорее своего рода общей "опорой" в киберпространстве, как средой для сбора точной информации и развития аутентичных взаимодействий, то Deepfake, безусловно, будет представлять собой проблему. Точно так же, как наши биологические чувства, которые позволяют нам обитать в мире, собирая информацию о нашей среде, чтобы принимать решения, которые будут определять наши взаимодействия с ее различными сущностями, мы все больше и больше используем цифровые технологии как цифровой смысл для обитания в киберпространстве.
Столетие назад фотография считалась бы неопровержимым доказательством, в то время как сегодня она ничего не доказывает, поскольку программное обеспечение для редактирования фотографий доступно любому. От динамического ценообразования, убедительного дизайна и стратегий подталкивания методы манипуляции уже очень сложны, поднимая большинство цифровых технологий до статуса каптологических интерфейсов.
Вместо того, чтобы вредить доверию, Deepfake может, наоборот, продвигать его и помогать нам подготовиться к вызовам цифровой эпохи. Это требует коммуникационных усилий, чтобы информировать общественное мнение о производительности таких методов обмана. Это также требует признания того, что Deepfake нельзя использовать только для того, чтобы положить чьи-то миры в чужой рот, но также предлагает алиби для людей, чтобы отрицать правдивость смущающих слов из точной записи или подделать чью-то личность на встрече.
Заключение
Ставя под сомнение широко распространенное предположение, что Deepfake представляет угрозу демократии из-за его потенциала поддерживать сложные кампании дезинформации и похоронить условия возможности онлайн-доверия, здесь были раскрыты причины, которые побуждают отвергнуть его в отсутствие твердой почвы и рассмотреть, наоборот,этот Deepfake может помочь укрепить доверие и подготовить нас к цифровой эпохе. После прогрессивной институционализации третьей стороны, ведущей к современной концепции государства, были представлены современные теории доверия, основанные на теории рационального выбора, для принятия решений в ситуациях непроизвольной уязвимости, связанных с недостатком информации. Однако они основаны на путанице между ожиданиями и доверием, аннулируются реальностью социальных взаимодействий и не понимают доверие не только как средство достижения цели, но и как самоцель. Это привело к формулированию различия между инструментальной рациональностью, основанной на воспринимаемой надежной информации для формулирования рациональных ожиданий, и социальной рациональностью доверия, которая выходит за рамки теории действий, чтобы связать обработку информации с социальной целью для самореализации. Также было составлено опровержение утверждения о том, что Deepfake представляет уникальную угрозу для демократий, утверждая, что это всего лишь манипулятивный инструмент среди других и, вероятно, даже не самый эффективный, что реальные проблемы, которые он поднимает, связаны с конфиденциальностью, а не с дезинформацией, и что в конечном итоге он не бросает вызов доверию, а полагается на информацию, воспринимаемую в цифровом виде. Deepfake может помочь нам укрепить наш коллективный критический ум, чтобы уменьшить нашу доверчивость к ложным новостям и содействие проверке источников. В долгосрочной перспективе это также может помочь нам сделать осознанный выбор в пользу перехода от инструментальной рациональности к социальной рациональности доверия, рассматривая веру в людей как более жизнеспособный способ обеспечения своей самореализации в рамках когерентной сети доверенных лиц, чем надежные информационные ожидания.
Источник: Этьен Х. ноябрь 2021 "Будущее онлайн-доверия (и почему Deepfake продвигает его)." Этика ИИ.
Получено из: https://link.springer.com/article/10.1007/s43681-021-00072-1
Σχόλια