С чем связана дилемма специалистов по этике ИИ? Ответ, или скорее пояснение к данной проблеме освещается в данной статье. Что происходит, когда специалистам приходится бороться с технологиями ради технологий? Для того, чтобы это понять, мы разбираем проблемы так называемых «больших технологий». Мы говорим о том, об определенных путях решения при помощи «трех этических теорий: этики добродетели, деонтологической этики и консеквенциалистской этики».
«В статье делается вывод о том, что попытки изменить мир больших технологий только с помощью технологий и инструментов, которые они предоставляют, иногда оказываются контрпродуктивными, и что специалисты по этике должны серьезно рассмотреть политические и другие более разрушительные способы действий.»
ВВЕДЕНИЕ
В введении к данной статье автор говорит нам о том, что проблемы, «связанные с более широким использованием ИИ и социальных сетей на основе ИИ» могут быть связаны со многими факторами (поляризация, фальшивые новости, дискриминаций, предвзятостью и тд). Когда возникают эти проблемы? Когда «специалист по этике должен рассмотреть, как его собственный успех в сообщении выявленной проблемы связан с высоким риском снижения шансов на успешное решение этой проблемы».
Но что должны предпринять специалисты в таком случае?
«Один из способов подойти к проблеме — следовать этичному процессу принятия решений, и мы структурируем эту статью в соответствии с этическим циклом Ван де Пула и Ройаккерса. Этот цикл состоит из следующих шагов: (1) формулирование моральной проблемы, (2) анализ проблемы, (3) рассмотрение возможных вариантов, (4) этическая оценка этих вариантов и, наконец, (5) размышление и достижение морально приемлемого решения и действие.»
Для решение данной дилеммы мы опять возвращаемся к трем этическим теориям.
«Однако осознаваемая потребность в изменении системы не обязательно связана с обязанностью специалиста по этике внести изменения самостоятельно.». Зачастую мы сталкиваемся с тем, что «изменение мира больших технологий с помощью их инструментов или попыток добиться изменений посредством альянсов с ключевыми компаниями в этом секторе, как правило, недостаточно, и что это может даже быть проблематично с моральной точки зрения и потенциально противодействовать -продуктивно следовать только этой стратегии.», и приходим к выводу, что «серьезные усилия для реального достижения изменений могут потребовать от специалиста по этике частично дистанцироваться от рассматриваемой системы и вместо этого или, по крайней мере, также нацелиться на мобилизацию силы политики и гражданского общества для осуществления изменений.»
МОРАЛЬНАЯ ПРОБЛЕМА – ДИЛЕММА ЭТИКИ
Давайте обсудим негативные последствия развития технологий, использующих ИИ. «Рост этих технологий привел к широко распространенному оптимизму в отношении потенциала инноваций, экономического роста и благосостояния, но также привел к повышенному вниманию к этически проблематичным аспектам таких технологий».
Круг вопросов, связанных с данной проблемой, довольно широк: социальные сети и их влияния на человеческие взаимоотношения, человеческое познание, конфиденциальность и слежка, манипулятивная сила технологий и так далее.
Так что с этим делать? Давайте введем два допущения:
1) «Первое допущение состоит в том, что специалист по этике ИИ, о котором идет речь, желает произвести изменения и чувствует себя обязанным сделать это, как только обнаружит нетривиальные проблемы, вызванные ИИ и его приложениями. Таким образом, вопросы мотивации и понимания многочисленных ролей, которые люди постоянно играют, становятся важными.». Это скорее чисто этический мотив.
2) «Второе допущение уже упоминается в первом, и оно состоит в том, что рассматриваемые проблемы нетривиальны.» «Предполагается, что проблемы являются фундаментальными в том смысле, что они связаны с глубокими социальными институтами, человеческой психологией или аспектами технологий, которые не могут быть легко исправлены небольшими исправлениями.»
Далее автор говорит о том, «опасности ИИ часто связаны с тем, что называют «большими технологиями», обычно имея в виду большую четверку или пятерку технологических компаний», а именно GAFA (Google, Amazon, Facebook и Apple).
Если говорить о ее возможностях, то у них «есть как ресурсы, так иконтроль над инструментами и цифровой инфраструктурой, необходимыми для коммуникации и повышения осведомленности о проблемах, волнующих специалистов по этике ИИ.»
В связи с этим, мы приходим к такому понятию как «капитализм слежки», чтобы устранить который необходимо поменять всю поддерживающую политико-правовую инфраструктуру и бизнес-модель общества.
В итоге автор приходит к выводу, что «ИИ и, в частности, социальные сети на основе ИИ негативно воздействуют на людей и общество нетривиальными способами, и специалисты по этике ИИ считают себя обязанными принять меры для противодействия этим воздействиям.
ДВЕ ОСНОВНЫЕ СТРАТЕГИИ СПЕЦИАЛИСТА ПО ЭТИКЕ.
«Для ясности и облегчения прямого анализа мы сводим доступные стратегии к двум: (а) работа внутри системы и (б) работа извне.»
«Осуществление изменений извне влечет за собой воздержание от использования этих технологий и выбор в пользу проведения исследований и поиска изменений либо самостоятельно, либо путем работы на участников, которые не являются частью системы или не тесно связаны с ней, описанной в конце предыдущего раздела.»
Сперва рассмотрим изменение системы изнутри. Причины первой стратегии (работа с тем, что хочешь изменить) разные, «но одно из ключевых преимуществ этой стратегии заключается в том, что она может быть как прибыльной, так и давать специалистам по этике власть и охват». К ней может применяться два подхода: паразитизм и поиск конструктивного соучастия.
«Во-первых, специалист по этике ИИ может стремиться стать своего рода «паразитом», который использует и забирает у системы все, что может, в идеале ничего не возвращая системе, если это влечет за собой усиление системы. Более коварные версии паразитизма также могут повлечь за собой активные попытки ниспровергнуть систему, а не просто попытки ограничить свой собственный вклад в нее.»
«Во-вторых, те, кто входит в систему, чтобы изменить ее к лучшему, рискуют стать соучастниками.» «Соучастие представляет собой серьезную опасность при стремлении к изменениям путем объединения с властью, те, кто осознает эту проблему, ищут конструктивного соучастия, чтобы рефлексивно и ответственно описать этот сложный ландшафт»
Несмотря на данные опасности, мы видим диссонанс: большое количество специалистов по этике ИИ активно используют социальные сети, ими же критикуемые.
«Потенциальная проблема с работой изнутри заключается в том, что радикального изменения трудно достичь, работая изнутри системы.» «Системы формируют восприятие как возможного, так и желательного, и любое изменение, происходящее изнутри, будет, таким образом, частично результатом логики рассматриваемой системы. Работая внутри системы, специалисты по этике, вероятно, будут склонны преследовать относительно мелкие проблемы и уделять внимание техническим деталям существующих решений. Работа с системой и внутри нее может затруднить восприятие и понимание реальных проблем.»
Подводя итог, мы говорим о том, что стратегия один заключается в «Стремлении к переменам путем объединения с крупными технологиями или активного использования их технологий и инфраструктуры.»
Если говорить о второй стратегии, то «этот путь к изменениям требует, чтобы специалист по этике вышел за пределы системы, чтобы должным образом оценить и пронаблюдать, как ее можно подорвать, и какие альтернативные стратегии существуют. Приняв такую стратегию, путь измененийбольше необязательно определяетсялогикой существующейсистемы, испециалист по этике может свободно рассматривать радикально новые и отличающиеся общества и структуры социального и технологического взаимодействия.»
Если придерживаться первой стратегии, то нам открываются новые возможности в различных политических и социальных сферах (например сфера права, образованияи регулирования). «Извне системы фундаментальные оценки социальных ценностей могут дать нам возможность рассмотреть и применить как нисходящие, так и восходящие механизмы для решения насущных проблем».
Однако и у этой стратегии мы видим недостаток: «цель достижения социальных изменений не достигается, потому что степень взаимодействия с системой и остальным обществом низка, так что не может быть создано никакого или только слабого союза: инновация в этом случае ограничивается маргинальной или локальной частью общества (например, небольшим маргинальным сообществом), не оказывая, в конце концов, большого влияния на систему. Это опасность маргинализации , бессилия или неэффективности .»
Далее мне выводим одну из основных проблем этики ИИ: «Тесные связи между системой и политической сферой, которые, по нашему мнению, имеют решающее значение для контроля и исправления системы, когда это необходимо, очень затрудняют поиск пространства «вне» системы и работу по ее реформированию на фундаментальном уровне.»
Подводя итог, мы говорим о том, что стратегия 2 заключается в «Поиске изменений путем дистанцирования и маргинализации источников проблем и объединения с другими источниками власти для осуществления изменений.»
ОЦЕНКА ВОЗМОЖНОСТЕЙ СПЕЦИАЛИСТА ПО ЭТИКЕ
«Цель этического цикла состоит в том, чтобы получить ответ на вопрос, что человеку следует делать (т. е. какую из двух описанных выше стратегий ему следует принять)»
Однако это подразумевает нормативную оценку, таким образом «то должен делать специалист по этике, не внося неявно наши собственные этические наклонности и философские основания, требует явного использования основных этических теорий, которые чаще всего используются для руководства и оценки этического поведения: этики добродетели, консеквенциалистской этики и деонтологической этики.»
Сперва рассмотрим этику добродетели.
Она состоит в том, что «Вместо того, чтобы сосредотачиваться на последствиях действий или наборе обязанностей или правил, специалист по этике добродетели делает акцент на добродетелях, связанных с моральным характером, как видно по отношению к тому, что способствует этосу.»
«С точки зрения этики добродетели важнейшее соображение для специалиста по этике ИИ связано с проблемой отказа от практики того, что проповедуется.». «Если кто-то использует социальные сети, чтобы поговорить со своими друзьями и о своих друзьях, можно собрать данные о себе и своем друге. Такое поведение сигнализировало бы либо (а) о готовности причинить вред другим, и/или (б) о том, что специалист по этике на самом деле не верит в то, что они считают правдой. Любой вариант влечет за собой серьезный подрыв этической привлекательности — этоса — и легитимности специалиста по этике.»
Трудно определить какой образ действий приводит к той или иной добродетели. «Тем не менее, некоторые добродетели, такие как мужество, принципиальность и честность, по-видимому, относительно ясно указывают на то, что нужно действовать таким образом, чтобы максимизировать шансы на изменение и решение проблем в долгосрочной перспективе, даже если такие действия связаны с краткосрочной перспективой. и/или индивидуальные расходы.»
Далее рассмотрим консеквенциалистскую этику.
«согласно популярной версии консеквенциализма — утилитаризма — нашими действиями следует руководствоваться оценкой того, что создаст наибольшее количество счастья для большинства людей»
Автор говорит о том, что «консеквенциализм не должен основываться на необходимости достижения полного и достоверного знания обо всех последствиях. Скорее, это может быть прагматичный подход, который просто утверждает, что мы оцениваем нравственность действия на основе известных — или познаваемых — последствий.»
«Способность влиять на результаты требует определенной силы, и привлекательность больших технологий в основном основана на ее силе. Власть проявляется в различных формах, и результаты как власти над, так и власти влиять важны для этого анализа. Как мы увидим, у больших технологий есть возможность напрямую влиять на отдельных специалистов по этике ИИ, и это порождает опасения негативных последствий и санкций и т. д., а также соображения о выгодах, которые можно получить от сотрудничества с этими компаниями»
Поговорим о мощности и последствиях.
Тут в основном мы говорим о понятии власть, которая является ключевой концепцией для понимания средств осуществления изменений.
«Однако власть проявляется в разных обличьях и может быть разделена на эпизодические, диспозиционные, структурные и конститутивные типы»
1) Эпизодическая сила — это сила, которой кто-то должен влиять на кого-то другого в конкретной ситуации. Эпизодическая сила часто противопоставляется диспозиционной власти, которая представляет собой способность кого-то влиять на результаты независимо от других и даже в определенной степени независимо от контекста.
2) конститутивная власть относится к способности конструировать, формировать и конституировать самих себя
3) диспозиционная сила больше связана с тесно связан с их контролем над ресурсами и инфраструктурой как средством достижения целей.
Далее поговорим о том, как компании растут и повышают привлекательность их продуктов.
«Специалист по этике, который намеревается изменить и подорвать систему, будет использовать систему, что потенциально приведет к ее укреплению. В сеть будет привлечено больше людей, а люди, участвующие в возникших дебатах, будут проводить в ней больше времени. Специалисты по этике и их последователи могут повысить ценность продукта.»
«Таким образом, с точки зрения последствий, возможность информирования людей о проблемах должна быть оценена по сравнению с негативными последствиями одновременного укрепления системы, которая порождает проблемы»
При этом специалистам по этике нужно учитывать компромиссы между краткосрочными и долгосрочными выгодами. «В то время как краткосрочные выгоды могут быть получены путем распространения сообщения в социальной сети, долгосрочные последствия заключаются в укреплении сети и обострении проблемы.»
При этом платформы получают прямую поддержку путем увеличения продаж книг, рекламы.
«Опасность, тесно связанная с только что рассмотренной, заключается в том, что попытки использовать технологию во благо напрямую связаны с укреплением финансового положения стоящих за ними компаний.»
«Опять же, последствия должны оцениваться на основе целей специалиста по этике. Если бы целью была личная выгода, использование этих платформ, естественно, было бы законным. Но если причина воспринимается как наиболее важная, воздержание — и принятие потенциального личного ущерба — может быть наиболее этически разумным вариантом.»
Следующая тема, которую поднимает автор это легимитизация платформ и проблему соучастия.
«Вдобавок к этим довольно прямым формам поддержки специалист по этике, который заимствует сомнительную силу, чтобы творить добро, одновременно делает эту силу менее сомнительной»
«Первая проблема — это проблема соучастия, обсуждавшаяся выше, и, хотя некоторые утверждают, что конструктивное соучастие возможн, это сложная среда для навигации, и это всегда будет связано с высоким риском использования в качестве этического алиби в форма «стирки этики».»
Последнее, возможно, иллюстрирует это еще ярче. «Специалист по этике, который критикует Big Tech и/или их инструменты, но присоединяется к Big Tech или использует для этого их инструменты, демонстрирует, что система допускает критику.»
«Если компании, стоящие за этими сайтами, готовы использовать свою огромную власть для поддержки критики в их адрес, то, конечно же, они не могут быть такими плохими? Таким образом, когда специалисты по этике оказывают компаниям такую ценную услугу, сама критика, которую они пытаются донести, ослабевает.»
Разберем деонтологию и универсальные правила. «Склонный к деонтологии специалист по этике, только что написавший книгу о моральных правилах, которым мы должны следовать, чтобы бросить вызов силе больших технологий, например, теоретически должен следовать тем же самым правилам, если только какая-то универсализируемая версия рассматриваемых правил не оправдывает другие. пути действия».
«Однако, даже если мы все будем жить с повсеместным отсутствием конфиденциальности, будет доступно множество различных способов справиться с этим. Кроме того, будет существовать множество различных максим либо для работы с большими технологиями, либо для отказа от этого, что сделает деонтологию явно жизнеспособной этической теорией даже в эпоху продвинутых машин.»
«Консеквенциализм интуитивно привлекателен, поскольку он обеспечивает оправдание практически любого действия, которое, как можно предположить, ведет к принятой цели». Однако и у него есть проблема: «специалист по этике может оправдать отказ от большинства интуитивных норм и правил, поскольку цель оправдывает средства».
Поговорим о книге Джарода Ланье, «Десять аргументов в пользу удаления ваших учетных записей в социальных сетях прямо сейчас». «Он служит примером того, что проповедует, поскольку у него нет (известных) учетных записей в социальных сетях. Не делая предположений о его этических склонностях, это служит иллюстрацией того, как можно утверждать, что автор предложил максиму, которой было бы несколько парадоксально, если бы они сами не придерживались ее».
«Деонтолог или, по крайней мере, кантианец должен будет придерживаться универсальных правил, в которых некоторые фундаментальные правила ограничивают нашу способность оправдывать определенные компромиссы, обжалуя общие последствия.»
Особое значение имеет то, что «абсолютные моральные обязанности — не использовать других людей в качестве средств для достижения наибольшей известности — исключают определенные решения, в которых вред, причиняемый одним людям, считается оправданным из-за преимуществ, выпавших на долю других».
Но и у этого есть проблема, заключающаяся в том, что «общим благом иногда приходится жертвовать ради некоего абстрактного представления о том, что представляет собой справедливое действие.»
Мы приходим к выводу, что «использование социальных сетей для повышения осведомленности через свою социальную сеть также может быть истолковано как способ использования тех, кто находится в своей сети, в качестве средства для решения более крупной проблемы. Если социальные сети сами по себе вредны, такое использование других нелегко превратить в универсальный принцип действия.»
ЧТО ДОЛЖЕН СДЕЛАТЬ СПЕЦИАЛИСТ ПО ЭТИКЕ?
Мы наконец задаемся вопросом, что нужно сделать для того, чтобы «принять правильное решение»? Ответ таков: «мы должны мыслить как деонтологически, так и последовательно. Мы также добавили этику добродетели. Это влечет за собой форму морального плюрализма , который, вкратце, считается единственным рациональным ответом на тот факт, что ни одна этическая теория сама по себе не охватывает все возможные контексты, предметы и процессы.»
Давайте рассмотрим потенциал и ограничения каждой из стратегий.
Начнем со стратегии номер 1.
Одно из ключевых преимуществ состоит в том, «что в случае успеха она дает возможность быть ближе к источникам власти и направлять и изменять применение такой власти в выгодном направлении. Когда это можно сделать, это становится менее конфликтным и, по-видимому, более эффективным, поскольку близость к тем, кто способен осуществить изменения, делает возможным прямой диалог и убеждение.».
Тем не менее, «Успех любой стратегии будет зависеть от того, как сила специалиста по этике ИИ взаимодействует с силой других. В первой стратегии специалист по этике должен объединиться с влиятельными людьми в системе для достижения своих целей»
«Во второй стратегии, альтернатива, предложенная специалистом по этике, может найти более широкое применение в обществе только в том случае, если специалист по этике объединится с влиятельными действующими лицами вне системы. Одни люди не могут изменить систему; учитывая относительный характер власти, необходимо заключать союзы — внутри или вне системы.»
Ограничения первой стратегии включают в себя «возможность усугубления проблем, которые необходимо решить, и блокирования других средств достижения изменений за счет легитимации действующих лиц в системе и маргинализации специалистов по этике, придерживающихся стратегии 2»
Перейдем к стратегии номер 2.
Автор считает, что «стратегия 2 непривлекательна из-за ее трудностей и необходимости долгосрочного мышления», и утверждает, что стратегия 1 представляет собой форму эгоистичной краткосрочности. «Эта дилемма еще более усложняется тем фактом, что частные выгоды, связанные, например, с социальными сетями, вполне осязаемы, в то время как негативные коллективные последствия труднее воспринять. Это привело, например, к предположению, что неприкосновенность частной жизни является общественным благом, подверженным рыночным сбоям, когда люди свободны действовать на основе своих личных оценок последствий только для себя.»
Технологическая компания может нанять известных специалистов по этике ИИ чтобы достичь следующих целей:
1) «специалисты по этике ИИ обеспечивают определенную степень легитимности и, по-видимому, демонстрируют, что компания серьезно относится к этическим проблемам.» для так называемой отмывки этики. «Отмывка этики» (или « зеленая отмывка » с точки зрения экологической этики) — это термин, используемый для описания того, как компании часто поверхностно придерживаются этических принципов, чтобы избежать негативной реакции со стороны общественности или, что еще хуже, жесткого регулирования»
2) специалист по этике ИИ запутывается в структуре стимулов, которая делает усилия по достижению радикальных изменений рискованными и часто обреченными на провал
«Сама система функционирует в соответствии с установленной логикой, и хотя прогресс, наблюдаемый изнутри системы, определяется тем, способствует ли он повышению эффективности системы, нам может потребоваться выйти за ее пределы, чтобы определить, действительно ли сама система хороша для нас. люди, наши общества и наша окружающая среда»
«Политическая сфера — это место, где даются ответы на основополагающие вопросы о том, какое общество мы хотим, и это также источник силы, необходимой для изменения системы. С помощью правил и законов существующие системы могут быть эффективно изменены.»
Важно понимать, как политическая сфера раньше использовалась для решения серьезных проблем.
Опасности государственной власти реальны, но, как отмечалось выше, власть — это не всегда плохо, и необходимо учитывать опасности, связанные с необузданными инновациями и применением новых технологий. Все это причины в пользу стратегии 2.
Выше мы нарисовали нелестную картину стратегии 1, но несмотря на это существует несколько фактов по которым ее все же выбирают.
1) «специалисты по этике ИИ часто имеют свои собственные законные личные цели и амбиции, которые следует учитывать в дополнение к их идеологическим целям и идеям, предложенным в их исследованиях»
2) «В дополнение к необходимости быть замеченным и входить в сеть, существует вышеупомянутая опасность, связанная с противодействием тем, кто обладает властью.»
3) «Кроме того, те, кто не находится в особенно привилегированных позициях, по необходимости заботятся о своем ежемесячном доходе, и противодействие наиболее влиятельным игрокам в отрасли, следовательно, совершенно непривлекательно для начинающих специалистов по этике, поскольку их работа довольно хорошо оплачивается.»
«Короче говоря, существует дилемма, связанная с балансированием любой идеологической приверженности в отношении опасностей больших технологий и личных амбиций сделать карьеру в академических кругах или в частном секторе.»
.
ВЫВОД
Мы рассмотрели ряд проблем связанных с работой специалистов ИИ, подробно осветили некоторые фундаментальные проблемы, и пришли к выводу, что «дилемма заключается в том, чтобы либо укрепить систему, пытаясь использовать ее возможности, либо потенциально ничего не достичь, отказавшись от средств использования технологий для распространения своего сообщения»
Мы говорим о реальной опасности не только технологий и инноваций, но и частной власти. «Опасности частной власти должны быть обузданы властью правительства, и это в некотором смысле либеральный аргумент в пользу более активного использования власти правительства».
Также приходим к выводу, что «Политическая власть должна быть обуздана, но конструктивная власть правительства также должна быть принята, и стратегия 2 и путь более сильного политического регулирования, а не этики изнутри и саморегулирования, здесь отстаиваются как необходимые, если не достаточные, для решить некоторые фундаментальные проблемы, порожденные ИИ.»
Автор говорит нам о том, что «Решения, в которых «гуманные», «ответственные» и «заслуживающие доверия» технологии определяются не логикой ведущих отраслей, а опираются на более фундаментальную политическую и моральную философию и фундаментальные теории прорывных инноваций и социальных изменений.»
Мы нашли взаимосвязь между политикой и властью, технологиями и социальными изменениями. Власть опасна, мир изменчив, в следствии чего нужно использовать плюралистический подход в отношении этических теорий и обсуждаемых выше стратегий.
Источники
Источник: Journal "International Journal of Social Robotics", December 2021, article "The AI ethicist’s dilemma: fighting Big Tech by supporting Big Tech". Written by Henrik Skaug, Mark Coeckelbergh and John Danaher - https://link.springer.com/article/10.1007/s43681-021-00123-7
Comentarios