Работа Лучано Флориди об уровнях абстракции и морали имеет большое значение в области философии информации.
Однако Ричард Лукас
критикует его: "концепция
уровней абстракции содержит ряд
инновационных и противоречивых концепций, которые требуют
длительного и тщательного изучения".
Флориди убедительно доказывал, что системы могут рассматриваться как моральные агенты. "Чтобы сделать это, он и Сандерс ввели понятие уровней абстракции и объединили его с теорией перехода состояний, чтобы получить то, что они называют эффективной характеристикой моральных агентов". Ричард Лукас рассматривает это утверждение с точки зрения систем как агентов, интерактивности, адаптивности и автономии.
Предварительные концепции
"Для Флориди и Сандерса оценка действий как моральных действий зависит от двух вещей: пороговых значений и людей". Пороговая функция-это функция, которая при заданных значениях возвращает другое значение. Флориди считает, что типы наблюдаемых объектов могут быть заданы математически, так же как и формула пороговой фукнций.
«Затем они говорят, что действие является моральным, если значение, получаемое пороговой функцией, превышает заранее согласованное значение. Они называют это заранее согласованное значение допуском. Кажется, что мораль действия - это просто вопрос арифметики, и что арифметика находится вне контроля агента». Это приводит к проблеме определения допуска.
По мнению авторов порог определяется человеческими агентами, но «Нет абсолютно ничего, что могло бы дать читателю какое-либо представление об этом процессе или какое-либо представление о том, какова может быть эта ценность. Об этой функции ничего не сказано, например, что это за функция, какие входные данные она может принимать или какие выходные данные она может предоставлять.»
«Но почему человеческие агенты должны находиться в таком привилегированном положении? Что дает им право определять для других моральных агентов, какой должна быть эта терпимость?» Предполагалось, что мы, люди, просто знаем, что являемся моральными агентами и должны уметь распознавать других моральных агентов. Тем не менее существует много споров о том, кто в праве принимать окончательное решение о моральном агенте другого.
Агентство
«Термин “агент” включает в себя как человеческих, так и искусственных агентов. Оба этих вида агентов являются законными источниками моральных действий».
Агенты разделяются на моральных агентов, которые являются инициаторами моральных действий, и моральных пациентов, которые получают моральные действия.
Также предлагают понимать агентов как системы, чтобы избежать проблему определения, что такое агент.
«Важный вывод, который следует сделать из этой характеристики агентов, состоит в том, что моральные агенты - это системы, рассматриваемые через конкретный уровень абстракции.»
Идея уровней абстракции
«Уровень абстракции состоит из набора наблюдаемых объектов, каждый из которых имеет четко определенный возможный набор значений или результатов.»
Наблюдаемые объекты, упомянутые здесь, представляют собой информацию, хранящуюся в системе, которая доступна некоторому наблюдателю.
«Уровень абстракции- это частичное представление системы». Это позволяет предположить, что любая система будет иметь несколько уровней абстракции». Однако попытка количества таких уровней приводит либо к множеству всех собственных подмножеств всех переменных систем, либо к бесконечности.
Флориди и Сандерс говорят, что “сущность может быть описана в диапазоне уровней абстракции и, следовательно, может иметь ряд моделей”.
«Эта концепция одновременно и прямолинейна, и обманчива. Это прямолинейно, потому что кажется очевидной истиной, что любая сущность может иметь несколько различных способов описания, каждый из которых обеспечивает различную точку зрения. Это вводит в заблуждение, потому что внутри него скрыт намек на то, что в сущности есть что-то, что остается постоянным, в то время как выбор информации о сущности меняется.»
«В зависимости от выбранного уровня абстракции система может казаться или не казаться агентом, особенно моральным агентом. На одном уровне абстракции система может быть моральным агентом, и та же самая система, исследованная с использованием другого уровня абстракции, может оказаться вовсе не агентом, а просто набором молекул.»
Правильный уровень абстракции, необходимый для моральной активности, - это тот, который удовлетворяет трем критериям: интерактивность, автономия и адаптивность. Интерактивность означает, что агент и его окружение (могут) воздействовать друг на друга. Автономность означает, что агент способен изменять состояние без прямого ответа на взаимодействие: он может выполнять внутренние переходы для изменения своего состояния. Адаптивность означает, что взаимодействия агента (могут) изменять правила перехода, с помощью которых он изменяет состояние. Таким образом, существует объяснение того, как эти три условия способствуют пониманию того, как обычный агент может стать моральным агентом, просто определив, что у субъекта есть эти три дополнительных условия.
Важно отметить, что интерактивность - это то же самое, что и переход из состояния в состояние, и что адаптивность сводится к правилам, которые описывают, как системы могут переходить из одного состояния в другое (называемые правилами перехода). Идея перехода состояния шире, чем просто изменение значения переменной. Примером системы, изменяющей состояния без изменения какой-либо из системных переменных, может быть та, в которой система переходит из одного состояния в другое просто с течением времени. Таким образом, изменение состояния не подразумевает изменения сущности.
Флориди и Сандерс пишут о различиях между внутренними и внешними переходами. Они утверждают, что на внутренние переходы не влияет окружающая среда, а внешние -нет. Определение разницы между внутренними и внешними переходами системы совпадает с определением границы системы, что совпадает с определением входов и выходов системы. Поскольку границы и ввод-вывод всегда зависят от определения цели системы, а цели систем сконструированы, границы неестественны, то «не существует такой вещи, как правильная или естественная система; все системы сконструированы». Это противоречит попытке заставить нас принять один такой естественный уровень абстракции, тот, в котором системы / агенты могут рассматриваться как моральные агенты.
Мораль
Флориди и Сандерс характеризуют мораль как интерактивность, автономию и адаптивность. Затем они сопоставляют это определение с концепцией уровней абстракции и говорят, что уровни абстракции естественно обладают моральными характеристиками.
«Действие считается морально квалифицируемым тогда и только тогда, когда оно может привести к моральному добру или злу».
«Конечно, все морально значимые факты должны быть включены в уровень абстракции, который используется для оценки моральной воли субъекта морального требования».
Интерактивность
Она нуждается в более глубоком рассмотрении. Одним из отличительных признаков моральной интерактивности является выбор. Агент должен быть в состоянии принять решение стать источником моральных действий.
Автономность
«Автономность означает, что агент способен изменять состояние без прямого ответа на взаимодействие: он может выполнять внутренние переходы для изменения своего состояния. Система не только просто реагирует на ввод или создает вывод, но, скорее, у нее есть некоторый механизм для определения того, когда переходить из одного состояния в другое, независимо от входов и выходов».
Адаптивность
Она описывается в терминах изменений состояния. Внутренние состояния, представляющие правила перехода-изменения, можно рассматривать двумя способами. Если они не находятся на том же концептуальном уровне, что и обычные правила перехода, то они являются мета-правилами, правилами для изменения правил. Если они находятся на том же концептуальном уровне, что и обычные правила перехода, то это просто дополнительные правила для изменения состояния.
Должны ли существовать мета-мета-правила, и если да, то когда эта регрессия прекратится? Для тех видов моральных агентов, которыми являются люди нет предела этой регрессии, и поэтому, нет причин ограничивать эту регрессию для искусственных моральных агентов. Если Флориди и Сандерс не имеют в виду, что изменение их правил относится к типу мета-правил, то тот факт, что правила меняются, должен просто означать, что некоторые состояния меняются, но тот факт, что конкретные правила меняются, ничем не отличается от любого другого состояния, которое может измениться. Это приводит к тому, что «выбранный уровень абстракции будет определять глубину рекурсии».
Флориди и Сандерс также утверждают, что мораль можно рассматривать как пороговую функцию и что эта пороговая функция может быть подчинена “некоторому заранее согласованному значению”. Это значение называется допуском. Как только эта терпимость достигнута, агент считается моральным агентом.
Идея о том, что мораль является пороговой функцией, кажется проблематичной, и Флориди и Сандерс недостаточно учитывают трудности, чтобы прояснить концепцию.
Уровни адаптации для моральной активности и примеры систем
«Уровни адаптации обычно имеют некоторое естественное соответствие с природными объектами в физическом мире», однако могут возникнуть проблемы, например:
Взаимодействие | Автономия | Адаптивность | Примеры |
Нет | Нет | Нет | Камень |
Да | Нет | Нет | Почтовый ящик |
Нет | Да | Да | Солнечная система |
Нет | Да | Нет | Маятник |
Нет | Нет | Да | ? |
Для простоты примеры взяты на одном и том же уровне адаптации, который состоит из наблюдений, сделанных с помощью обычной видеокамеры в течение, скажем, 30 секунд. Трудно понять, чем камень отличается от почтового ящика, они могут иметь те же значения. Такого рода трудности с уровнями абстракции указывают на то, что большинство уровней абстракции не могут сказать ничего, кроме того, что система соответствует критериям, а затем называют это соответствие критериям “моралью”.
Также кажется трудным извлечь какой-либо смысл из идеи возможности использовать видеокамеру в течение 30 секунд, чтобы иметь возможность понять солнечную систему как солнечную систему. Существует трудность в понимании примера закрытой экосистемы. Она заключается в том, что если они закрыты, то о существовании конкретных систем можно размышлять, но не знать. Мы не можем знать об адаптивности закрытой системы или ее автономности, потому что у нас нет доступа к внутренним состояниям закрытой системы.
Если нет взаимодействия, то мы не можем ни знать, ни иметь никаких доказательств чего-либо ни о его автономии, ни о его приспособляемости.
«Конечно, можно быть еще более детализированным в этом вопросе. Можно различать выходные данные типов состояний. Однако такая глубина анализа вышла бы за рамки данной работы. Альтернативная характеристика уровня абстракции заключается в том, чтобы разрешить уровень адаптации, который скрывает некоторые входы / выходы, но позволяет проверять внутренние состояния». Если входы / выходы непознаваемы, то оценка автономии и адаптивности может основываться только на конкретных результатах.
Всё это приводит к мысли: «Любая достаточно описанный уровень адаптации неотличим от передовой технологии».
Ричард Лукас считает, что нет уровней адаптации, которые можно было бы назвать естественными, по крайней мере, не в смысле естественного мира. Требуется больше объяснений, чтобы объяснить, что под этим подразумевается. Флориди и Сандерс совершенно правы, говоря, что два уровня абстракции расходятся во мнениях, но речь идет не только о "открытом исходном коде" и "коммерческом" взгляде.
Также кажется, что один из выводов, к которому можно прийти, заключается в том, что моральное влияние другого человека является функцией невежества оценщика.
Заключение
Программа Флориди и Сандерса по этике для искусственных агентов зависит от двух вещей: эффективной характеристики агентов и конкретного определения этики. Однако я обнаружил, что существуют трудности. В конце концов, конструкция слишком искусственна и слишком проста, чтобы считаться естественной характеристикой морали.
Источник:
Richard Lucas. Levels of Abstraction and Morality//Luciano Floridi’s Philosophy of Technology. 2012. pp 43-63
https://link.springer.com/chapter/10.1007/978-94-007-4292-5_3
Comments