Появление и развитие искусственного интеллекта (ИИ) поменяло повседневную жизнь человека и поставило этические вопросы, которых ранее не существовало. Одна из самых обсуждаемых этических проблем ИИ - проблема ответственности за действия систем ИИ. Начиная от беспилотного автомобиля и заканчивая гипотетическими системами принятия решений планетарного масштаба.
Проблема ответственности появляется в тех областях доверия, где человеку приходится полагаться на действия системы ИИ.
Проблема вагонетки
Неуправляемая вагонетка в сценарии «Тупик». Филиппа Фут
Формулировка сценария проблемы с названием «Тупик»: Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?
Фут первоначально сопоставляла дилемму «Тупика» с тем вариантом, когда подставляют невинного человека, чтобы спасти пять заложников, и с тем, когда убивают одного человека, чтобы, взяв у него органы, спасти пять пациентов. Томпсон еще больше усилила контраст, придумав другую дилемму с вагонеткой.
Сценарий «Толстяк». Джудит Джарвис Томпсон
На этот раз вы стоите на пешеходном мосту и смотрите на железнодорожные пути. Вам видно, что по путям несется вагонетка, а впереди к рельсам привязано пять человек. Можно ли спасти этих пятерых? Моральный философ опять же устроил все так, что спасти их можно. На железнодорожный путь смотрит, склонившись с моста, очень толстый человек. Если вы столкнете его с моста, он упадет вниз и разобьется на железнодорожном полотне. Он настолько толстый, что его тело остановит вагонетку, когда она в него врежется. К сожалению, в результате толстяка убьет. Но это спасет жизнь пятерым.
Сценарии с вагонетками полезны именно потому, что они столь тщательно проработаны, они придумываются для того, чтобы выделить принципы и выявить важные различия. Этого результата они могут достичь только в том случае, если заглушат все отвлекающие и искажающие шумы.
Кроме того, основные сценарии с вагонетками не настолько фантастичны, чтобы считать их совершенно оторванными от реальной жизни.
«Вагонетки» в реальной жизни, или моральная дилемма беспилотных машин
Разработка беспилотных машин сталкивается с разнообразными моральными проблемами. Неясно, как они должны вести себя в аварийных ситуациях, когда от их решения зависит распределение рисков между людьми. Иногда это обязательно будет происходить, а значит, искусственный интеллект должен быть готов к решению моральных дилемм в духе «Проблемы вагонетки».
Правила должны быть достаточно сложными, чтобы справляться с ситуациями, когда невозможно полностью избежать вреда, причиняемого людям. Но существует ли в принципе такой набор этических правил для беспилотного автомобиля, который устроил бы всех?
Одна из очевидных проблем состоит в том, что моральные нормы и системы ценностей, принятые в разных обществах, далеко не одинаковы.
Чтобы оценить перспективы создания универсального «морального кода» для самоуправляемых машин, был запущен специальный сетевой проект, целью которого является сбор мнений людей всего мира о том, какими моральными принципами должны руководствоваться беспилотные автомобили.
Ученые из MIT придумали тест под названием «Моральная машина».
Каждый желающий мог пройти тест из смоделированных 13 ситуаций: указать, как стоит вести себя беспилотному автомобилю и кем предпочтительней пожертвовать, когда потери неизбежны.
Исследование должно было дать ответ на 9 главных вопросов о том, что предпочтительнее:
сохранить жизнь человека или животного;
сохранить курс или свернуть;
сохранить жизнь пассажиров или пешеходов;
наибольшего количества людей или наименьшего;
мужчин или женщин;
молодых или стариков;
толстых или худых;
пешеходов, переходящих дорогу в соответствии с ПДД, или пешеходов нарушителей;
людей с высоким или низким социальным статусом.
(В некоторых сценариях были дополнительные факторы: например, в них участвовали преступники, беременные женщины и доктора).
«Моральная машина» собрала около 40 млн ответов. Но эти результаты разнятся в зависимости от стран. На основе ответов исследователи разделили страны на несколько групп: «восточные», «западные» и «южные».
Например, южные страны чаще всего «спасали» молодых людей, особенно в сравнении с восточными — жители этих стран часто выбирали спасение для пожилых.
Наиболее общие предпочтения, что довольно предсказуемо, — спасение людей, а не животных, спасение наибольшего количества жизней и спасение молодых жизней. Эти три постулата могут стать фундаментом для этики беспилотных автомобилей.
Основные этапы в развитии автономных машин
Беспилотные автомобили могут представляться современным изобретением, однако ученые и инженеры уже более трех десятилетий создают способные самостоятельно передвигаться автомобили.
Исследования по теме управляемых компьютером автомобилей начались в 1984 году, а первый такой автомобиль Navlab 1 был создан в 1986 году. ALVINN в 1990-е годы был использован в качестве испытательного транспортного средства на основе технологии нейронной сети.
ALVINN, можно считать прародителем современных беспилотных автомобилей, так как система вождения ALVINN использовала нейронную сеть, которая была абсолютной новинкой для того времени и быстро становится все более и более популярным подходом для систем автономного вождения сегодня.
В 1995 году разработанная машина Navlab 5 проехала на автопилоте, но с ручным контролем бокового движения, из Питтсбурга, штат Пенсильвания, в Сан-Диего, штат Калифорния, в рамках тура “No Hands Across America”.
В немецком исследовательском проекте «Autonomes Fahren», который проходил с 1997 по 2000 год, принял участие Volkswagen. В рамках проекта проводились тест-драйвы производимых автомобилей. Машины были оснащены лидарами, камерами, радарами, GPS, цифровой маршрутной картой.
Толчок развитию полностью автономных транспортных средств дала серия технологических конкурсов по соревнованию автомобилей-роботов от DARPA Grand Challenge. Это привело к постепенному прогрессу в скорости беспилотников, навыкам автономного вождения в более сложных условиях, развитию средств управления и сенсорных систем.
Беспилотное настоящее
В 2010 году мир увидел первый автопилот Google, разработанный на базе модели Toyota. Оснащенный радарами, видеокамерами и системой LIDAR, этот Гуглмобиль мог ориентироваться в пространстве, узнавать дорожные знаки и взаимодействовать с другими участниками автопотока.
В 2012 году испытания своего беспилотника провела компания AUDI. Машина на автопилоте развивала скорость до 193 км/ч, отлично вписывалась в повороты и ускорялась на трассе.
В 2014 шведская компания Volvo протестировала первый беспилотник с уникальной системой Drive Me. Успехи испытания позволили прогнозировать серийный выпуск робокаров этой марки уже в конце 2018 года.
В 2015 появились первые серийные беспилотники – Tesla Model S, которые передвигаются на дорогах на 100% самостоятельно. Они наравне с Гуглмобилями считаются эталоном беспилотных технологий.
Tesla получила большую популярность, благодаря своей безопасности, уникальности и экономности. Однако, с момента широкого распространения этих автомобилей произошло несколько смертельных ДТП, связанных с использование системы беспилотника.
Смертельные ДТП Tesla
7 мая 2016 года. Водитель ехал на автопилоте, но машина не увидела белый фургон в солнечный день и не снизила скорость, вследствие этого случилось первое смертельное ДТП Tesla. Эта проблема остается у Tesla до сих пор: светлые объекты на фоне яркого солнечного света и чистого неба умная машина просто не видит из-за бликов.
23 марта 2018 года. Tesla Model X врезалась в шоссейный барьер. Водитель скончался в больнице. Во время аварии автомобиль был на автопилоте, также, водитель установил функцию контроля расстояния. Но от аварии его это не спасло.
8 мая 2018 года. Авария произошла в штате Флорида. Двое подростков погибли. Автомобиль выехал с дороги на тротуар и на полном ходу врезался в бетонную стену, после чего мгновенно загорелся.
1 марта 2019 года. Во Флориде Tesla Model 3 столкнулся с грузовиком. Ситуация была похожа на первый смертельный случай ДТП: автопилот не заметил пересекающий трассу грузовик. Машина попала под грузовик, ей срезало крышу, водитель погиб.
Несмотря на все «но», сегодня беспилотники признаны самым безопасным способом передвижения, а завтра они станут единственным выбором для человечества.
Но всё же, аварии с их участием и с человеческими жертвами неизбежны, поэтому к разработке «морального закона» для самоуправляемых машин нужно подойти со всей серьезностью.
Источники:
Эдмондс, Дэвид, Убили бы вы толстяка? Задача о вагонетке: что такое хорошо и что такое плохо?. — М.: Издательство Института Гайдара, 2016. — 256 с.
Jean-François Bonnefon, The social dilemma of autonomous vehicles // Journals Science 352 (6293). - June 23, 2016. - 1573-1576 с.
Tamaki Morita, Shunsuke Managi, Autonomous vehicles: Willingness to pay and the social dilemma // Journals Transportation Research Part C Emerging Technologies. – October, 2020
Comentarios