Так ли легко заниматься разработкой ИИ (искусственного интеллекта)? Ответ очевиден: это непростое дело, которое затрагивает многие сферы нашей жизни. Самыми острыми вопросами в этом деле являются этические.
Проблема вагонетки.
Неуправляемая вагонетка в сценарии «Тупик» Ф. Фут
Английская писательница и философ Филиппа Фут представила миру мысленный эксперимент, целью которого является выявление отчётливых различий между намерением и предвидением в нравственном поступке.
Представим ситуацию: по рельсам несётся тяжелая неуправляемая вагонетка. На этом пути работают пятеро людей, которые не видят вагонетку и не могут от нее увернуться, эти рабочие в смертельной опасности. Вы в силах сменить направление стрелки и пустить вагонетку по другому пути, на котором есть лишь один рабочий. Пожертвуете ли вы одним человеком ради спасения пятерых или позволите им умереть, но сохраните жизнь одного?
Сценарий «Толстяк» Д.Д. Томпсон
Философ Джудит Джарвис Томсон представила свою версию эксперимента.
Вы находитесь на мостике над железнодорожными путями и видите, как неуправляемая вагонетка несётся на этих же беззащитных пятерых человек. Вы не можете поменять направление поезда. Однако рядом с вами стоит очень толстый человек, вес которого остановит поезд. Столкнёте ли вы толстяка на пути, зная, что он умрёт, но будут спасены пятеро человек?
«Вагонетки» в реальной жизни, или моральная дилемма беспилотных машин
Согласно данным журнала TheEconomist, более 90% ДТП происходит по вине человека, поэтому беспилотный транспорт признан наиболее безопасным. Тем не менее, все преимущества такого вида машин могут быть сведены на нет из-за ряда правовых и, что самое главное, нравственных проблем.
Сложно определить, как беспилотные автомобили должны действовать в ситуациях, когда человеческие жизни находятся в опасности: ехать первоначальным маршрутом и сбить пятерых человек, или сменить маршрут и сбить только одного.
На данный момент принято решение, что подобный транспорт должен независимо от ситуации строго придерживаться предписанным правилам и стремиться уменьшить количество жертв.
Основные этапы в развитии автономных машин: от первого беспилотного фургона ALVINN до смертельного ДТП Tesla
Исследования беспилотных автомобилей начались в 1984 году и уже через 2 года был создан первый подобный транспорт Navlab1. ALVINN в 1990-е годы был использован в качестве испытательного транспортного средства на основе технологии нейронной сети. ALVINN можно считать прародителем современных беспилотных автомобилей.
В 1993 году компания Bosch представила разработанные в рамках проекта «Прометей» навигационные системы и камеры, способные распознавать полосы движения. Во время финальной демонстрации проекта на парижской трассе A1 автомобиль VAmP профессора Дикманнса проехал более 1000 км, развив скорость до 130 км/ч.
В 1995 году разработанная в CMU машина Navlab 5 проехала на автопилоте, но с ручным контролем бокового движения, из Питтсбурга, штат Пенсильвания, в Сан-Диего, штат Калифорния, в рамках тура “No Hands Across America”.
В немецком исследовательском проекте "Autonomes Fahren", который проходил с 1997 по 2000 год, в рамках проекта на испытательных площадках Volkswagen проводились тест-драйвы производимых автомобилей. Машины были оснащены лидарами, камерами, радарами, GPS, цифровой маршрутной картой.
В 21 веке произошло множество знаменательных событий, в число которых входят:
2004 год, первое в истории авто-соревнование с участием робокаров DARPA, где беспилотники настойчиво заявили о себе;
2010 год, первый автопилот Google, разработанный на базе модели Toyota;
2012 год, компания AUDI провела испытания машины на автопилоте;
2013 год, Nissan и Honda доказали эффективность своих запатентованных систем автопилотирования;
2014 год, шведская компания Volvo протестировала первый беспилотник с уникальной системой Drive Me;
2015 год, появились первые серийные беспилотники – Tesla Model S.
Несмотря на долгие и упорные разработки в сфере беспилотных автомобилей и продуманность их систем, аварии с участием таких машин оказались неизбежны. Миру известно несколько смертельных ДТП с Tesla.
7 мая 2016 года – первое ДТП Tesla со смертельным исходом, произошедшее в городе Уиллистоне, штат Флорида. Водитель использовал автопилот и врезался в белый фургон, который не был опознан умной машиной из-за яркого света в солнечный день.
Этот день стал своеобразной точкой невозврата, когда размышления о моральной машине перешли из области кабинетной философии в область насущных вопросов робоэтики и робоправа.
Эксперимент «Моральная машина» MIT
Острой необходимостью стало решение вопроса о том, как должен вести себя автономный автомобиль в различных экстренных ситуациях. Свой вклад в это дело внес Массачусетский технологический институт (MIT), проведя эксперимент в виде теста (больше об эксперименте https://www.moralmachine.net).
Цель данного теста — выяснить, что более приоритетный для людей или какие аспекты беспилотный автомобиль обязан принять в расчет:
Количество пострадавших (проблема «вагонетки»)
Жизнь пассажира или пешехода
Влияние красного сигнала светофора
Важность людей и животных
Люди с ожирением и подтянутые люди
Пройти тестирование могли люди вне зависимости от наличия прав, что только повышало интерес к эксперименту.
Результаты эксперимента в каждой стране разные. На основе ответов страны были разделены на несколько групп: «восточные», «западные» и «южные».
К примеру, южные чаще всего «спасали» молодых людей, особенно в сравнении с восточными — жители этих стран часто выбирали спасение для пожилых.
Эксперимент показал, что группы людей спасают чаще, чем группы животных, а людей с высоким социальным статусом чаще, чем владельцев низкого статуса (например, бездомных или преступников).
Источники
Эдмондс Д. Убили бы вы толстяка? Задача о вагонетке: что такое хорошо и что такое плохо? / Пер. с англ. Д. Кралечкина. М.: Изд-во Ин-та Егора Гайдара, 2015. 256 с.
Дж. Дж. Томсон Убийство, позволение умереть и проблема вагонетки // The Monist. 1976. Vol. 59. No. 2. P. 204–217.
Воронин Д.А. Проблемы правового регулирования автономного транспорта // Инновационная экономика: перспективы развития и совершенствования. - 2018. - Т. 1, №7(33). - С. 123-126
Казаков Ю.Н., Колпакова С.В., Горин А.В. Применение методов искусственного интеллекта в создании беспилотных автомобилей // Молодежь и системная модернизация страны. - Курск: Юго-Западный государственный университет, 2019. - С. 262-265
Бурков И.Д. Ценностный подход к искусственному интеллекту. XXIV Туполевские чтения. - Казань: ИП Сагиева А.Р., 2019. - С. 15-17
Comments