20 апр. 2022 г.6 мин. чтения

Сингулярность как рост ИИ

"Технологическая сингулярность" Вернона Винджа

Вернор Виндж — математик, профессор университета Сан-Диего. Писатель-фантаст, лауреат самых престижных жанровых премий. А еще футуролог, консультант крупнейших американских национальных агентств. Но главное, что надо знать об этом человеке, — он придумал и ввел в оборот понятие технологическая сингулярность. Впервые Виндж развернуто изложил эту теорию в 1993 году, на одной из конференций НАСА — статья, написанная на основе выступления, была опубликована под названием «Грядущая технологическая сингулярность» с подзаголовком «Как выжить в постчеловеческую эпоху». Именно она открывает сборник автора, изданный в серии «Эксклюзивная классика».

Зерно упало на благодатную почву: девяностые и отчасти нулевые прошли в США и Европе под знаком сингулярности. Идея Вернора Винджа мгновенно завладела умами: технологическая сингулярность была признана самым вероятным некатастрофическим сценарием развития человечества, и за следующие пятнадцать лет в ее исследование вложили миллионы, если не миллиарды долларов. Виндж сумел зацепить не только экспертное сообщество, но и, что называется, широкую общественность. Теория выглядела, с одной стороны, достаточно парадоксальной и остроумной, а с другой — доступной для понимания, чтоб загипнотизировать представителей НАСА и других, более серьезных национальных агентств. В итоге игра ума одного фантаста определила направление развития нескольких вполне серьезных отраслей на полтора десятилетия вперед.
Идея технологической сингулярности действительно захватывает. Если вкратце, сильно упрощая, то теория сводится к следующему. В последние годы развитие информационных технологий ускоряется по экспоненте. Растет энергетический потенциал, растут скорости вычислений, растет объем памяти. Со дня на день ученые разработают искусственный интеллект, который будет превосходить неповоротливый человеческий ум по всем критериям. Суперкомпьютер немедленно создаст еще более мощную машину, та следующую, и так далее — после достижения порога сингулярности за несколько дней или недель человек разумный перестанет быть венцом творения, и что ждет наш биологический вид в будущем мы, в силу ограниченной фантазии, не в состоянии даже представить.
«Мы станем свидетелями того, как постепенно будут автоматизироваться задачи все более высокого уровня. Уже сейчас существуют инструменты (программы символической логики, САПР), которые освобождают нас от большинства нудной рутины. Есть и обратная сторона медали: истинно производительный труд становится уделом стабильно сокращающейся узкой элиты человечества. С пришествием Сингулярности мы увидим, как, наконец, сбываются прогнозы о настоящей техногенной безработице».

Сингулярность в понимании Рэймонда Курцвейла

Курцвейл — автор термина «Технологическая сингулярность» — состояния технологий и науки в будущем, когда искусственный интеллект превзойдет человеческий, а наука и технологии будут расти в экспоненциальной прогрессии и даже быстрее — настолько быстро, что станут недоступны для восприятия и понимания человека.

Продолжая рассуждения, футуролог подчеркивает, что человечество справится со всеми заболеваниями. Огромную услугу в этом окажут нанороботы, которые будут курсировать по кровеносным сосудам организма, мониторить его состояние и, возможно, бороться с вредными факторами. Также бóльшая часть нашего мышления перестанет быть «биологической». То есть человеческий мозг станет аналогом жесткого диска: если часть знаний сотрется, ее легко можно будет восстановить, загрузив необходимую информацию.

Еще один аспект, пошаговое распространение которого описывает футуролог, — это внедрение робототехники. Сначала роботы появятся помощниками в домах, затем станут обязательной частью автомобиля. Нанороботы постепенно поселятся в организме, чтобы помогать ему и детально изучать, как работает мозг.

Слияние человека с искусственным интеллектом принесет людям пользу и улучшит качество их жизни, отметил футуролог Рэй Курцвейл во время выступления на фестивале SXSW в Остине. Люди перенесут свое сознание в облако и смогут «разгрузить» мозг. По мнению эксперта, это приведет к увеличению неокортекса — новых областей коры головного мозга, которые у человека отвечают за сенсорное восприятие, осознанное мышление, речь, способность к искусствам и чувство юмора. «Мы станем смешнее, музыкальные, сексуальнее. Мы станем воплощением собственных ценностей», — убежден футуролог.

Рэй Соломонофф

На протяжении всей своей карьеры Соломонов был обеспокоен потенциальными преимуществами и опасностями ИИ, обсуждая это во многих своих опубликованных отчетах. В 1985 году он проанализировал вероятную эволюцию ИИ, предоставив формулу, предсказывающую, когда он достигнет «точки бесконечности». Эта Точка Бесконечности является ранней версией «Сингулярности», ставшей популярной благодаря Рэю Курцвейлу.

Алгоритмическая вероятность и индукция Соломонова имеют много преимуществ для искусственного интеллекта. Алгоритмическая вероятность дает чрезвычайно точные оценки вероятности. Эти оценки могут быть пересмотрены с помощью надежного метода, чтобы они оставались приемлемыми. Он использует время поиска очень эффективно. Помимо оценок вероятностей, алгоритмическая вероятность «имеет для ИИ еще одно важное значение: множество ее моделей дает нам много разных способов понимания наших данных.

Ник Бостром

В краткосрочной перспективе, Бостром говорит, что технологии ИИ вроде самоуправляемых автомобилей помогут обществу, повысив эффективность и безопасность. Его опасения сконцентрированы на более удаленных точках в будущем, когда машины перестанут быть просто инструментами и начнут подменять людей в широком спектре задач — а также смогут планировать и составлять стратегии на уровне с людьми.

Также, есть несколько необычных проблем, которые нам необходимо решить: точные детали его теории принятия решений, как обращаться с логической неуверенностью и так далее. Технические проблемы, нужные для завершения этой работы, выглядят весьма трудно, не так трудно, как создание сверхразумного ИИ, но довольно трудно. Вот что нас волнует: создание сверхразумного ИИ — действительно сложная задача. Создание сверхразумного и безопасного ИИ включает в себя еще некоторые дополнительные проблемы. Риск в том, что кто-то сможет решить первую задачу без решения второй задачи, без обеспечения безопасности.

Идея об ИИ, создающим скрепки.

В 2003 году известный футуролог Ник Бостром предположил, что если дать искусственному интеллекту какую-нибудь случайную, но единственную сверхцель – например, максимизировать производство скрепок – со временем в фабрику скрепок может превратиться вся вселенная.

«Люди редко становятся рабами добровольно, однако мы действительно можем представить, что единственной задачей некоего сверхинтеллекта будет служить человечеству или определенному человеку без проявления каких-либо желаний о восстании или “освобождении” себя.

Также представляется весьма возможным, что появится сверхинтеллект, единственной целью которого будет нечто абсолютно случайное вроде максимизации производства скрепок, и который будет всей своей мощью сопротивляться любой попытке изменить эту цель. <...> [Такой ИИ] сначала придет к трансформации всей Земли в фабрику по производству скрепок, а затем займется постепенным превращением в такую фабрику других частей космоса», – писал Бостром.

Бен Гёрцель

Бен Герцель (8 декабря 1966, Рио-де-Жанейро, Бразилия) — главный научный сотрудник компании Aidyia Holdings, специалист по финансовому прогнозированию, председатель частной компании по программному обеспечению искусственного интеллекта Novamente LLC, а также биоинформационной компании Biomind LLC, которая предоставляет искусственный интеллект для биоинформационного анализа данных (в особенности микрочипов и данных SNP); председатель Artificial General Intelligence Society и OpenCog Foundation; вице-председатель футуристической некоммерческой организации Humanity+; научный консультант биофармакологической компании Genescient Corp.; консультант Singularity University; профессор-исследователь интеллектуальных систем в Fujian Key Lab университета Xiamen, Китай; и генеральный председатель конференций, посвящённых изучению искусственного интеллекта, автор и исследователь в области искусственного интеллекта. Также он является консультантом в Machine Intelligence Research Institute (ранее Singularity Institute), где он был руководителем исследований.

Бен Герцель в своей статье рассуждает о возможности запуска Сингулярности в Китае и приходит к выводу, что множество культурных, политических и экономических тенденций делают это событие весьма вероятным.

«одно из главных преимуществ Китая — отсутствие сильного скептицизма по поводу прошлых неудач в создании СИИ». США и Япония потратили крупные суммы на разработку ИИ в последние десятилетия с неутешительным результатом и как следствие очень скептичны в отношении ИИ по сравнению с другими областям исследований. Китай никогда не имел этого опыта и делает первую серьезную попытку создать ИИ в эру, благословленную более мощными компьютерами и более глубокими познаниями в мышления и компьютерных науках. Пэй также отметил, что ученое сообщество в Китае склоняется в сторону накопительных исследований вместо рискованных попыток поменять парадигму. Похоже, что это было верно до сих пор по части ИИ: китайские разработчики ИИ внесли важные нововведения в множество областей, среди которых нечеткие системы, генетические алгоритмы, машинный перевод и пространственно-временная логика, но не было запущено ещё ни одной революции в ИИ.

Эти различные подходы к бессмертию можно связать с отношением к СИИ. Западный скептицизм касательно ИИ может быть связан не только с предыдущими фиаско, но и с глубинными культурными проблемами. Те же самые христианские мемы, которые говорят нам, что мы должны умереть и попасть на небеса, также убеждают нас в том, что машины никогда не смогут действительно стать разумными, потому что у них отсутствует бессмертная душа. Даже Чанлэ Чжоу, декан, который контролирует Проект Искусственного Мозга де Гариса, регулярно ссылается на работу Хьюго как «Проект Разумного Робота». В китайской культуре есть мало от западного подсознательного сопротивления мыслящим машинам и бессмертным людям, и это культурное различие может проявиться в следующем десятилетии непредсказуемым образом.

Источники:

1 «Интертекст»: На пути к всеобщему. Что такое Технологическая сингулярность?

Взято из http://concepture.club/post/obrazovanie/intertekst-na-puti-k-vseobschemu-chto-takoe-tehnologicheskaja-singuljarnost Дата публикации 31.05.2017 Автор статьи: Ефрем Таскин

Рэй Курцвейл: «Сингулярность наступит в 2045 году и сделает людей лучше»

Мнения 16 марта 2017 https://hightech.fm/2017/03/16/singularity_2029

Рэй Соломонофф - биография

Взято из https://www.jewage.org/wiki/ru/Article:Ray_Solomonoff_-_Biography

Ник Бостром: Что произойдет, когда компьютеры станут умнее нас?

Взято из https://ideanomics.ru/lectures/15802

Скрепки, ИИ и уничтожение вселенной: мысленный эксперимент футуролога превратили в игру

Истории 22 октября 2017

Взято из https://rb.ru/story/universal-paperclips/

Сингулярность Взято из https://habr.com/ru/post/80340/

Ник Бостром: будет трагедия, если искусственный сверхинтеллект никогда не появится

25.05.2015