top of page
Антон Хищенко

Людей судят по машинам: Рост искусственного интеллекта в финансах, страховании и недвижимости

Вступление


Ландшафт финансовых технологий (“финтех”) сложен и разнообразен. Финтех варьируется от автоматизации офисных процедур, когда-то выполнявшихся работниками, до некоторых действительно новых подходов к хранению и передаче ценностей, а также предоставлению кредитов.


В своей статье Фрэнк Паскуале разделяет финтех-ландшафт на две сферы.


Одна из них, инкременталистский финтех, использует новые данные, алгоритмы и программное обеспечение для выполнения классической работы существующих финансовых институтов. Эта новая технология не меняет основополагающий характер андеррайтинга, обработки платежей, кредитования или других функций финансового сектора. Регулирующие органы должны, соответственно, гарантировать, что здесь сохраняются давние принципы финансового регулирования.

Другой сектор, который я считаю “футуристическим финтехом”, утверждает, что разрушает финансовые рынки таким образом, что заменяет регулирование или делает его устаревшим. Например, если вы действительно верите, что блокчейн, фиксирующий транзакции, является “неизменяемым”, вы можете не видеть необходимости в нормативных вмешательствах для повышения безопасности, чтобы остановить злонамеренный взлом или модификацию записей.

 

Инкременталистский Финтех: Проблемы хищнической, пугающей и подчиняющей инклюзивностей





За последнее десятилетие алгоритмическая подотчетность стала важной проблемой для социологов, компьютерщиков, журналистов и юристов.

Исследователи разоблачили технологических гигантов, показывающих женщинам рекламу низкооплачиваемой работы, дискриминирующих пожилых людей, использующих обманчивые темные схемы, чтобы заставить потребителей покупать вещи, и манипулирующих пользователями в направлении кроличьих нор экстремистского контента.


Представители истеблишмента приветствовали финтех как революционный способ вовлечения большего числа людей в финансовую систему. Некоторые сторонники финтеха выступают за радикальное дерегулирование своих услуг, чтобы обеспечить им быстрый выход на традиционные банковские рынки.

Однако существует риск того, что финтех-лейбл просто замаскирует “старое вино в новых бутылках”.


Новые количественные подходы к андеррайтингу и созданию репутации часто не оправдывали ожиданий или вызывали серьезные проблемы нормативов. Андеррайтинг ИИ может способствовать более широкой культуре тотальной слежки, которая серьезно подрывает человеческое достоинство.


Регулирующие органы должны задавать более серьезные вопросы о том, когда “финансовая доступность” может быть хищнической, пугающей (как в случае наблюдения 24/7) или подчиняющей (как, по крайней мере, в одном индийском финтех-приложении, которое снижает баллы тех, кто занимается политической деятельностью).

Фрэнк Паскуале считает, что "ограничение факторов, влияющих на кредитные решения, важно, потому что наш нынешний путь лежит к “будущему полного раскрытия информации”".


Если финансовые фирмы получат доступ к большему количеству информации о потенциальных клиентах, некоторые лица, которые когда-то не были частью финансовой системы, скорее всего, получат доступ к кредитам. (…) Без надлежащих ограждений начнется гонка на дно как в обмене, так и в формировании поведения, поскольку все больше людей конкурируют за более выгодные предложения. Это привело бы к буму хищнической инклюзивности (которая больше вредит, чем помогает), пугающей инклюзивности (которая дает корпоративным организациям вуайеристски интимный взгляд на нашу жизнь) и подчиняющей инклюзивности (которая укрепляет неравенство, заставляя людей поддерживать те же модели жизни, которые привели к их отчаянию в первую очередь).

Законодатели должны препятствовать или запрещать каждый из этих видов “инклюзивности”.


Вот что Фрэнк Паскуале думает о каждом из них:


Хищническая инклюзивность - это концепция с давней историей. Кредит позволяет, в то время как его теневая сторона (долг) ограничивает. Когда те, кто отчаянно нуждается в возможностях, берут на себя тяжелое кредитное бремя, чтобы посещать учебные программы сомнительной ценности, преобладает последний эффект.

Тот же принцип применим и к “пугающей инклюзивности”. Искусственный интеллект (и сбор данных, который он сейчас запускает) позволяет кредиторам лучше ориентироваться на уязвимых потребителей. Искушенная фирма может заметить, что родители в декабре быстро перезаказывают варианты игрушек по цене, и может отслеживать их телефон, когда они ходят из магазина в магазин, не покупая подарок ребенку. “Маркетинг, основанный на уязвимости”, может даже позволить приурочить рекламу к тому самому моменту дня, когда, скорее всего, наступит отчаяние. (…) Этот маркетинг, основанный на уязвимости, будет только ухудшаться с распространением отслеживания 24/7, (…) я бы назвал предложение более выгодных условий кредитования в обмен на непрерывное отслеживание мобильных телефонов, архивирование и перепродажу данных ярким примером ”пугающей инклюзивности".

Наказание людей за участие в политической жизни — как это сейчас делают фирмы как в Индии, так и в Китае — еще больше укрепляет доминирование тех, кто предоставляет кредиты, над теми, кто в них нуждается. (…) Фирмы вполне могут обнаружить, что те, кто занимается политикой, или подает в суд на своих арендодателей за нарушение условий аренды, или подает жалобу на работу, с большей вероятностью будут оспаривать спорные обвинения или даже с большей вероятностью объявят дефолт. Но такие корреляции не могут служить основой для гуманной кредитной системы. Они заставляют нас всех соревноваться в самоуничижении, стремясь доказать, что мы из тех людей, которые готовы принять любое унижение, чтобы продвинуться вперед.

Подводя итог, в своей статье Фрэнк пишет:


В то время как хищническая, пугающая и подчиняющая инклюзивность нежелательна по разным причинам, все они проясняют ключевую проблему автоматизации. Они позволяют людям конкурировать за преимущества на финансовых рынках способами, которые подрывают их финансовое здоровье, достоинство и политическую власть. Крайне важно остановить эту гонку вооружений слежки сейчас, потому что у нее так много самоподкрепляющихся внутренних логик.

 

Заблуждения футуристических финансовых технологий



Хотя трезвые отчеты Всемирного экономического форума, Deloitte, и правительственных организаций точно передают проблемы и возможности, связанные с инкременталистской стороной финтеха, большая часть волнения вокруг темы финансовых технологий возникает из более футуристической перспективы.

Финансовый футуризм соответствует более широким представлениям отрасли о роли автоматизации в преобразовании общества. Финансы уже давно требуют, чтобы заводы увеличивали свою производительность за счет более совершенного оборудования; теперь они обратили инструменты автоматизации на себя. Советы директоров постоянно оказывают давление на руководство, чтобы оно продвигало “ИИ” дальше по цепочке создания прибыли, заменяя управленческие суждения машинным обучением.


Самоавтоматизация финансов - это знакомая идеологическая история капитализма: рыночная конкуренция подталкивает фирмы и предпринимателей делать больше с меньшими затратами.


Разговоров о бурно развивающейся индустрии финтеха в последнее время все больше, и звучат они каждый день все громче, что не удивительно, мы практически каждый день слышим о новых стартапах, которые привлекают серьезные объемы финансирования. Вся эта шумиха привела к рождению ряда заблуждений.





Биткойн и другие криптовалюты функционируют как токены, в то время как блокчейны служат распределенными реестрами. Однако его последствия далеко не ясны. Пользователи отказываются от традиционного финансирования по какой-то причине, и простое уклонение от платы за банковские переводы не кажется правдоподобным обоснованием для принятия рисков, связанных с новым.

История появления цифровых денег напоминает историю бумажных денег, которые частично возникли для уплаты дани, налогов и сборов, взимаемых государством.


Мы можем думать о распределенной бухгалтерской книге, как о данных — представление того, у кого что есть: кто должен и кто владеет. Биткойны возникают как способ вознаграждения тех, кто потратил вычислительную мощность, необходимую для ведения реестра.

Вот, что Финн Брантон писал в своей книге "Цифровая наличность" по поводу криптовалюты:


На момент написания этой статьи, похоже, он нашел роль, которая идеально иллюстрирует настоящий момент: дико изменчивый инструмент для необоснованных спекуляций, американские горки взлетов и падений, движимые сочетанием шумихи, установления цен, вспышкой безумной паники и мечтой разбогатеть, почти ничего не делая.

Для культуролога Дэвида Голумбии, напротив, эти события неудивительны. Голумбия склонен критиковать вычисления как редукционистские, слишком склонные сводить наш опыт образования, отношений и политики к упрощенным категориям и эрзац-количественным определениям.


В 1997 году Лэнгдон Виннер диагностировал киберлибертарианство, как связь “экстатического энтузиазма к электронным формам жизни с радикальными, правыми либертарианскими идеями о правильном определении свободы, социальной жизни, экономики и политики”.


Либертарианская мысль склонна принижать правительство как главного врага свободы - вместо того, чтобы признать, как это делают почти все другие политические философии, что правительство имеет решающее значение для обеспечения свободы, поскольку анархия — это немногим больше, чем правление сильнейшего.

Как объясняет Голумбия, “Основной чертой правой финансовой мысли является продвижение идеи о том, что инфляция и дефляция являются результатом действий центрального банка, а не гораздо более распространенного мнения о том, что банки принимают меры для сдерживания инфляции или дефляции в ответ на внешнее экономическое давление”. Энтузиасты биткойна используют эту идею как еще одно обоснование для перевода активов из национальных валют, неизбежно отказываясь от политического и правового управления деньгами ради “безопасности” кода.


Книга профессора права Катарины Пистор "Кодекс капитала" демонстрирует, насколько глупым может оказаться это стремление. Пистор в первую очередь занимается юридическим, а не вычислительным кодом. Она во многих отношениях продемонстрировала, что закон не просто ограничивает финансы, но, напротив, является основой финансовых рынков.


В более ранней работе Пистор утверждала, что “финансы - это, по сути, гибрид государства и рынков, государственного и частного” юридическая теория финансов Пистор напоминает нам о том, насколько революционным является желание того, чтобы государство вышло из денежного бизнеса. Тем не менее, она смело излагает предположения киберлибертарианцев на пути к более реалистичному объяснению того, как “кодирование” капитала — способность экспертов гарантировать, что определенные требования к активам и потокам доходов являются долгосрочными, передаваемыми и подлежащими исполнению — может все больше зависеть от технологического (а не просто юридического) мастерства.


Как отмечает Пистор, эгалитарный аргумент в пользу автоматизированных финансов прост: “Когда цифровой код заменяет юридический код, - заверяют нас, - обязательства, которые мы даем друг другу, становятся жесткими, и даже сильные мира сего не могут просто уклониться от них”. Однако проблема уклонения богатых от контрактов должна быть уравновешена множеством способов, которыми богатые используют контракты, чтобы безжалостно наказывать должников, переводить трудовые споры в беспомощные арбитражные коллегии и перенаправлять активы из-под прогрессивного налогообложения.


Предполагается, что автоматизированный учет активов и переводов дешевле и более эгалитарен, чем армия клерков и юристов. Но, как терпеливо напоминает нам Пистор, “Кто-то должен писать код, следить за ним и исправлять его ошибки; и кто-то должен найти ответ на вопрос, чьим интересам служит или, возможно, должен служить код”. Действительно, Пистор предсказывает, что крупные финансовые учреждения попытаются использовать утопическую энергию, которую описывает в своих трудах Брантон, ”включив цифровой код в закон и оставив мало места цифровым утопистам".


Даже когда они одомашнены устоявшимися финансовыми интересами, как блокчейн, так и смарт-контракты могут иметь ограниченную ценность.



Существует множество договорных отношений, которые слишком сложны и изменчивы и требуют слишком большого человеческого суждения, чтобы их можно было надежно закодировать в программное обеспечение. Кодекс может отражать и в значительной степени реализовывать намерения сторон, но сам по себе не должен служить контрактом или деловым соглашением между ними.

 

Joachim von Braun · Margaret S. Archer Gregory M. Reichberg · Marcelo Sánchez Sorondo "Robotics, AI, and Humanity" // "Humans Judged by Machines: The Rise of Artifcial Intelligence in Finance, Insurance, and Real Estate" by Frank Pasquale p. 119-126 Retrieved from

https://library.oapen.org/bitstream/handle/20.500.12657/47279/9783030541736.pdf?sequence=1#page=62


















5 просмотров0 комментариев

Commentaires


Пост: Blog2_Post
bottom of page