top of page
Фото автораАристотель Сократович

"Отбросы данных" и их последствия для этики искусственного интеллекта: проблемы пандемии

1. Технологические гиганты сегодня контролируют огромные массивы пользовательских данных, которые активно собираются для получения прибыли. Концентрация таких ценных данных в частных руках для обслуживания главным образом коммерческих интересов должна быть поставлена под сомнение.

2. Напротив, правительства, университеты и аналитические центры предпринимают усилия по сбору данных, которые сравнительно скромны по масштабу, охвату, продолжительности и разрешению и должны бороться с ‘отбросами данных’.

3. Помимо того, что COVID-19 привел к увеличению смертности, он также выявил глубокие разногласия между компаниями, имеющими огромный массив данных и "цифровыми неимущими" почти в каждом обществе. С самого начала, когда половина человечества ушла на карантин, в результате которого бизнес, образование и здравоохранение перешли в онлайн, цифровое подключение явно изменило правила игры.

4. Действительно, крупные технологические компании располагают огромным количеством информации о пользователях, которая может дать эпидемиологическому контролю настоящий шанс. К сожалению правила конфиденциальности данных запрещают этим компаниям делиться такими данными, несмотря на необходимость сдерживания пандемии.

5. Совсем недавно, используя анонимизированные данные мобильных телефонов от частного оператора, исследователи также оценили влияние мобильности на распространение эпидемии и, что более важно, влияние политики, такой как массовые карантины и выборочные повторные послабления.

6. Помимо правительств, научные круги, аналитические центры и гражданское общество также не имеют доступа к таким данным. Поэтому концентрация таких ценных данных в частных руках для обслуживания исключительно коммерческих интересов должна быть поставлена под сомнение, особенно в свете тяжелого опыта человечества с COVID-19.

7. Обмен информацией является ключевым элементом городского взаимодействия и позволяет получить представление о социальном взаимодействиях и возможностях для развития урбанистики.

8. С увеличением числа телефонных звонков и текстовых сообщений, переходящих на проприетарные платформы, такие как WhatsApp и Telegram, наша способность понимать такой социальный обмен информацией значительно ограничена, если только обмен данными крупными технологическими компаниями не является обязательным.

9. В конечном счете, в мире, где развиваются технологии, опирающемся на большие данные, мы должны ответить на насущный вопрос: как преобладающая асимметрия данных подрывает наши поиски этичного ИИ?

10. Во-первых, коммерческое использование данных для алгоритмов, автоматизирующих все, от онлайн-рекламы до каналов в социальных сетях и страховых взносов, не является прозрачным занятием.

11. Процессы интеллектуального анализа данных и алгоритмического проектирования крупных технологических компаний настолько сложны, что они стали непонятными для регулирующих органов, что делает невозможными любые требования к прозрачности и подотчетности.

12. Академические исследования проводятся в соответствии с более строгими этическими стандартами, чем те, которые проводятся в корпорациях.

13. В университетах с интенсивными исследованиями существуют междисциплинарные комиссии по этическому обзору, которые осуществляют надзор за подробными протоколами исследований.

14. Процессы рецензирования научных публикаций также обычно требуют подтверждения этических процедур исследования. Такие гарантии, даже если они не совсем надежны, создают достойную похвалы культуру подотчетности.

15. Если ученым будет предоставлен доступ к большим данным, они могут помочь повысить профессиональные стандарты в отношении их управления, обработки и анализа для повышения справедливости и объяснимости. Затем эти усилия могут помочь перевести этику ИИ из теоретических принципов в конкретные практики.

16. Безусловно, технологические компании не застрахованы от подобной критики и, стремясь повысить свою корпоративную и социальную ответственность, стремятся поделиться некоторыми своими данными посредством сотрудничества с исследовательскими институтами.

17. Партнерство в области искусственного интеллекта, созданное в 2016 году несколькими крупными технологическими компаниями, является одним из таких усилий, хотя некоторые партнеры жаловались на отсутствие достижений и прогресса.

18. Крупные технологические компании также активно участвуют в финансировании и участии в конференциях по исследованию искусственного интеллекта, где нормы прозрачности и процессы экспертной оценки помогают приоткрыть завесу над некоторыми из их проектов в области больших данных.

19. Однако такие договоренности и инициативы носят разрозненный характер и осуществляются на условиях, которые явно учитывают по большей части интересы компаний.

20. Наконец, все товары в наших обществах регулируются и облагаются налогом по уважительной причине. Поэтому мы должны спросить себя, почему в наш нынешний цифровой золотой век один из самых ценных товаров из всех — данные — эффективно не регулируется.

21. Установление определенных уровней обмена данными может быть достигнуто с помощью концепции открытого доступа к данным, которая заимствует некоторые из своих принципов из движений за программное обеспечение с открытым исходным кодом, открытый дизайн, открытые знания и открытый доступ.

22. Некоторые правительства также признали социальные выгоды от предоставления данных посредством национальных интернет-порталов.

23. Инициативы движения за культуру открытого исходного кода направлены на обеспечение свободного доступа к ряду инноваций, включая исходный код программного обеспечения и конструкции аппаратных средств, для содействия более широкому внедрению и дальнейшему совершенствованию.

24. Например, компьютерная операционная система Linux широко признана самой успешной и безопасной из когда-либо программируемых и широко используется коммерческими FRM в центрах обработки данных и для Интернета вещей.

25. Благодаря коллективной изобретательности разработчиков многочисленные разработки аппаратного и программного обеспечения позволили добиться образцовых результатов в развитии цифрового софта.

26. Таким образом, в целом, когда мы рассматриваем меняющиеся контуры нашего общества больших данных, частные организации продолжают использовать данные высочайшего качества, в то время как государства и исследовательские институты, которые ищут данные для коллективного блага, должны довольствоваться значительно более низкими "отбросами данных’.

27. Поскольку объем данных, генерируемых обществом, растет экспоненциально, мы должны считаться с тем, что нынешняя асимметрия данных становится еще более усугубляющейся.

28. Если существующая модель больших данных сохранится, существенные социальные выгоды не материализуются. К сожалению, так же будет и с нашими поисками этичного ИИ.

29. Многим приходилось прибегать к "грубым" косвенным данным из общественного транспорта, здравоохранения, служб безопасности и коммунальных служб, причем такие страны, как Сингапур и Южная Корея, первоначально использовали данные GPS мобильных телефонов для отслеживания контактов и выявления событий с больными короновирусом.

30. Экономические и финансовые данные, полученные из анонимных источников от нескольких частных FRM — эмитентов карт, агрегаторов объявлений о вакансиях и компаний, предоставляющих финансовые услуги, — также предоставляют правительствам экономические ориентиры почти в режиме реального времени для мониторинга и адаптации к быстро меняющимся обстоятельствам.

 

Список используемых источников

Journal "AI and Ethics", January 2022, article "'Data dregs' and its implications for AI ethics: Revelations from the pandemic". Written by Sun Sun Lim & Roland Bouffanais. https://link.springer.com/article/10.1007/s43681-021-00130-8


8 просмотров0 комментариев

Comments


Пост: Blog2_Post
bottom of page