1) Управление искусственным интеллектом (ИИ) необходимо для получения преимуществ и управления рисками, связанными с системами ИИ. Это означает, что этические принципы, такие как справедливость, необходимо преобразовать в практические процессы управления ИИ.
2) Широко распространено мнение, что для получения выгод и управления рисками необходимо управлять системами ИИ, чтобы они работали в соответствии с человеческими и общественными ценностями.
3) Однако текущая работа по управлению ИИ сталкивается с проблемой перевода абстрактных этических принципов, таких как справедливость, в практические процессы управления ИИ.
4) Управление ИИ входит во все более сложную среду организационного управления, где корпоративное управление, управление информационными технологиями (ИТ) и управление данными уже требуют внимания руководства.
5) Таким образом, нынешнее неорганизованное состояние литературы по управлению ИИ вызывает сожаление, поскольку организации, внедряющие ИИ в свою деятельность, играют ключевую роль в реализации управления ИИ на практике.
6) Растет число исследований, подтверждающих важность управляемого ИИ.
7) Георгиева и ее коллеги называют это «третьей волной исследований этического ИИ», которая фокусируется на превращении принципов ИИ в действенную практику и управление. Третья волна направлена на продвижение практических механизмов подотчетности.
8) В своем глобальном обзоре Бутчер и Беридзе характеризуют управление ИИ как «множество инструментов, решений и рычагов, влияющих на разработку и применение ИИ». В широком смысле это определение близко к концепции цифрового управления Флориди, определяемой как «практика установления и реализации политик, процедур и стандартов для надлежащего развития, использования и управления инфосфером».
9) В том же духе Ганберг операционализирует управление ИИ как «интерсубъективно признанные правила, которые определяют, ограничивают и формируют ожидания относительно фундаментальных свойств искусственного агента».
10) Шнайдер и др. определяют управление ИИ для бизнеса как «структуру правил, практик и процессов, используемых для обеспечения того, чтобы технология ИИ организации поддерживала и расширяла стратегии и цели организации».
11) Напротив, Винфилд и Джиротка подчеркивают этическое управление, которое выходит за рамки хорошего управления, прививая этичное поведение дизайнерам и организациям. Они определяют этическое управление как «набор процессов, процедур, культур и ценностей, разработанных для обеспечения самых высоких стандартов поведения».
12) Управление ИИ — это система правил, практик, процессов и технологических инструментов, которые используются для обеспечения того, чтобы организация использовала технологии ИИ в соответствии со стратегиями, целями и ценностями организации; выполняет требования законодательства; и соответствует принципам этического ИИ, которым следует организация.
13) В частности, это определение опирается на определение управления ИИ для бизнеса, но включает нормативные ограничения и этические принципы ИИ.
14) В частности, мы выделяем связь управления ИИ с тремя соответствующими областями управления, а именно: корпоративной, ИТ и данными.
15) Корпоративное управление устанавливает принципы, посредством которых организации интерпретируют и реализуют желаемое поведение своих агентов.
16) Хотя деятельность по корпоративному управлению и ее ожидаемое воздействие в первую очередь сосредоточены на организации, структура корпоративного управления подчеркивает важность подотчетности перед внешними заинтересованными сторонами и, в более общем плане, корпоративной социальной ответственности.
17) Масштабируемость и повышенная автономия по сравнению с традиционными ИТ-системами — главные преимущества ИИ. Это делает подотчетность и ответственность особенно важными для ИИ.
18) Организации — это объекты, которые обрабатывают информацию, и большая часть этой обработки происходит (или опосредована) ИТ. Следовательно, управление ИТ-системами является одновременно средством осуществления корпоративного управления и ключевым элементом структуры управления организации.
19) Вейл и Росс определяют управление ИТ как «указание прав на принятие решений и структуры подотчетности для поощрения желательного поведения при использовании ИТ». Кроме того, они определяют пять взаимосвязанных областей принятия решений в области ИТ: принципы ИТ, ИТ-архитектура, ИТ-инфраструктура, потребности бизнес-приложений и инвестиции в ИТ.
20) Грегори и др. опираются на предыдущую литературу по ИС, связанную с управлением ИТ и определить управление ИТ как «систему прав принятия решений и подотчетности, развернутую посредством сочетания структурных, процессных и реляционных механизмов и используемую для обеспечения соответствия деятельности, связанной с ИТ, со стратегией и целями организации».
21) Области принятия решений по управлению ИТ и вопросы что/кого/как также относятся к управлению ИИ.
22) Будущим исследованиям также предстоит выяснить, в каких конкретных областях (например, принципы, архитектура, инвестиции) системы ИИ могут вызвать новые вопросы управления по сравнению с другими ИТ-системами.
23) В их концепции, во-первых, управление данными — это кросс-функциональное усилие, позволяющее сотрудничать вне функциональных границ и предметных областей данных.
24) Во-вторых, управление данными — это структура, которая устанавливает структуру и формализацию для управления данными.
25) В-третьих, управление данными рассматривает данные как стратегический актив предприятия и рассматривает данные как представление фактов в различных форматах.
26) В-четвертых, управление данными определяет права принятия решений и ответственность за принятие решений организацией в отношении своих данных. Это включает в себя определение того, какие решения необходимо принимать в отношении данных, как эти решения принимаются и кто в организации имеет право их принимать.
27) В-пятых, управление данными включает разработку политики, стандартов и процедур в отношении данных.
28) В-шестых, управление данными облегчает мониторинг соблюдения требований, что влечет за собой внедрение средств контроля, обеспечивающих соблюдение предварительно определенных политик и стандартов в отношении данных.
29) Элементы управления данными имеют отношение к управлению ИИ, особенно в отношении технических уровней, связанных с конкретными алгоритмическими системами.
30) Хотя управление данными необходимо для эффективного управления ИИ, его самого по себе недостаточно.
Источник:
Mäntymäki, M., Minkkinen, M., Birkstedt, T. et al. Defining organizational AI governance. AI Ethics (2022).
Retrieved from https://link.springer.com/article/10.1007/s43681-022-00143-x
Comments