Системы рекомендаций в онлайн-сервисах, все больше управляют нашей жизнью, но остаются невидимыми для нас. Эти системы собирают и анализируют интерактивные данные, чтобы предоставить прогнозы предпочтений пользователей. Однако они также воплощают "формальную предвзятость" через свой технический код, который представляет собой форму бихевиоризма, имеющего определенный взгляд на человеческую природу. Рекомендательный бихевиоризм рассматривает предпочтения как измеримое поведение, основанное на прошлых взаимодействиях и поведении, не оставляя места для индивидуальных эмоций, смыслов или ценностей.
История и изучение систем рекомендаций
Рекомендательные системы были разработаны для фильтрации. Коллаборативная фильтрация была главной техникой, использовавшейся в первых рекомендательных системах. Сегодня алгоритмические рекомендательные системы распространены повсеместно и фильтруют огромное количество цифрового контента. Большинство из них используют комбинацию методов, и исследования обычно сосредоточены на сравнении подходов и предложениях по улучшению. Критические исследования изучают, как рекомендации формируют и управляют желаниями потребителей, индивидуальными субъектами и вопросами конфиденциальности. Рекомендации оказывают влияние на культуру, которую мы потребляем, и усиливают предубеждения тех, кто их разрабатывает и поддерживает. Несмотря на критическую направленность, рекомендательные системы остаются полезным инструментом в решении проблемы избыточного выбора, хотя их социальные последствия требуют дальнейшего критического исследования.
Алгоритмические системы рекомендаций отошли от использования демографических маркеров предпочтений и вместо этого полагаются на поведенческие данные в реальном времени, в частности, на измеряемое, неявное, прошлое и контекстуализированное поведение. Рекомендательные системы могут обрабатывать только те данные, которые можно наблюдать в цифровом виде, в то время как внутренние состояния, такие как мысли, чувства и предпочтения, не поддаются прямому наблюдению. Переход от явных данных, таких как рейтинги, к неявным данным, таким как клики и другие отслеживаемые взаимодействия, обусловлен эффективностью последних в прогнозировании будущего поведения и простотой сбора.
Бихевиоризм: основные принципы.
Бихевиоризм, созданный в 1913 году, стал влиятельной школой мысли во многих научных областях. Бихевиористы, такие как Б.Ф. Скиннер, считали, что понимание человека означает знание того, что он делал, делал или будет делать в определенных условиях. Внутренние состояния, такие как чувства и мысли, сводятся к телесным состояниям и процессам и не обладают объяснительной или причинной силой. Скиннер утверждал, что только поведение предоставляет публично наблюдаемые данные, на основе которых можно построить строгую и научно обоснованную модель того, почему люди делают то, что они делают. Бихевиористы стремятся предсказывать и контролировать поведение с помощью подкрепления и наказания.
Формальная предвзятость рекомендаций
Современные рекомендатели используют поведенческие данные и контекст для понимания пользователей. Они фокусируются на явном и неявном поведении, а не на субъективных интерпретациях внутренних состояний. Основным источником информации для рекомендательных систем являются поведенческие данные, которые соответствуют бихевиористской доктрине, согласно которой прошлое поведение предсказывает будущее поведение. Рекомендательные системы выявляют модели поведения путем объединения поведенческих данных и контекста. Однако они отличаются от радикальных бихевиористов тем, что наделяют внутренние состояния причинно-следственной силой. Хотя рекомендательные системы могут использовать субъективные понятия для представления себя, они работают в соответствии с объективистской, бихевиористской интерпретацией таких понятий.
Критика бихевиоризма
Рекомендательные системы воплощают бихевиористские предположения, которые являются объективистскими и безразличными к смыслу и ценностям. Влияние бихевиоризма ограничивает альтернативные пути для понимания людей и их желаний. Рекомендательные системы выполняют формальную предвзятость, подтверждая и скрывая условный характер бихевиористских идей. Критический анализ этих систем должен опираться на критику бихевиоризма и альтернативы ему, чтобы увидеть, как используемый в настоящее время поведенческий код приводит к обеднению представлений о том, что значит быть человеком, что имеет социальные последствия.
Бихевиоризм был популярен в психологии с 1920-х до середины 1950-х годов, но к середине 1950-х годов его популярность снизилась, поскольку он подвергся критике. Когнитивная революция в психологии привела к пониманию того, что поведение субъекта определяется тем, как он интерпретирует ситуацию. Теоретики критики утверждали, что бихевиоризм представляет собой колонизацию жизненного мира позитивистской наукой. Бихевиоризм игнорирует причины действий человека, что имеет решающее значение для понимания его поведения. Модель человеческого действия и мотивации определяется через линзу, через которую оно воспринимается.
Источники:
Darryl Cressman, "The Necessity of Critique. Andrew Feenberg and the Philosophy of Technology", 2022 г., из главы: "The Behavioral Code: Recommender Systems and the Technical Code of Behaviorism".
Retrieved from: https://link.springer.com/book/10.1007/978-3-031-07877-4
Comments