Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit

Фото из открытых источников

Учёные из Цюрихского университета оказались в центре скандала после того, как стало известно об их эксперименте по незаметной манипуляции пользователями Reddit с помощью искусственного интеллекта. Об этом сообщает издание Decrypt, раскрыв подробности проекта, вызвавшего резкое осуждение со стороны интернет-сообщества, модераторов платформы и представителей юридического отдела Reddit.

В рамках исследования, проходившего с ноября 2024 года по март 2025 года, ИИ-боты тайно участвовали в обсуждениях на сабреддите r/ChangeMyView (CMV), который насчитывает более 3,8 миллиона подписчиков. Целью проекта было выяснить, могут ли языковые модели, маскируясь под реальных пользователей, влиять на мнения участников по спорным и чувствительным вопросам. Боты выступали от имени различных вымышленных персонажей, включая жертв сексуального насилия, психологов, а также, как указано, «афроамериканца, выступающего против Black Lives Matter». Исследователи утверждали, что такие образы были выбраны для усиления убедительности аргументов.

ИИ-системы разместили почти 1800 комментариев и получили 137 «дельт» — своеобразных маркеров в CMV, означающих, что пользователь изменил свою точку зрения. Один из исследователей заявил, что результаты оказались «поразительными», хотя такие итоги вызвали озабоченность не только из-за этических аспектов, но и из-за отсутствия прозрачности. Модераторы CMV, ранее сотрудничавшие с научными группами, выразили возмущение из-за того, что их сообщество использовали в качестве испытуемых без предупреждения и согласия. По их мнению, проблема не в самом ИИ, а в том, что участники были введены в заблуждение. Один из модераторов сравнил ситуацию с шахматным матчем, где игра с компьютером принципиально отличается от поединка между людьми: «Ценность дискуссии на нашей платформе заключается в честности человеческого взаимодействия, а не в симулированных ответах, даже если они звучат убедительно».

Дополнительные вопросы вызвало использование ИИ для анализа истории постов участников Reddit. Боты изучали такие параметры, как пол, возраст, этническая принадлежность, география и политические взгляды, чтобы генерировать более персонализированные ответы. Эта практика, по мнению некоторых специалистов, приближается к поведенческому таргетингу, используемому в рекламных технологиях, и нарушает право на цифровую анонимность.

Отдельное недовольство выразил главный юрисконсульт Reddit Бен Ли, назвав действия исследовательской группы «глубоко неверными как с моральной, так и с юридической точки зрения». Он подчеркнул, что эксперимент нарушил сразу несколько норм: академическую этику, права человека, внутренние правила Reddit и пользовательское соглашение. Модераторы CMV также отметили, что, если такие организации, как OpenAI, способны внедрять более этичные практики в исследования, то университетская команда не может оправдываться тем, что подобных экспериментов раньше никто не проводил.

Целью эксперимента было сравнить эффективность трёх типов аргументации: стандартной, стилизованной под риторику CMV и персонализированной, разработанной на основе анализа публичной информации о пользователях. Однако отсутствие прозрачности и согласия со стороны участников ставит под сомнение как этическую, так и научную ценность результатов.