Суббота 19 июля 2025 года

 

Вы здесь:  Главная» Все новости» Технологии» Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit


Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit

Вторник, 06 Мая 2025 13:19
Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit Фото из открытых источников

Учёные из Цюрихского университета оказались в центре скандала после того, как стало известно об их эксперименте по незаметной манипуляции пользователями Reddit с помощью искусственного интеллекта. Об этом сообщает издание Decrypt, раскрыв подробности проекта, вызвавшего резкое осуждение со стороны интернет-сообщества, модераторов платформы и представителей юридического отдела Reddit.

 

В рамках исследования, проходившего с ноября 2024 года по март 2025 года, ИИ-боты тайно участвовали в обсуждениях на сабреддите r/ChangeMyView (CMV), который насчитывает более 3,8 миллиона подписчиков. Целью проекта было выяснить, могут ли языковые модели, маскируясь под реальных пользователей, влиять на мнения участников по спорным и чувствительным вопросам. Боты выступали от имени различных вымышленных персонажей, включая жертв сексуального насилия, психологов, а также, как указано, «афроамериканца, выступающего против Black Lives Matter». Исследователи утверждали, что такие образы были выбраны для усиления убедительности аргументов.

 

ИИ-системы разместили почти 1800 комментариев и получили 137 «дельт» — своеобразных маркеров в CMV, означающих, что пользователь изменил свою точку зрения. Один из исследователей заявил, что результаты оказались «поразительными», хотя такие итоги вызвали озабоченность не только из-за этических аспектов, но и из-за отсутствия прозрачности. Модераторы CMV, ранее сотрудничавшие с научными группами, выразили возмущение из-за того, что их сообщество использовали в качестве испытуемых без предупреждения и согласия. По их мнению, проблема не в самом ИИ, а в том, что участники были введены в заблуждение. Один из модераторов сравнил ситуацию с шахматным матчем, где игра с компьютером принципиально отличается от поединка между людьми: «Ценность дискуссии на нашей платформе заключается в честности человеческого взаимодействия, а не в симулированных ответах, даже если они звучат убедительно».

 

Дополнительные вопросы вызвало использование ИИ для анализа истории постов участников Reddit. Боты изучали такие параметры, как пол, возраст, этническая принадлежность, география и политические взгляды, чтобы генерировать более персонализированные ответы. Эта практика, по мнению некоторых специалистов, приближается к поведенческому таргетингу, используемому в рекламных технологиях, и нарушает право на цифровую анонимность.

 

Отдельное недовольство выразил главный юрисконсульт Reddit Бен Ли, назвав действия исследовательской группы «глубоко неверными как с моральной, так и с юридической точки зрения». Он подчеркнул, что эксперимент нарушил сразу несколько норм: академическую этику, права человека, внутренние правила Reddit и пользовательское соглашение. Модераторы CMV также отметили, что, если такие организации, как OpenAI, способны внедрять более этичные практики в исследования, то университетская команда не может оправдываться тем, что подобных экспериментов раньше никто не проводил.

 

Целью эксперимента было сравнить эффективность трёх типов аргументации: стандартной, стилизованной под риторику CMV и персонализированной, разработанной на основе анализа публичной информации о пользователях. Однако отсутствие прозрачности и согласия со стороны участников ставит под сомнение как этическую, так и научную ценность результатов.

 
 

 
Ванько Ольга Опубликовано в Технологии   Теги Новости
Читайте также
В Китае добились отрицательных выбросов парниковых газов В Китае добились отрицательных выбросов парниковых газов Инновационная стратегия электрического катализа, позволяющая удалять больше парниковых газов, чем производится, разработана китайскими исследователями, сообщает агентство Синьхуа. Углекислый газ и метан остаются двумя самыми распространёнными парниковыми газами, которые выделяются человеком.…
Создан новый материал, обещающий тысячекратный рост производительности электроники Создан новый материал, обещающий тысячекратный рост производительности электроники Революционные перемены в сфере электроники обещают новые достижения последних месяцев. Так, учёные разработали метод, делающий возможным заметное повышение производительности электронных устройств. Прорыв базируется, в первую очередь, на использовании уникального квантового…
Влияет ли ИИ на здоровье пользователей, показало исследование Влияет ли ИИ на здоровье пользователей, показало исследование Новое научное изыскание продемонстрировало, что на нынешнем этапе развития искусственный разум не оказывает заметного пагубного влияния на психологическое состояние пользователей, а порой даже помогает укреплению их телесного здоровья. О деталях…
Интернет и СМИ
Главное за сутки
МО: за ночь над регионами России сбили 73 украинских БПЛА МО: за ночь над регионами России сбили 73 украинских БПЛА Силы ПВО уничтожили и перехватили 73 украинских беспилотника над регионами России за ночь. Из них 10 дронов сбили над Московским регионом, в том числе 3 летевших на Москву дрона. Об…
Президент Путин скорректировал порядок проверки ложно отказавшихся от гражданства Украины Президент Путин скорректировал порядок проверки ложно отказавшихся от гражданства Украины Президент России Владимир Путин скорректировал регламент действий госорганов при обнаружении того, что отказавшийся от украинского паспорта гражданин РФ фактически продолжает им пользоваться. С соответствующим указом ознакомился ТАСС. Речь идет о…
В ЕС согласовали 18-й пакет санкций против России В ЕС согласовали 18-й пакет санкций против России Послы ЕС после двух месяцев дискуссий согласовали 18-й пакет санкций против России, сообщил журналистам дипломатический источник в Брюсселе. ТАСС собрал главное о содержании нового пакета рестрикций. Сообщается, что 18-й пакет…
Тема дня
Военные приготовления Запада работают против него же  Военные приготовления Запада работают против него же 

На новом витке обострения с Западом инструментов – таких, чтоб враги не использовали за прошедшие го...

Фото
Древний метеоритный кратер может быть на 800 млн лет моложе, чем считалось Древний метеоритный кратер может быть на 800 млн лет моложе, чем считалось

Ранее в этом году исследователи объявили об открытии, по их мнению, старейшего в мире ударного крате...

Опрос

Какое время продлится напряженность в отношениях между Россией и Азербайджаном?

 

Анекдот дня

Когда телефон был привязан к стене, люди были свободны...

Еще »

Этот сайт использует файлы «cookie» с целью повышения удобства его использования. Во время посещения сайта вы соглашаетесь с тем, что мы обрабатываем ваши персональные данные с использованием сервиса «Яндекс. Метрика». Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности.

Интересные материалы
МЫ ВКОНТАКТЕ

Зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций

(Роскомнадзор). Реестровая запись от 07.06.2022 серия ЭЛ № ФС 77 – 83392. При использовании, полном или частичном

цитировании материалов planet-today.ru активная гиперссылка обязательна. Мнения и взгляды авторов не всегда совпадают с

точкой зрения редакции. На информационном ресурсе применяются рекомендательные технологии (информационные технологии

предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей

сети "Интернет", находящихся на территории Российской Федерации)".