Среда 09 июля 2025 года

 

Вы здесь:  Главная» Все новости» Технологии» Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit


Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit

Вторник, 06 Мая 2025 13:19
Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit Фото из открытых источников

Учёные из Цюрихского университета оказались в центре скандала после того, как стало известно об их эксперименте по незаметной манипуляции пользователями Reddit с помощью искусственного интеллекта. Об этом сообщает издание Decrypt, раскрыв подробности проекта, вызвавшего резкое осуждение со стороны интернет-сообщества, модераторов платформы и представителей юридического отдела Reddit.

 

В рамках исследования, проходившего с ноября 2024 года по март 2025 года, ИИ-боты тайно участвовали в обсуждениях на сабреддите r/ChangeMyView (CMV), который насчитывает более 3,8 миллиона подписчиков. Целью проекта было выяснить, могут ли языковые модели, маскируясь под реальных пользователей, влиять на мнения участников по спорным и чувствительным вопросам. Боты выступали от имени различных вымышленных персонажей, включая жертв сексуального насилия, психологов, а также, как указано, «афроамериканца, выступающего против Black Lives Matter». Исследователи утверждали, что такие образы были выбраны для усиления убедительности аргументов.

 

ИИ-системы разместили почти 1800 комментариев и получили 137 «дельт» — своеобразных маркеров в CMV, означающих, что пользователь изменил свою точку зрения. Один из исследователей заявил, что результаты оказались «поразительными», хотя такие итоги вызвали озабоченность не только из-за этических аспектов, но и из-за отсутствия прозрачности. Модераторы CMV, ранее сотрудничавшие с научными группами, выразили возмущение из-за того, что их сообщество использовали в качестве испытуемых без предупреждения и согласия. По их мнению, проблема не в самом ИИ, а в том, что участники были введены в заблуждение. Один из модераторов сравнил ситуацию с шахматным матчем, где игра с компьютером принципиально отличается от поединка между людьми: «Ценность дискуссии на нашей платформе заключается в честности человеческого взаимодействия, а не в симулированных ответах, даже если они звучат убедительно».

 

Дополнительные вопросы вызвало использование ИИ для анализа истории постов участников Reddit. Боты изучали такие параметры, как пол, возраст, этническая принадлежность, география и политические взгляды, чтобы генерировать более персонализированные ответы. Эта практика, по мнению некоторых специалистов, приближается к поведенческому таргетингу, используемому в рекламных технологиях, и нарушает право на цифровую анонимность.

 

Отдельное недовольство выразил главный юрисконсульт Reddit Бен Ли, назвав действия исследовательской группы «глубоко неверными как с моральной, так и с юридической точки зрения». Он подчеркнул, что эксперимент нарушил сразу несколько норм: академическую этику, права человека, внутренние правила Reddit и пользовательское соглашение. Модераторы CMV также отметили, что, если такие организации, как OpenAI, способны внедрять более этичные практики в исследования, то университетская команда не может оправдываться тем, что подобных экспериментов раньше никто не проводил.

 

Целью эксперимента было сравнить эффективность трёх типов аргументации: стандартной, стилизованной под риторику CMV и персонализированной, разработанной на основе анализа публичной информации о пользователях. Однако отсутствие прозрачности и согласия со стороны участников ставит под сомнение как этическую, так и научную ценность результатов.

 
 

 
Ванько Ольга Опубликовано в Технологии   Теги Новости
Читайте также
Российские физики придумали способ экстренного уничтожения микросхем памяти Российские физики придумали способ экстренного уничтожения микросхем памяти Учеными из Всероссийского федерального ядерного центра "Всероссийский научно-исследовательский институт экспериментальной физики" придумано устройство экстренного уничтожения микросхем памяти. Детальное описание новинки размещено на сайте Федеральной службы по интеллектуальной собственности (Роспатента). Целью…
ИИ помог разработать лекарство нового поколения против устойчивого рака простаты ИИ помог разработать лекарство нового поколения против устойчивого рака простаты Китайскими учеными представлен инновационный препарат HEAL-116, предназначенный для терапии гормонорезистентного рака простаты. Он создан при помощи искусственного интеллекта, действует через блокировку ключевого фермента, ответственного за развитие устойчивости к лечению, сообщает…
NCR: ИИ научился предсказывать внезапную гибель от остановки сердца NCR: ИИ научился предсказывать внезапную гибель от остановки сердца Сотрудникам Университета Джонса Хопкинса удалось разработать искусственный интеллект, способный прогнозирует риск внезапного фатального сердечного приступа у пациентов с гипертрофической кардиомиопатией с точностью до 89%. Гипертрофическая кардиомиопатия – это наследственная патология…
Интернет и СМИ
Главное за сутки
МО: за ночь над регионами России сбили 86 украинских беспилотников МО: за ночь над регионами России сбили 86 украинских беспилотников Силы ПВО за ночь сбили 86 украинских беспилотников над регионами России, сообщили в Минобороны РФ. "В течение прошедшей ночи дежурными средствами ПВО уничтожены и перехвачены 86 украинских беспилотных летательных аппаратов…
Что известно об атаке украинских БПЛА на пляж в Курске Что известно об атаке украинских БПЛА на пляж в Курске Три человека погибли и семь пострадали при атаке беспилотников на городской пляж в Курской области 8 июля. ТАСС собрал основную информацию об инциденте. Что произошло Три человека погибли при атаке…
Мария Захарова назвала антиисторическим фейком публикацию ФРГ с ложным флагом СССР Мария Захарова назвала антиисторическим фейком публикацию ФРГ с ложным флагом СССР Официальный представитель МИД РФ Мария Захарова назвала ужасом и антиисторическим фейком публикацию посольства Германии в Москве в своем Telegram-канале карты послевоенных границ в Европе с искаженным государственным флагом СССР. "Это…
Тема дня
Дания выходит на антироссийскую «передовую» Дания выходит на антироссийскую «передовую»

Первого июля страной – председателем Евросоюза на ближайшие полгода стала Дания. Ее поведение в посл...

Фото
В Эмиратах научились вызывать дожди без вреда природе В Эмиратах научились вызывать дожди без вреда природе

Учёные Объединенных Арабских Эмиратов презентовали новые достижения в области экологически безопасны...

Опрос

Какое время продлится напряженность в отношениях между Россией и Азербайджаном?

 

Анекдот дня

Когда телефон был привязан к стене, люди были свободны...

Еще »

Этот сайт использует файлы «cookie» с целью повышения удобства его использования. Во время посещения сайта вы соглашаетесь с тем, что мы обрабатываем ваши персональные данные с использованием сервиса «Яндекс. Метрика». Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности.

КАК ЗАРАБОТАТЬ НА ИИ ЕСЛИ ТЫ НЕ ПРОГРАММИСТ?
ПРОФЕССИИ, КОТОРЫЕ ВЫМРУТ ЧЕРЕЗ 5 ЛЕТ И ЧТО С ЭТИМ ДЕЛАТЬ?
Интересные материалы
МЫ ВКОНТАКТЕ

Зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций

(Роскомнадзор). Реестровая запись от 07.06.2022 серия ЭЛ № ФС 77 – 83392. При использовании, полном или частичном

цитировании материалов planet-today.ru активная гиперссылка обязательна. Мнения и взгляды авторов не всегда совпадают с

точкой зрения редакции. На информационном ресурсе применяются рекомендательные технологии (информационные технологии

предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей

сети "Интернет", находящихся на территории Российской Федерации)".