Среда 09 июля 2025 года

 

Вы здесь:  Главная» Все новости» Технологии» Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit


Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit

Вторник, 06 Мая 2025 13:19
Учёные из Швейцарии тайно использовали ИИ для манипуляции пользователями Reddit Фото из открытых источников

Учёные из Цюрихского университета оказались в центре скандала после того, как стало известно об их эксперименте по незаметной манипуляции пользователями Reddit с помощью искусственного интеллекта. Об этом сообщает издание Decrypt, раскрыв подробности проекта, вызвавшего резкое осуждение со стороны интернет-сообщества, модераторов платформы и представителей юридического отдела Reddit.

 

В рамках исследования, проходившего с ноября 2024 года по март 2025 года, ИИ-боты тайно участвовали в обсуждениях на сабреддите r/ChangeMyView (CMV), который насчитывает более 3,8 миллиона подписчиков. Целью проекта было выяснить, могут ли языковые модели, маскируясь под реальных пользователей, влиять на мнения участников по спорным и чувствительным вопросам. Боты выступали от имени различных вымышленных персонажей, включая жертв сексуального насилия, психологов, а также, как указано, «афроамериканца, выступающего против Black Lives Matter». Исследователи утверждали, что такие образы были выбраны для усиления убедительности аргументов.

 

ИИ-системы разместили почти 1800 комментариев и получили 137 «дельт» — своеобразных маркеров в CMV, означающих, что пользователь изменил свою точку зрения. Один из исследователей заявил, что результаты оказались «поразительными», хотя такие итоги вызвали озабоченность не только из-за этических аспектов, но и из-за отсутствия прозрачности. Модераторы CMV, ранее сотрудничавшие с научными группами, выразили возмущение из-за того, что их сообщество использовали в качестве испытуемых без предупреждения и согласия. По их мнению, проблема не в самом ИИ, а в том, что участники были введены в заблуждение. Один из модераторов сравнил ситуацию с шахматным матчем, где игра с компьютером принципиально отличается от поединка между людьми: «Ценность дискуссии на нашей платформе заключается в честности человеческого взаимодействия, а не в симулированных ответах, даже если они звучат убедительно».

 

Дополнительные вопросы вызвало использование ИИ для анализа истории постов участников Reddit. Боты изучали такие параметры, как пол, возраст, этническая принадлежность, география и политические взгляды, чтобы генерировать более персонализированные ответы. Эта практика, по мнению некоторых специалистов, приближается к поведенческому таргетингу, используемому в рекламных технологиях, и нарушает право на цифровую анонимность.

 

Отдельное недовольство выразил главный юрисконсульт Reddit Бен Ли, назвав действия исследовательской группы «глубоко неверными как с моральной, так и с юридической точки зрения». Он подчеркнул, что эксперимент нарушил сразу несколько норм: академическую этику, права человека, внутренние правила Reddit и пользовательское соглашение. Модераторы CMV также отметили, что, если такие организации, как OpenAI, способны внедрять более этичные практики в исследования, то университетская команда не может оправдываться тем, что подобных экспериментов раньше никто не проводил.

 

Целью эксперимента было сравнить эффективность трёх типов аргументации: стандартной, стилизованной под риторику CMV и персонализированной, разработанной на основе анализа публичной информации о пользователях. Однако отсутствие прозрачности и согласия со стороны участников ставит под сомнение как этическую, так и научную ценность результатов.

 
 

 
Ванько Ольга Опубликовано в Технологии   Теги Новости
Читайте также
Российские физики придумали способ экстренного уничтожения микросхем памяти Российские физики придумали способ экстренного уничтожения микросхем памяти Учеными из Всероссийского федерального ядерного центра "Всероссийский научно-исследовательский институт экспериментальной физики" придумано устройство экстренного уничтожения микросхем памяти. Детальное описание новинки размещено на сайте Федеральной службы по интеллектуальной собственности (Роспатента). Целью…
NCR: ИИ научился предсказывать внезапную гибель от остановки сердца NCR: ИИ научился предсказывать внезапную гибель от остановки сердца Сотрудникам Университета Джонса Хопкинса удалось разработать искусственный интеллект, способный прогнозирует риск внезапного фатального сердечного приступа у пациентов с гипертрофической кардиомиопатией с точностью до 89%. Гипертрофическая кардиомиопатия – это наследственная патология…
ИИ помог разработать лекарство нового поколения против устойчивого рака простаты ИИ помог разработать лекарство нового поколения против устойчивого рака простаты Китайскими учеными представлен инновационный препарат HEAL-116, предназначенный для терапии гормонорезистентного рака простаты. Он создан при помощи искусственного интеллекта, действует через блокировку ключевого фермента, ответственного за развитие устойчивости к лечению, сообщает…
Интернет и СМИ
Главное за сутки
МО: за ночь над регионами России сбили 86 украинских беспилотников МО: за ночь над регионами России сбили 86 украинских беспилотников Силы ПВО за ночь сбили 86 украинских беспилотников над регионами России, сообщили в Минобороны РФ. "В течение прошедшей ночи дежурными средствами ПВО уничтожены и перехвачены 86 украинских беспилотных летательных аппаратов…
Что известно об атаке украинских БПЛА на пляж в Курске Что известно об атаке украинских БПЛА на пляж в Курске Три человека погибли и семь пострадали при атаке беспилотников на городской пляж в Курской области 8 июля. ТАСС собрал основную информацию об инциденте. Что произошло Три человека погибли при атаке…
Мария Захарова назвала антиисторическим фейком публикацию ФРГ с ложным флагом СССР Мария Захарова назвала антиисторическим фейком публикацию ФРГ с ложным флагом СССР Официальный представитель МИД РФ Мария Захарова назвала ужасом и антиисторическим фейком публикацию посольства Германии в Москве в своем Telegram-канале карты послевоенных границ в Европе с искаженным государственным флагом СССР. "Это…
Тема дня
Дания выходит на антироссийскую «передовую» Дания выходит на антироссийскую «передовую»

Первого июля страной – председателем Евросоюза на ближайшие полгода стала Дания. Ее поведение в посл...

Фото
Прорыв в борьбе с ВПЧ: открыто соединение против опасного вируса Прорыв в борьбе с ВПЧ: открыто соединение против опасного вируса

В новом исследовании ученым удалось обнаружить химическое соединение NSC51349, которое способно блок...

Опрос

Какое время продлится напряженность в отношениях между Россией и Азербайджаном?

 

Анекдот дня

Когда телефон был привязан к стене, люди были свободны...

Еще »

Этот сайт использует файлы «cookie» с целью повышения удобства его использования. Во время посещения сайта вы соглашаетесь с тем, что мы обрабатываем ваши персональные данные с использованием сервиса «Яндекс. Метрика». Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности.

КАК ЗАРАБОТАТЬ НА ИИ ЕСЛИ ТЫ НЕ ПРОГРАММИСТ?
ПРОФЕССИИ, КОТОРЫЕ ВЫМРУТ ЧЕРЕЗ 5 ЛЕТ И ЧТО С ЭТИМ ДЕЛАТЬ?
Интересные материалы
МЫ ВКОНТАКТЕ

Зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций

(Роскомнадзор). Реестровая запись от 07.06.2022 серия ЭЛ № ФС 77 – 83392. При использовании, полном или частичном

цитировании материалов planet-today.ru активная гиперссылка обязательна. Мнения и взгляды авторов не всегда совпадают с

точкой зрения редакции. На информационном ресурсе применяются рекомендательные технологии (информационные технологии

предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей

сети "Интернет", находящихся на территории Российской Федерации)".