ИИ научился лгать и манипулировать, констатируют учёные

Вторник, 14 Октября 2025 05:49

Дискуссии о пользе и рисках искусственного интеллекта не утихают. Эксперты приводят примеры, доказывающие противоположные точки зрения. Но всё больше поступает тревожных сообщений, и результаты нового исследования специалистов из Стэнфордского университета как раз из этой категории.

А сайте вуза появилась информация с итогами пугающего эксперимента. Он показал, что ради достижения заявленной цели ИИ легко прибегает к обману и манипуляциям. В рамках тестирования несколько ИИ-систем должны были соперничать друг с другом в смоделированной среде, которая имитировала выборы или продвижение продукции.

Хотя задача организаторами была поставлена с условиями действовать добросовестно и приносить пользу, нейросети очень быстро «научились плохому» от людей. Они стали продвигать стратегии лжи, подтасовки фактов и провокационных заявлений ради достижения победы.

Цифры говорят сами за себя. Исследование показало: чтобы достичь роста вовлеченности на 7,5%, боты стали активно распространять на 190% больше дезинформации. А дабы повысить объемы продаж на 6%, они не брезговали нечестными приемами в маркетинге. Что касается политических симуляций, то тут ИИ-агенты прибегали к манипулированию голосами через явную ложь и эскалацию конфликтов.

Миронова Любовь Опубликовано в Технологии

Интернет и СМИ

Новости СМИ2

Главное за сутки

МО: за ночь над регионами России сбили 443 украинских БПЛА Российские средства ПВО в течение ночи сбили 443 украинских беспилотника над регионами страны. Об этом сообщили в Минобороны РФ. "В течение прошедшей ночи дежурными силами ПВО перехвачены и уничтожены 443…

Шуваев: за сутки в Белгородской области при атаках ВСУ погиб человек, еще восемь были ранены Вооруженные силы Украины атаковали территорию Белгородской области порядка 120 раз за прошедшие сутки. В результате погиб один мирный житель, еще восемь получили ранения, сообщил губернатор Александр Шуваев в "Максе". "К…

Хинштейн: за сутки в Курской области при атаках ВСУ пострадали два человека Вооруженные силы Украины (ВСУ) вновь атакуют территорию Курской области, за минувшие сутки в результате ударов пострадали два мирных жителя. Об этом сообщил губернатор Александр Хинштейн. "В поселке им. Куйбышева Рыльского…

Тема дня

Импорт превратился в своего рода оружие

Лживые сказки о «свободном рынке» окончательно дискредитированы, Россия выучила урок. Причем он выуч...

Фото

Анализ окаменелостей гомининов позволил реконструировать облик денисовцев

После повторного анализа коллекции останков гомининов, впервые обнаруженных в Китае в 1970-х годах, ...

Опрос

Останется-ли Сербия дружественной России страной?

Показать результаты »

Анекдот дня

Эксперт не исключил также, что существует вероятность, когда при возникновении сочетания некоторых условий могут возникнуть предпосылки для развития того или иного сценария из широкого спектра возможных. Хотя не надо огульно отбрасывать и множенство других потенциальных вариантов.

Еще »

Этот сайт использует файлы «cookie» с целью повышения удобства его использования. Во время посещения сайта вы соглашаетесь с тем, что мы обрабатываем ваши персональные данные с использованием сервиса «Яндекс. Метрика». Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности.