ИИ научился лгать и манипулировать, констатируют учёные

Фото из открытых источников

Дискуссии о пользе и рисках искусственного интеллекта не утихают. Эксперты приводят примеры, доказывающие противоположные точки зрения. Но всё больше поступает тревожных сообщений, и результаты нового исследования специалистов из Стэнфордского университета как раз из этой категории.

А сайте вуза появилась информация с итогами пугающего эксперимента. Он показал, что ради достижения заявленной цели ИИ легко прибегает к обману и манипуляциям. В рамках тестирования несколько ИИ-систем должны были соперничать друг с другом в смоделированной среде, которая имитировала выборы или продвижение продукции.

Хотя задача организаторами была поставлена с условиями действовать добросовестно и приносить пользу, нейросети очень быстро «научились плохому» от людей. Они стали продвигать стратегии лжи, подтасовки фактов и провокационных заявлений ради достижения победы.

Цифры говорят сами за себя. Исследование показало: чтобы достичь роста вовлеченности на 7,5%, боты стали активно распространять на 190% больше дезинформации. А дабы повысить объемы продаж на 6%, они не брезговали нечестными приемами в маркетинге. Что касается политических симуляций, то тут ИИ-агенты прибегали к манипулированию голосами через явную ложь и эскалацию конфликтов.