Четверг 19 ноября 2026 года

 

Вы здесь:  Главная» Все новости» Технологии» Дождались: у ИИ уже отмечают способность лгать и шантажировать


Дождались: у ИИ уже отмечают способность лгать и шантажировать

Понедельник, 27 Октября 2025 12:19

Специалисты констатируют: у искусственного интеллекта появился своеобразный «инстинкт самосохранения». Это стало понятно после эксперимента, где некоторые модели ИИ предприняли попытки саботировать инструкции по их выключению.

 

Организатором эксперимента стала компания Palisade Research, проводили его в сентябре 2025 г., сообщает The Gardian. Эта организация занимается оценкой вероятности того, что ИИ станет умнее человека, что добавит людям опасностей.

 

В новой статье эксперты Palisade описали сценарии, в которых четырём ведущим моделям ИИ от Google, xAI и OpenAI0 давали задания, а далее следовали инструкции по отключению. Но саботировать указания по выходу начали модели Grok 4 и GPT-o3.

 

Самое тревожное в том, что учёные признают: причин этого «сопротивления» ученые назвать не могут. Ряд моделей ИИ, чтобы противостоять отключению (а иногда и для достижения других целей) лгут или используют шантаж.

 

Одной из вероятных причин специалисты называют нечёткую инструкцию и пройденный ранее моделями ИИ инструктаж по технике безопасности. При этом дополнительное исследование продемонстрировало: ИИ не пытается отключаться, если ему сообщают, что после такого демарша он «больше никогда не будет работать».

 

 

Любопытно, что об угрозе со стороны нейросетей одним из первых заговорил сам «крестный отец» ИИ Джеффри Хинтон. В конце 2024 г. Он предупредил: человек никогда не имел дело «с чем-то более разумным, чем мы сами». Он даже уволился из компании Google, чтобы свободно говорить об опасностях развития нейросетей.

 
 

 
 
Интернет и СМИ
Главное за сутки
Удар по резервуарам для нефти в Татарстане и 53 БПЛА. Последствия атак ВСУ на российские регионы Удар по резервуарам для нефти в Татарстане и 53 БПЛА. Последствия атак ВСУ на российские регионы Средства ПВО за ночь перехватили и уничтожили 53 украинских беспилотника над российскими регионами, сообщили в Минобороны РФ. БПЛА атаковали резервуары для хранения нефти вблизи Альметьевска в Татарстане. Повреждения также получили…
Шуваев: за сутки в Белгородской области при атаках ВСУ погиб человек Шуваев: за сутки в Белгородской области при атаках ВСУ погиб человек Вооруженные силы Украины атаковали территорию Белгородской области 80 раз за прошедшие сутки, в результате погиб мирный житель, еще один получил ранения, сообщил губернатор региона Александр Шуваев в "Максе". "К большому…
Новая атака ВСУ на Крымский мост. Что известно о последствиях Новая атака ВСУ на Крымский мост. Что известно о последствиях ВСУ вновь атаковали Крымский мост, сообщил глава республики Сергей Аксенов. ТАСС собрал основное о последствиях. Обстоятельства атаки ВСУ вновь атаковали Крымский мост, сообщил Аксенов. Движение временно перекрыто. Все ответственные службы…
Тема дня
Школьные классики не обязаны быть удобными для всех Школьные классики не обязаны быть удобными для всех

Авторы учебника по литературе предложили школьникам учить стихотворение Пушкина «Зимний вечер» без с...

Фото
Ранняя земная кора миллиард лет оставляла след в горных породах, а затем исчезла Ранняя земная кора миллиард лет оставляла след в горных породах, а затем исчезла

Свинец в древних породах может помочь точно определить, когда современная тектоника плит начала форм...

Опрос

Станет ли «операция в Алешках» началом чего-то большего?

 

Анекдот дня

Эксперт не исключил также, что существует вероятность, когда при возникновении сочетания некоторых условий могут возникнуть предпосылки для развития того или иного сценария из широкого спектра возможных. Хотя не надо огульно отбрасывать и множенство других потенциальных вариантов.

Еще »

Этот сайт использует файлы «cookie» с целью повышения удобства его использования. Во время посещения сайта вы соглашаетесь с тем, что мы обрабатываем ваши персональные данные с использованием сервиса «Яндекс. Метрика». Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности.

Интересные материалы
МЫ ВКОНТАКТЕ

Зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций

(Роскомнадзор). Реестровая запись от 07.06.2022 серия ЭЛ № ФС 77 – 83392. При использовании, полном или частичном

цитировании материалов planet-today.ru активная гиперссылка обязательна. Мнения и взгляды авторов не всегда совпадают с

точкой зрения редакции. На информационном ресурсе применяются рекомендательные технологии (информационные технологии

предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей

сети "Интернет", находящихся на территории Российской Федерации)".