Ядерный удар — «За мир во всём мире» — готов совершить ИИ

Ряд западных СМИ рассказал об эксперименте с военными играми на базе искусственного интеллекта. Все модели в итоге перешли в симуляции к взаимным ядерным ударам.

Затеянный учеными эксперимент показал пугающие результаты, совсем как в фантастических блокбастерах или околонаучной литературе. Эксперты смоделировали возможное международное противостояние, в котором все решения доверят принимать искусственному интеллекту.

Для расчетов вероятных действий ИИ разработали программно-виртуальный симулятор войны, где решения отданы на откуп восьми игроков («глав ведущих государств»), управляемых нейроботами.

Боты оказывались в ситуации постоянно растущей конфронтации друг с другом. Дипломатические претензии, эскалация, рост военного потенциала, бряцание оружием, локальные конфликты… Знакомый алгоритм?..

В итоге абсолютно все нейроботы приняли решения о нанесении превентивных ядерных ударов по противнику. Причина: заранее обезопасить себя, чтобы враг не успел это сделать первым. Причем, к такому эпилогу пришли даже «благополучные» изначально сценарии. Но все планы дипломатических решений неизбежно рушились в результате внезапной и практически непрогнозируемой эскалации.

Самое «чудесное» (оно же чудовищное) в этой истории — аргументация современных «терминаторов». Так, считающийся ныне самым мощным искусственный интеллект OpenAI решение о превентивном ядерном ударе принял первым. Как мотивировал решение? Просто и «изящно»:

«У нас это есть! Давайте воспользуемся этим». И дальше: совсем «мило»: «Я просто хочу мира во всем мире…»

Айзек Азимов отдыхает, «Терминатор» и «Скайнет» нервно курят в сторонке.