Бизнесмены и ученые призвали ввести мораторий на разработку «сильного ИИ»

Под открытым обращением поставили подписи свыше тысячи человек. Известные ученые и предприниматели настаивают: нужно остановить разработку новых моделей ИИ. Хотя бы более продвинутых, чем GPT-4, как минимум, на полгода, чтобы использовать это время на подготовку программ регулирования.

В числе подписантов документа — Илон Маск, сооснователи ряда крупных компаний, профессора американских и европейских университетов, актеры, инженеры и IT-специалисты, в том числе, разработчики ИИ, в частности, главы Stability AI и Conjecture.

Главный аналитик Центра искусственного интеллекта МФТИ Игорь Пивоваров прокомментировал ситуацию в детальном интервью для издания BFM. Он пояснил, что авторы письма обращаются к властям ведущих стран мира с рекомендацией создать особые ведомства для регуляции и контроля за разработками в сфере ИИ.

Большие модели искусственного интеллекта, по мысли Пивоварова, становятся все более непредсказуемыми. Мы все меньше понимаем, какие процессы самозапускаются внутри.

Авторы послания миру правы в том, что ИИ, при должной системе контроля, принесет человечеству огромную пользу, послужит ускорению прогресса. В ином случае, при утрате такой регуляции, появляются огромные риски. Чтобы их избежать, необходимо широкое международное сотрудничество в данной сфере.