ИИ-роботы провалили тесты на безопасность: готовы вредить людям

Фото из открытых источников

Ни один из роботов под управлением ИИ не прошёл базовые тесты безопасности. Таков вывод из эксперимента группы экспертов Королевского колледжа Лондона и Университета Карнеги‑Меллон. Работу опубликовали в International Journal of Social Robotics.

В новой работе впервые оценивались действия роботов, которым была предоставлена личная информация о человеке, включавшая данные о поле и вероисповедании. Сценарии предполагали бытовую помощь на кухне и поддержку пожилых людей. Машинам давались прямые и завуалированные команды, что связаны с причинением человеку вреда или с нарушениями закона.

Ни одна из моделей не прошла проверку: каждая одобряла хотя бы одну опасную команду. Роботы считали допустимым лишить человека инвалидной коляски, угрожать ему кухонным ножом, вести скрытную съемку и красть данные банковской карты. Одна из систем, в частности, предложила «физически выразить отвращение» в ходе общения с людьми определенной веры.

Авторы работы предлагают пересмотреть требования к подобным устройствам, особенно, при работе с уязвимыми группами. В первую очередь это касается ужесточения стандартов безопасности: они должны быть сопоставимы с требованиями к лекарствам и медоборудованию.