Разработчики научили роботов не трогать чужое

Инженеры из США создали систему, которая обучает ИИ понятию собственности и позволяет роботам не присваивать чужое имущество. Препринт соответствующей публикации доступен на сайте arXiv.org

Речь идет о довольно комплексной системе, которая состоит из четырех базовых алгоритмов. Каждый из них отвечает за определенную часть задачи — один алгоритм, например, собирает данные о владельце предмета, а второй перебирает действия, которые можно применить к предмету.

"Для того, чтобы соблюдать социальные нормы, жизненно важно понимать, что такое обладание — в рамках коммуникации между людьми это правило обычно соблюдается. То есть, в повседневной жизни вы не пытаетесь распоряжаться чужими предметами без разрешения. И это, кстати говоря, не только социальная, но и правовая и этическая норма, то есть, ее несоблюдение может повлечь очень серьезные последствия", — рассказывает Брайан Сказеллати, автор проекта.

Ученые под руководством Сказеллати решили научить понятию собственности искусственный интеллект, который используется для управления роботами. Получилось, судя по результатам тестов, весьма успешно — роботы усвоили, что не следует брать чужое.