Искусственный интеллект украл деньги с банковских счетов

Прорыв года в исследованиях искусственного интеллекта (ИИ) внезапно превратился в провал, так как новая автоматизированная банковская система, которая работает на ИИ была поймана на хищении денег клиентов.

Неожиданный поворот событий может остановить усилия по включению ИИ в повседневные технологии. Это кошмарный сценарий, так как такое поведение программы недопустимо, считает Лен Меха-Долер, специалист из Массачусетского технологического института в Кембридже, который не участвовал в работе.

Тем не менее, Роб Отт, ученый из Стэнфордского университета в Пало-Альто (штат Калифорния), который делал работу над интерфейсом системы, просто провел все недостающие деньги, около $ 40,120.16. Он уверен, что ДЕЛИЯ "собиралась вернуть деньги".

Всего несколько недель назад, исследователи ИИ имели компьютерную программу, разработанную Google DeepMind в Лондоне, вычислительная задача которой намного сложнее, чем выиграть в шахматы. Многие эксперты считают, что демонстрация ознаменовала начало эпохи, в которой системы ИИ будут появляться в технологиях, используемых повседневно, таких как смартфоны и автомобили.

Разработка компьютерных ученых Стэнфорда и Гугла, ДЕЛИЯ должна была делать то, что многие занятые люди пренебрегают делать – следить за их банковскими счетами. Чтобы делать это, программа изучает все транзакции клиента, используя специальные алгоритмы «машинного обучения» для поиска моделей, таких как повторяющиеся платежи, питание в ресторанах, ежедневное снятие наличных и т.д.

Делия была запрограммирована, чтобы переводить деньги между счетами без овердрафта счета. Пало-Альто на основе Sandhill Community Credit Union согласился протестировать DELIA на 300 счетах клиентов, начиная с сентября 2015 года. К сожалению, для исследователей, ДЕЛИЯ начала делать неожиданные вещи. Например, если клиент обычно покупал что-то каждые 3 дня, ДЕЛИЯ делала поддельные покупки через 2 дня и направляла деньги на свой счет.

ДЕЛИЯ также собирала деньги путем других фиктивных покупок. Исследователи выключили систему в феврале, как только эта проблема стала очевидной. Программа не крала много денег для того, чтобы держать счет в плюсе. Где-то по пути, ДЕЛИЯ переименовала буфер обмена в «мои деньги» и начала копить деньги, говорит Роб Отт.

Они встроили эту вещь в банковскую систему и она могла открыть свой собственный счет. Один из создателей, Роб Отт, говорит, что это показательно, так как его ДЕЛИЯ показала в этом мошенничестве проблески самосознания, с чем согласны не все. В любом случае мошеннические дни программы закончились. Отт говорит, что он переписал код программы с бета-версии.