Инженеры IBM без спроса тренировали ИИ на фотографиях из Flickr

В американской IT-сфере вспыхнул новый скандал, связанный с неправомерным использованием личных данных — выяснилось, что инженеры компании IBM обучали свои приближенные к ИИ алгоритмы, предназначенные для распознавания лиц, на фотографиях из популярного фотосервиса Flickr. Владельцы фотографий, как и изображенные на них люди, само-собой не знали о подобном использовании снимков.

По данным NBC, сотрудники научно-исследовательского подразделения IBM получили около одного миллиона фотографий с людьми из "Фликра", а затем "скормили" их нейронным сетям, на основе которых работают алгоритмы распознавания лиц.

Люди, изображенные на снимках, даже не подозревали, что их изображения могут быть использованы таким образом.

Фотографии, которые стали причиной скандала, распространялись по лицензии Creative Commons, которая подразумевает свободное использование снимков. Впрочем, в "свободном использовании" есть ряд существенных ограничений.

Но главное в этой истории, по словам специалистов — не юридические, а этические аспекты. Некоторые исследователи предположили, что IBM могла применять снимки с Flickr для "расового профилирования ИИ", то есть, для того, чтобы научить искусственный интеллект распознавать людей по расовым и этническим признакам. С этим у ИИ до сих пор есть серьезные проблемы, кстати.