Суббота 14 июня 2025 года

Вы здесь: Главная» Все новости» Технологии» Ошибки по Фрейду: ИИ от Amazon перепутал политиков с преступниками

Ошибки по Фрейду: ИИ от Amazon перепутал политиков с преступниками

Пятница, 27 Июля 2018 10:48

"Умная" система Rekognition, созданная компанией Amazon для распознавания лиц, не выдержала проверку, которую ей устроил Американский союз гражданских свобод.

Активисты "скормили" системе фотографии двадцати пяти тысяч преступников, а затем "натравили" обученный алгоритм на фотографии конгрессменов. Итог оказался забавным — ИИ идентифицировал двадцать восемь политиков в качестве преступников.

Если учесть тот факт, что система Rekognition позиционируется компанией Amazon как инструмент в том числе и для полиции, то цена подобных ошибок ИИ может быть очень высокой.

Члены Американского союза гражданских свобод, ответственные за проведение эксперимента, говорят, что использовали вполне стандартные настройки для ИИ — порог уверенности системы, в частности, был установлен на уровне восьмидесяти процентов.

"Они просто неправильно откалибровали алгоритм. Уверенность в восемьдесят процентов — это вполне нормальный показатель, если вы хотите распознавать, скажем, хот-доги на фотографиях с едой, но если речь идет об идентификации людей, то показатель должен быть выше — как минимум девяносто пять процентов", — прокомментировали инцидент представители Amazon.

Колесников Андрей Опубликовано в Технологии Теги Искусственный интеллект

Читайте также

Математики проиграли битву ИИ — он быстрее, умнее и увереннее В середине мая в калифорнийском Беркли состоялось закрытое мероприятие, объединившее тридцать признанных математиков со всего мира. Целью этой встречи было проверить интеллектуальные способности чат-бота o4-mini — новой языковой модели от…

ИИ помог ученым в определении авторов Ветхого Завета С использованием искусственного интеллекта исследователи смогли по-новому взглянуть на происхождение Библии, в частности Ветхого Завета. Во второй части исследования, представленном в издании PLOS One, ученые применили алгоритмы машинного обучения для…

Nature: Создан новый метод борьбы с наиболее сложными тромбами Американскими учеными из Стэнфордского университета разработано устройство «милли-спиннер», которое способно значительно улучшить терапию инсультов и прочих патологий, связанных с образованием тромбов. Итоги исследования опубликованы в журнале Nature. До появления прибора…

Интернет и СМИ

Новости СМИ2

Главное за сутки

МО: за ночь над регионами России силы ПВО сбили 66 украинских БПЛА Средства ПВО уничтожили 66 украинских беспилотников над регионами России за ночь. Об этом сообщили в Минобороны РФ. "В период с 20:00 мск 13 июня до 07:00 мск 14 июня дежурными…

В ЦАХАЛ заявили о масштабных разрушениях в Тель-Авиве после ответа Ирана Число пострадавших в результате ракетных ударов Ирана по Израилю оказалось небольшим, несмотря на то, что был нанесен масштабный материальный ущерб. Об этом сообщил командующий военным округом Тель-Авив. "Благодаря тому, что…

Что известно об ответном ударе Ирана по Израилю Иран вечером в пятницу, 13 июня, запустил ракеты по территории Израиля в ответ на начатую накануне израильскую операцию против иранской ядерной программы. Иранская операция получила название "Правдивое обещание - 3".…

Тема дня

Немецкие сказки про «зеленых человечков» в Эстонии служат весьма низким целям

Глава внешней разведки Германии Бруго Каль перед своей предполагаемой отставкой заявил о наличии тве...

Фото

Океанические течения приносят выбросы ртути в Арктику

В журнале Nature Communications опубликованы результаты нового исследования, посвященного причинам р...

Опрос

Нужно ли разрешить западным брендам возвратиться в Россию?

Показать результаты »

Анекдот дня

И помни, Вселенная все видит. Живи так, чтобы было интересно смотреть.

Еще »

Этот сайт использует файлы «cookie» с целью повышения удобства его использования. Во время посещения сайта вы соглашаетесь с тем, что мы обрабатываем ваши персональные данные с использованием сервиса «Яндекс. Метрика». Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности.