Основанные на нейронных сетях системы машинного обучения работают весьма эффективно во многих сценариях использования, однако даже хорошо настроенная и результативная нейросеть во многом похожа на "черный ящик", методики которого скрыты от людей. Ученые из Массачусетского технологического института (США) решили, что пришло время сделать "черные ящики" нейросетей прозрачными.
"С использованием нейросетей есть как минимум одна фундаментальная сложность — если мы не знаем, как именно алгоритмы принимают решения, то и не можем считать такие решения действительно верными. Результатам работы нейросетей в итоге нельзя доверять на все сто процентов", — пишет издание MIT News.
Для того, чтобы сделать работу нейросетей прозрачной, ученые из MIT, а также их коллеги из Чжэцзянского университета и Гонконгского университета науки и технологии (КНР), создали инструмент под названием ATMSeer, при помощи которого можно анализировать и контролировать методы, используемые автоматизированными системами машинного обучения.
ATMSeer анализирует нейросети с учетом набора входных данных и поставленной перед алгоритмом задачи. Итогом работы инструмента становятся данные о разных параметрах модели машинного обучения.
Первые опыты показали, что люди, не знакомые с тонкостями машинного обучения, почувствовали себя увереннее благодаря инструменту ATMSeer, который делает работу нейросети гораздо более прозрачной.
Премьер-министр Великобритании Риши Сунак не оправдал надежд населения и побил все прежние рекорды н...
Польские исследователи обнаружили останки трематозавров возрастом 250 миллионов лет, амфибий раннего...
Свидетельство о регистрации СМИ Эл № ФС77-83392 от 07.06.2022, выдано Федеральной службой по надзору в сфере связи,
информационных технологий и массовых коммуникаций. При использовании, полном или частичном цитировании материалов
planet-today.ru активная гиперссылка обязательна. Мнения и взгляды авторов не всегда совпадают с точкой зрения редакции.
На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления
информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет",
находящихся на территории Российской Федерации)".