Разработана система TrustNet Framework для укрепления доверия к ИИ

Фото из открытых источников

ИИ занимает всё больше места в повседневной жизни, наполняя разные её аспекты новым содержанием. Технологии помогают анализировать огромные объёмы данных в разных кластерах экономики, становятся поддержкой пожилым людям в преодолении одиночества, автоматизируют рутинные задачи, повышая продуктивность труда.

Но параллельно возникает и немало рисков: определённая предвзятость алгоритмов, вероятность распространения дезинформации, есть и вопросы безопасности и этики. Совокупность этих факторов делает проблему доверия к ИИ особо актуальной.

Специалисты из Франции, США и ряда других стран провели анализ 34 459 научных статей, что были опубликованы за последние 30 лет. Основное внимание было нацелено на то, как в разных сферах науки раскрывается тема доверия и активно ли в неё вовлечены эксперты и практики. Методика сетевого анализа показала: большинство исследований осуществляется внутри отдельных дисциплин либо между смежными областями, но практически отсутствуют трансдисциплинарные проекты, в которых задействованы представители индустрии, политики и пользователи технологий.

Для разработки системы TrustNet Framework привлекли специалистов из инженерии, психологии, этики, социологии, права и ряда других областей. То есть, задача трансдисциплинарности в проекте была решена. Проводились семинары и обсуждения, позволившие согласовать различные точки зрения и выработать практические рекомендации. Сейчас использование TrustNet Framework уже рассматривают в медицине, автомобильной отрасли и IT-сфере.

Почему это важно Авторы подчеркивают: доверие к ИИ невозможно построить исключительно в лабораториях. Нужно вовлечение разработчиков, законодателей и общества. Такой подход позволит учитывать социальные и этические аспекты, а также сделать системы ИИ более прозрачными и ответственными.