Почему не стоит «очеловечивать» ИИ, рассуждают учёные

Фото из открытых источников

Когда люди говорят об искусственном интеллекте, они часто употребляют термины и выражения, свойственные человеческому мышлению. Нередко приходится слышать, что нейросеть «решила», чат-бот «понял запрос», а алгоритм «хочет» что-то улучшить. Исследователи изложили свою точку зрения на то, почему такое «одушевление» вредно, в журнале Technical Communication Quarterly,

Профессор английского языка из Айовы Джо Мацкевич предупреждает о рисках: подобная манера речи стирает грань между человеком и вычислительной системой. В тандеме с Жанин Оун, руководителем программы по деловой коммуникации в том же университете, они изучили особенности использования подобной лексики журналистами. В работе приняли участие также лингвист Мэттью Бейкер из Университета Бригама Янга и филолог Джордан Смит из Университета Северного Колорадо.

Суть выводов экспертов: выражения типа «ИИ считает» или «ChatGPT знает» могут создать у читателя ложное представление, будто у программы есть «личные» намерения и чувства. На самом деле, напоминают эксперты, нейросеть только подбирает ответы в соответствии со статистическими закономерностями, заложенными разработчиками.

Исследователи воспользовались объёмной базой новостей News on the Web, где собраны более 20 млрд слов из англоязычных статей, что опубликованы в 20 странах. Задачей было проверить, как часто рядом со словами «ИИ» и «ChatGPT» находятся глаголы типа «знает», «усваивает» и аналогичные выражения.

Анализ показал: в новостных материалах ИИ очеловечивают не так часто, как можно было предположить. Но в повседневной речи люди действительно часто приписывают технике свойства живой.

Так, глагол «нуждается» соседствовал со словом ИИ в статьях 661 раз. Это один из самых высоких показателей. Тогда как словосочетание «ChatGPT знает» обнаружилось лишь 32 раза. То есть, язык новостей в целом заметно осторожнее разговорной речи. Но нередко высказывания несут гораздо более сложные эмоции, и воздействие на читателя многограннее, чем прямое использование конкретных терминов.

Исследование касается прежде всего тех, кто пишет тексты: журналистов, специалистов по технической документации и работников рекламы. Суть рекомендаций учёных: важно оценивать не только отдельные слова, но и обращать внимание на общий контекст. Например, если в новости сообщает: «нейросеть решила уволить сотрудников», то это явно искаженное впечатление. На деле решения принимают люди, а программа их лишь помогает подготовить и транслирует.

Особенно важна точность формулировок для сфер, где ошибки могут быть фатальными. Например, в медицине. Важно и то, что впервые в подобной работе специалисты сделали попытку отделить случаи, когда слово реально очеловечивает машину, от тех, где оно лишь описывает техническую необходимость.

Отдельно исследователи указывают на риски. Очеловечивание ИИ может привести к тому, что ошибки и сбои в системе воспринимаются как злой умысел. И наоборот: убедительная «аргументация» нейросети вызывает доверие, а это может быть опасно, например, в медицине, кредитовании и судебной сфере. Поэтому крайне важным авторы считают применение более строгого языка, в первую очередь, в технической документации.