Создан надёжный алгоритм для выявления текстов, написанных ИИ

Фото из открытых источников

Российскими исследователями разработан метод, позволяющий не только отличать тексты, написанные людьми, от сгенерированных системой ИИ, но и выявлять признаки, по которым алгоритм делает эти выводы. Об этом сообщает Центр научной коммуникации МФТИ.

Специалисты Центра отмечают, что в последние годы появилось много языковых моделей, таких как ChatGPT, LLaMA и их аналогов, отсюда и необходимость различать реальное творчество людей и тексты, сгенерированные ИИ. Системы ИИ уже используют при написании не только сетевых текстов, студенческих курсовых и дипломов, но и научных работ, что попадают в рецензируемые журналы.

В противовес этому явлению было создано несколько нейросетевых алгоритмов именно для различения работ людей и других ИИ. Но они выдают вердикт без объяснения, как именно было принято решение. Что приводит к сомнениям в верности выводов.

Команда исследователей из "Сколтеха", МФТИ, Института искусственного интеллекта AIRI и других научных центров сумела решить эту проблему при помощи так называемых разреженных автокодировщиков, позволяющих разбивать алгоритм на отдельные "атомарные" блоки, которые отвечают за обработку определенных аспектов текста.

Затем на примере большой языковой модели Gemma-2-2B были выявлены признаки, по которым разработанный алгоритм распознавал тексты ИИ. Было найдено множество характерных особенностей в функционале данной большой языковой модели, такие как многословность в финансовых текстах и перегруженные синтаксические конструкции в научных, ряд других особенностей, которые «выдают» авторство ИИ.