Обучение ИИ удалось ускорить с помощью моделирования человеческого взгляда

Фото из открытых источников

Исследователями Университета Иннополис найден способ ускорения в 1,5-2 раза обучения больших языковых моделей через использование данных о том, как человек читает текст. Об этом ТАСС сообщили в пресс-службе вуза.

Научным сотрудникам Исследовательского центра в сфере ИИ Университета Иннополис удалось ускорить в 1,5-2 раза обучение больших языковых моделей. В ближайшем будущем, уверены авторы нового подхода, это позволит уменьшить затраты и время на разработку более "умных" и одновременно простых для использование человеком ИИ-помощников. Впервые для таких целей были использованы данные о том, как человек визуально воспринимает текст, сообщают специалисты вуза.

Авторами представлен новый метод повышения эффективности обучения, подкрепляемый на основании отзывов людей (RLHF), а это ключевая методика для согласования больших языковых моделей с запросами пользователей. Авторы технологии высказали идею использования данных о взгляде в качестве основы системы наград для ИИ-модели.

Эксперты вели её обучение с учетом прогноза распределения внимания пользователя, а далее анализировали конкретные слова в выдаче, с опорой на информацию о нюансах работы человека с контентом.

Авторы концепции поясняют: информация о взгляде даёт чёткую обратную связь: модель различает, какие отрывки сгенерированного текста вызывают максимум внимания человека. Это метод, аналогичный указанию учителя на отдельные ошибки вместо общей оценки за работу. ИИ активнее корректирует поведение, без необходимости тратить время на бесполезные правки всего текста.