Ученые: Искусственный интеллект не спасет от грубости в Сети

Применяемые для поиска и фильтрации запрещенного контента системы, основанные на приближенных к искусственному интеллекту алгоритмах, не способны бороться с сетевым троллингом. К таким выводам пришли исследователи из Европы, изучившие популярные автоматизированные решения для модерации.

ИИ перестает улавливать смысл текста даже в тех случаях, если в составляющие его слова внести небольшие изменения — например, заменить некоторые буквы на спецсимволы. А если нарушитель сетевого порядка использует более изощренные методы обхода фильтров, то у ИИ не остается вообще никаких шансов.

"ИИ-системы, применяемые для поиска, например, оскорбительных комментариев, вряд ли можно назвать сколько-нибудь эффективными на текущем этапе их развития. В будущем, возможно, ситуация изменится, но пока что такие фильтры обходятся слишком легко", — говорят сотрудники Университета Аалто.

Для того, чтобы сделать ИИ-системы эффективным инструментом обнаружения грубости в Сети, их разработчикам, по словам ученых, нужно концентрироваться на создании архитектуры нового типа, способной игнорировать опечатки и намеренные попытки запутывания.