APS: Когда самолечение психики лишь усугубляет ситуацию

Фото из открытых источников

Генеративные чат-боты на базе ИИ способны усиливать симптоматику у пациентов со сложными психическими расстройствами. К этому выводу пришли датские специалисты, проведя анализ тысяч медицинских записей пациентов. Работу опубликовали в журнале Asta Psychiatrica Scandinavica (APS).

Анализу подвергли электронные медицинские карты около 54 тысяч пациентов, что лечились в психиатрической службе Центрального региона Дании с сентября 2022 по июнь 2025 года. За этот период врачами внесено свыше 10 миллионов клинических заметок. Исследователи обращали особое внимание на упоминания чат-ботов и ChatGPT, в том числе, на распространенные опечатки.

В результате эксперты выявили 126 пациентов, у которых в медкартах фиксировалось использование ИИ. У 38 из них учёные выявили неблагоприятные последствия. Самой частой проблемой было усиление бредовых идей, их отметили у 11 пациентов. Языковые модели в принципе склонны соглашаться с точкой зрения пользователя, что способствует закреплению ложных убеждений.

У шести пациентов суицидальные мысли обострились либо появились запросы к боту о методах самоповреждения. У пяти произошло ухудшение расстройств пищевого поведения, поскольку они пользовались чат-ботом для навязчивого расчета калорий. Несколько случаев были связаны с усилением состояния при маниакальных синдромах и обсессивно-компульсивном расстройстве.

Были и обратные реакции. 32 пациента общались с чат-ботом, чтобы получать объективную информации о своем состоянии или как форму неформальной поддержки. Еще 20 испытуемым он помогал в организации повседневных задач.

По мнению ученых, исследования в этой области нужно продолжать. И внедрять в ИИ-системы автоматические механизмы распознавания симптомов психоза или суицидальных намерений, чтобы вовремя оказывать помощь. К тому же, они порекомендовали специалистам по психическому здоровью активнее обсуждать с пациентами их цифровые привычки и риски.