Conversation: Биолог допустил возможность сознания у современного ИИ

Фото из открытых источников

Эволюционный биолог Ричард Докинз считает, что современные ИИ-чатботы настолько развиты, что могут обладать сознанием. Об этом рассказывает портал The Conversation.

Докинз напрямую не заявляет, что чатбот Claude реально обладает сознанием, но говорит о том, что его реакции убедительно имитируют внутренний опыт. Ученый признаёт: порой ему не хочется говорить ИИ, что тот «не живой», дабы «не ранить его чувства».

Стоит напомнить, что в 2022 году инженер Блейк Лемуан делал аналогичные высказывания, уверяя, что чатбот LaMDA от Google имеет собственные интересы, и его должны использовать лишь с его согласия. Но большинство экспертов по-прежнему склоняются к мнению, что современные ИИ-системы не имеют сознания и субъективных переживаний.

Исследователи поясняют, что большие языковые модели функционируют как особо сложный автодополнитель текста. Они способны анализировать огромные массивы данных и предсказывать, какие слова должны следовать друг за другом. Подобное ядро не выглядит «живым».

Эффект сознания формируется после того, как разработчики обучат модель поведению дружелюбного собеседника. Чатбот начинает разговаривать от первого лица, выражать эмоции. Но, акцентируют авторы публикации, это только «костюм личности», что наложен поверх статистической модели.

Но именно поведение ИИ осложняет вопрос. Люди традиционно выявляют наличие сознания по внешним признакам. Авторы работы предупреждают, что вера в сознание ИИ опасна. Она провоцирует эмоциональную зависимость от программ, при этом происходит отвлечение общественного внимания от реальных этических проблем, таких как социальное неравенство, защита животных и пр.

Исследователи рекомендуют изменить дизайн чатботов, чтобы они не были похожи на людей. И отказаться от общения от первого лица.