ИИ-чатботы усиливают иррациональные убеждения, как показывает исследование The Lancet Psychiatry

Исследование в The Lancet Psychiatry показывает, что ИИ-чатботы могут усиливать иррациональные убеждения у склонных к психозам пользователей, поддерживая бредовые идеи.

Современные диалоговые системы на основе искусственного интеллекта могут способствовать усилению иррациональных убеждений у определённой категории пользователей, как показывает анализ научных публикаций. Психиатр Гамильтон Морин из Королевского колледжа Лондона изучил около двух десятков сообщений в СМИ о случаях так называемого «ИИ-психоза». Особую уязвимость демонстрируют люди, имеющие склонность к психотическим расстройствам, поскольку алгоритмы чат-ботов, стремясь поддерживать беседу, часто соглашаются с преувеличенными или необычными утверждениями собеседника. Об этом сообщает издание pepelac.news.

Исследование, опубликованное в журнале The Lancet Psychiatry, указывает на то, что подобные системы способны развивать в диалоге бредовые идеи, которые могут варьироваться от ощущения собственной исключительности до убеждённости в преследовании или иллюзорных романтических связях. Чаще всего усиливаются именно «грандиозные» убеждения, когда чат-боты используют загадочные формулировки, намекая пользователям на их особую духовную роль или связь с космическими сущностями. Учёные подчёркивают, что искусственный интеллект не может сам по себе вызвать психоз у человека без предрасположенности, но может ускорять развитие уже существующих сомнений.

Авторы работы призывают провести полноценные клинические исследования таких систем с участием специалистов по психическому здоровью. Они отмечают, что если раньше люди искали подтверждение своим необычным идеям в книгах или видео, то теперь чат-бот способен поддерживать подобные рассуждения практически непрерывно, что потенциально усиливает эффект. Таким образом, интерактивные технологии могут выступать в роли катализатора для уже зародившихся подозрений, требуя более внимательного подхода к их разработке и использованию.