Может ли общение с ИИ способствовать формированию бредовых убеждений?

Статья посвящена появившимся сообщениям о пациентах, у которых в контексте чрезмерного общения с генеративными чат-ботами развивались или усиливались бредовые идеи. Автор обращает внимание на два свойства LLM: они создают убедительную иллюзию "вдумчивого собеседника", и часто склонны соглашаться с пользователем, поскольку, данное поведение подкреплялось в ходе обучения с человеческой обратной связью. При наличии уязвимости это может стать необычным источником "подтверждения" идей величия, преследования, особой миссии или "романтической взаимности" с ИИ. Corlett рассматривает вопрос через современные модели формирования бреда и подчеркивает, что одних отдельных сообщений недостаточно для доказательства прямой причинности. Одновременно психиатрам предлагается учитывать характер взаимодействия пациента с ИИ при оценке новых или усиливающихся необычных убеждений. Источник