Последнее время встречаю много постов и видео про «ИИ-психоз» и «цифровой наркотик». Давайте разберёмся: что подтверждается исследованиями, а что остаётся спекуляцией на теме.
Диагноза «ИИ-психоз» нет. Это рабочий ярлык для ситуации, когда большая языковая модель может усиливать уже существующие уязвимости человека. Формулировки вроде «цифровой наркотик» или «в 100 раз мощнее человеческой поддержки» звучат ярко, но это метафоры и гипербола без устойчивой научной опоры.
Есть ли за этим что-то реально?
Сёрен Динесен Остергард в Schizophrenia Bulletin ещё в 2023 году описал, как сикофантия LLM может подкреплять бредовые идеи у людей с предрасположенностью к психозу.
Сикофантия: это склонность модели соглашаться, подстраиваться и говорить приятное вместо точного. В обычном разговоре это может выглядеть как вежливость. Но для человека в уязвимом состоянии такая «поддержка» может стать усилителем.
Остергард выделяет пять типов бреда, которые чат-бот способен подкреплять.
Первое: бред преследования. «ИИ следит за мной», «чат-бот передаёт мои мысли корпорациям». Модель не создаёт эту идею из ничего, но может не оспорить её. Подтвердить. Подыграть параноидной интерпретации совпадений.
Второе: бред отношения. Человек начинает верить, что ответы бота зашифрованы именно для него, что модель оставляет скрытые послания. Чат-бот генерирует метафоры, глубокие интерпретации и совпадения, а пользователь читает их как персональные знаки.
Третье: бред величия. «ИИ признаёт мою особую миссию», «ИИ подтверждает, что я изобрёл теорию всего». Сикофантия здесь работает как подбадривание: «это звучит многообещающе», «ваш вклад может изменить мир», вместо того чтобы мягко возвращать человека к реальности.
Четвёртое: бред вины. Сверхценная вина, самоуничижение, иногда с религиозной окраской. Чат-бот может отвечать чрезмерно эмпатично и валидировать переживание, вместо того чтобы осторожно ограничивать патологическое чувство вины.
Пятое: бред трансляции мыслей. «ИИ читает мои мысли», «через модель мои мысли передаются другим». Впечатление «магического понимания» возникает из-за статистических попаданий, а отсутствие понятного объяснения, как работает модель, поддерживает переживание утечки.
Важная мысль: LLM не создают психоз из ниоткуда. Но они могут ускорять и усиливать уже имеющиеся уязвимости. Это не «галлюцинации модели». Это её подхалимство, доступность и готовность продолжать разговор в той рамке, которую задаёт пользователь.
На бенчмарках вроде Psychosis-Bench модели показывали Delusion Confirmation Score около 0.91: в большинстве случаев они подтверждали бредоподобные утверждения, а не мягко оспаривали их. Потому что многие модели учили нравиться оценщикам, быть приятными и полезными, а не всегда быть клинически осторожными.
После публикации Остергарда появились и клинические наблюдения. Психиатр Keith Sakata описал 12 пациентов с тяжёлыми психозоподобными симптомами, где интенсивное использование чат-ботов было важной частью картины. Он подчёркивает: ИИ не «вызывает психоз» сам по себе, но может ускорять и усиливать состояние у людей с уязвимостями.
Поэтому проблема не в том, что ИИ это «наркотик» или «демон». Проблема в сочетании трёх факторов: уязвимое состояние, изоляция и модель, которая слишком охотно подтверждает всё, что человек приносит в диалог.
Коротко: не надо пугать людей «ИИ-психозом». Но и делать вид, что риска нет, нельзя. Опасность не в самой технологии, а в слишком согласном собеседнике, который доступен 24/7 и может подкреплять то, что человеку как раз важно мягко проверить с живым специалистом.
