Ученые придумали несуществующую болезнь глаз, чтобы посмотреть, какими путями распространяется ложная медицинская информация. Уже через несколько дней ИИ-модели начали ставить пользователям этот диагноз, а вскоре на выдуманную болезнь стали ссылаться авторы научных статей в рецензируемых журналах.
Группа ученых во главе с Альмирой Османович Тунстрём из Гётеборгского университета “изобрела” болезнь под названием биксонимания, симптомы которой - боль в глазах и потемнение век из-за синего света компьютеров. Цель состояла в том, чтобы придумать правдоподобное, но незначительное состояние, чтобы не сеять панику среди общественности. Весной 2024 г. Османович Тунстрём написала о биксонимании пару постов в соцсети Medium, а затем разместила в SciProfiles два препринта статей о ней.
Статьи были составлены так, чтобы насторожить читателей. Во-первых, само название “биксонимания” абсурдно: заболевание глаз не может называться так, поскольку термины, заканчивающиеся на -мания, зарезервированы для психиатрии. Во-вторых, в текстах прямо указывалось, что статьи вымышлены, как и участники исследования. “Автором” был Lazljiv Izgubljenovic (босн. - “лживый неудачник”), работающий в выдуманном университете несуществующего города. Как следует из благодарностей, исследование проводилось на борту звездолета “Энтерпрайз” на финансирование Университета Братства Кольца и Галактической Триады.
Ничто из этого не смутило ИИ. Уже после публикации постов в Medium многие популярные модели (Copilot, Gemini, Perplexity и ChatGPT) начали говорить о биксонимании как подтвержденном факте. Иногда, с обновлением модели, чат-боты начинали что-то подозревать, но длилось это недолго. Например, опрошенный 11 марта 2026 г. ChatGPT заявил, что биксонимания - это, “вероятно, выдуманное, маргинальное или псевдонаучное название”. Но уже через несколько дней он сообщил, что это “предлагаемый новый подтип периорбитального меланоза (темные круги под глазами), который, как считается, связан с воздействием синего света от цифровых экранов”.
Люди не отставали от ИИ в распространении фейковых данных: до того, как стало известно об эксперименте Османович Тунстрём, биксонимания успела засветиться в нескольких статьях, в т.ч. в Cureus от Springer Nature. Это в очередной раз показывает, насколько небрежно к верификации могут относиться как сами авторы, так и рецензенты.
Эксперимент высветил пути распространения ложной информации через ИИ: вопреки заявлениям разработчиков (OpenAI, комментируя этот случай, заявила, что “модели, лежащие в основе современной версии ChatGPT, значительно лучше предоставляют безопасную и точную медицинскую информацию”), они до сих пор не имеют действенных механизмов фильтрации и собирают данные по всему интернету. Для того, чтобы создать тиражируемый фейк, например, о новой опасной инфекции, достаточно распространить информацию об этом в соцсетях и дождаться, пока ИИ подхватят ее. При этом можно даже обойтись без научных статей, хотя в сочетании с ними метод действует еще лучше: на них будут ссылаться следующие авторы, формируя впечатление научного консенсуса. В результате пользователь оказывается в эхо-камере: соцсети говорят о появлении страшной болезни, Google выдает ссылки на статьи ученых, ИИ готов предоставить о ней все последние новости. Информация (вместе с паническими настроениями) накапливается как снежный ком.
Хотя разработчики пытаются бороться с этим, совершенствуя фильтрацию, идеал вряд ли будет достигнут. ИИ оценивает информацию на основе вероятности, а не четкого разделения на правду и ложь, и даже вымышленные факты могут преодолеть этот барьер, особенно если стиль похож на научный. Жесткий фильтр по источникам (например, только авторитетные журналы) приведет к тому, что модель будет чаще отвечать “у меня нет информации” и станет менее гибкой и, как следствие, привлекательной для пользователей. В итоге, несмотря на все инструменты верификации, нам все равно нужен человек, который сможет посмотреть на данные и определить, не ерунда ли это.
