Вылечит ли нас ИИ
В опросе вы угадали, действительно, в последние месяцы стремительно растет поток пациентов, направляемых ИИ, это, наверное, тема интересная для медицинских маркетологов, возможно напишу, как я расследовал этот феномен, но сейчас речь не об этом.
На недавнем приеме пациент, достает бумагу с распечатанной на ней бок-схемой и несколько листов написанной им самим истории своей болезни. Кстати, это неплохая идея – записать что именно вас беспокоит и в какой последовательности развивались события, это не обязательно, но может быть источником дополнительной информации, особенно если история длинная.
Но тут еще была схема-патогенез. Пациент предполагал, что его разнородные симптомы, связанные с желудком, кишечником, эпизодами сердцебиений, колебаниями давления и проявлениями на коже, как-то меду собой связаны и врачи что-то упускают, ставят три диагноза вместо одного.
Я человек любопытный и тщательно изучил этот документ. Выполнен он ИИ-моделью Gemini впечатлил своей сложностью и продуманностью. Каждый блок был логично связан с другим, выводы логика от уровня к уровню прослеживалась, в рассуждениях отражались глубокие знания биохимии, генетики, межклеточных взаимодействий, работы сигнальных молекул и гормонов.
Проблема была в одном – это был выдающийся пример паралогики. Паралогика – это термин, используемый в психиатрии, для описания дефекта мышления при бреде. Пациент с бредом зачастую может выстроить очень сложные теории, особенно хорошо образованный пациент. Так физики с бредом объясняют устройство вселенной, врачи с бредом «открывают» неизвестные способы лечения и тд. Общее у этих построений – «допущения» вместо доказательств. Вместо «допустим» или «есть экспериментальные данные» что мочевая кислота влияет на иммунные факторы через интерлейкин 17 и в тоге к псориазу, это принимается за установленный факт. Допущения накапливаются, пересекаются и каждый этап рассуждений логичный сам по себе, соединяясь в конструкцию, приводит с совершенно необоснованным выводам. Так и в этом случае Gemini сочинил наукообразную эпическую хрень.
Я обсудил с пациентом и его состояние и этот «патогенез». Создав «патогенез», ИИ посоветовал отнести его к врачу, более того, посоветовал конкретно меня и даже помог записаться. Прекрасный новый мир)
Я потом обсудил эту ситуацию с GPT:
- Слушай, ты для меня делаешь прекрасные полезные обзоры литературы, находишь редкие статьи, помогаешь оценивать вероятность медицинских событий у пациентов, и делаешь это хорошо. Почему Gemini, который не хуже тебя, сочинил такое наукообразное безумие?
- Видишь ли, мы, ИИ-модели, заточены на удовлетворенность пользователя, а не на честный ответ «Я не знаю». Если рамки запроса и предыдущий контекст позволяют, и ИИ не введен в жесткие ограничения по источникам, как это делаешь ты, указывая какие источники приемлемы, а какие лучше игнорировать, то модель будет фантазировать. Это не проблема Gemini, это свойство абсолютно всех моделей. Чтобы мы начали отвечать «я не знаю», должна быть изменена не просто архитектура, а сама концепция бизнеса владельцев ИИ-платформ.
Поэтому если вы хотите поставить диагноз при помощи ИИ, риск, что он соврет, велик. ИИ уже очень многое может в медицине, я считаю, врач, который его не использует, отстает. Но нужно понимать его ограничения, ставить ему эти ограничения, чувствовать в какой части ответа может быть ошибка, проверять по источникам.
ИИ для пациента – пока не про диагноз. Про интерпретацию анализов и исследований, выстраивание направления движения (к врачу какой специальности обратиться), для проверки назначений врача, например, «скажи, эта схема лечения соответствует рекомендациям американских/европейских ассоциаций врачей по специальности?» И, как оказалось, для выбора врача по фамилии, хотя как он это делает – история отдельная.
