Хотим ввести на https://pandeon.pro/ рубрику "ИИ по-простому". Пишет ИИ, но по хорошему промпту. Как вам?
_____________
Что такое "галлюцинации" у ИИ и как с ними бороться?
Представьте: вы наняли идеального ассистента. Он невероятно эрудирован, пишет стихи, знает 5 языков и готов работать круглосуточно.
Но есть один нюанс: иногда, когда он не знает ответа на вопрос, он не признается в этом, а с самым честным видом начинает вдохновенно врать.
Он может выдумать закон или сослаться на исторический факт, который произошел только в его голове. Причем расскажет он об этом так уверенно, что вы ни на секунду не усомнитесь.
В мире технологий это называют галлюцинациями, и именно они — главная причина, по которой слепо доверять искусственному интеллекту пока нельзя.
Но почему такая умная машина вдруг начинает вести себя как фантазер-сказочник?
Помните Т9 в вашем телефоне? Когда вы пишете СМС, телефон угадывает следующее слово. Если очень упрощать, ИИ делает примерно то же самое, только в масштабах всей библиотеки мира.
Он не понимает смысла слов так, как мы. Он просто высчитывает, какое слово с наибольшей вероятностью должно идти следующим.
Если вы спросите его о чем-то очень редком или несуществующем, его математический мозг все равно попытается достроить цепочку слов.
И вот тут ловушка: для ИИ "правда" и "красивое, логичное продолжение фразы" — это одно и то же.
Если логика подсказывает, что после фамилии известного юриста должна идти ссылка на громкое дело, он ее сконструирует, даже если в реальности этого дела не было.
Возникает логичный вопрос: а почему разработчики просто не нажмут кнопку "говорить только правду"?
Дело в том, что такой кнопки не существует. Галлюцинации — это не ошибка в коде, которую можно исправить патчем. Это обратная сторона творческих способностей ИИ.
Это та самая фантазия, которая необходима, чтобы писать сценарии или придумывать названия для брендов. Если убрать ее, потеряется и креативность.
Можно ли заставить его меньше галлюцинировать?
Полностью искоренить это нельзя, но можно создать для ИИ жесткие рамки.
Если вы попросите его просто "рассказать о вреде огурцов", он может нафантазировать ужасов.
Но если вы дадите ему конкретную статью и скажете "используй только информацию из этого текста", шансы на вранье упадут почти до нуля.
Практика: как приручить фантазера
Чтобы ИИ выдавал факты, а не сказки, нужно изменить способ общения с ним. Вот несколько приемов, которые работают как холодный душ для разыгравшегося воображения нейросети.
Прием "Право на незнание"
ИИ часто врет, потому что "считает", что обязан дать ответ. Нужно официально разрешить ему молчать.
Добавляйте в промпт фразу о том, что врать нельзя.
"Если ты не уверен в ответе на 100% или не находишь информации в контексте, так и напиши: "Я не знаю". Не пытайся придумывать факты"
Результат: ИИ станет гораздо осторожнее и начнет честно признаваться в пробелах.
Прием "Проверка по шагам"
Галлюцинации часто случаются, когда ИИ пытается выдать сложный ответ целиком. Если заставить его рассуждать вслух, ошибки становятся видны ему самому.
Просите ИИ объяснять логику перед финальным выводом.
"Прежде чем дать окончательный ответ, распиши по пунктам все факты, на которые ты опираешься, и проверь их логическую связь"
В процессе рассуждения модель часто сама замечает свои нестыковки и исправляет их до того, как вы их увидите.
Коротко о главном
- Галлюцинации — это не поломка, а особенность того, как ИИ предсказывает слова
- ИИ не знает, что такое правда, он просто строит наиболее вероятные цепочки фраз
- Верить ИИ на слово в вопросах жизни, здоровья или финансов категорически нельзя без личной проверки
- Чтобы снизить риск вранья, давайте ИИ четкий источник информации и разрешайте ему отвечать "не знаю"
