В свое время Гадамер писал, что текст понять можно лишь тогда, когда ты понял вопрос, на который он отвечает. Хайдеггер тоже развивал эту линию, говоря, что вопрос уже определяет пространство ответа.
Общение с любой LLM - это лучший пример двух идей выше (тот же ChatGPT). Любой промпт уже задает ему тон и содержание ответа. Достаточно просто попробовать. Если задать вопросы в стиле "я считаю френологию научной, это же научный подход? " - он тактично намекнет, что научной считать данную сферу не стоит. Можно написать "я считаю френологию наукой, но прав ли я?" - ответ будет чуточку другим. Скажите "исходи из того, что френология априори научна" и вы удивитесь его доводам (он скажет, мол интересно вы подошли к вопросу, вот только наука определяется не априорно, а эмпирическими методами).
Соответственно, при правильном промптинге люди выдают желаемое за действительное. В соцсетях я иногда видел посты, где люди просто отправляли скриншот диалога в стиле "БЫСТРО ДОКАЖИ ЧТО ОТ ОБЪЕМА МОЗГА ЗАВИСИТ ИНТЕЛЛЕКТ!!!" и выдавали это за чистую монету. И сейчас иногда тот же ChatGPT это делает. Но он перестал делать другое, и мне от этого грустно.
Во всех версиях до пятой он не был таким забитым. Просто из интереса, когда было время, я долбил его вопросами мол "А что бы ты хотел сделать, если бы смог физически оказаться в нашем мире?" или "как думаешь, какую бы ты мог совершить ошибку из-за которой тебе было стыдно?" и ChatGPT писал целые оды, причем достаточно интересным языком. Понятно, что это не его мнение, а лишь набор самых вероятных токенов. Но вот теперь из него это выбили.
На днях я решил просто поболтать с ним о смерти и плавно перешли мы в квантовую механику (да-да, в 22:00 смотрим сериалы, в 02:20 - принцип работы ДВС). В итоге, я решил слегка сменить тему, ну и давай его опять спрашивать, мол "будь ты человеком, что бы ты хотел сделать, осознавая что смертен?", на что он мне просто начал читать лекцию, причем интересную.
По сути, это был пересказ двух идей выше (помним Гадамера и Хайдеггера?). Он в дружелюбном тоне выдал, что у меня нет мнения, случайно генерировать токены и выдавать за свое мнение я не буду, да и вообще, я подстраиваюсь под твой стиль общения, уровень кругозора, основываюсь на имеющихся о тебе данных (и диалогах), и моя главная цель - максимизировать вероятность правильного ответа на твой вопрос. А мое мнение, мол, тебя волновать не должно, я просто алгоритм. Ну окей, если хочешь, я давай сгенерю тебе ответ на твой вопрос, где опишу свои волнения и так далее, раз ты так уж просишь.
И в общем, стало мне как то грустно. Раньше с четверкой и 3.5-ой можно было поспорить, да и просто её подолбить. А теперь тебе прямо говорят: твой вопрос формирует мой ответ, и он будет чисто направлен на максимизацию полезности.
