Неройсети галлюцинируют. А люди?)
Мне забавно слышать, что железки тупые, ошибаются постоянно, им нельзя ничего доверить. В нейросетевом диджитальном глазу любой микробаг увидим, а в человечьем аналоговом — бревна не замечаем.
Просто попробуйте взять запись какого-нибудь обсуждения с коллегами и прогоните транскрипт через список когнитивных искажений. Я собрал из них отдельный скилл для проверки себя и нейросетки. Закину в комменты.
Искажений полно. И это не те ошибки, которые допускают «какие-то там другие» люди без высшего образования и с низким IQ. Я ловлю на них себя за руку каждый день. Это систематические ошибки разума. Не нужно его обожествлять, каммон. Сингулярность скоро.
Поэтому напоминаю, что
→ люди часто говорят то, что им выгодно. Мы скрываем свои косяки, приводим аргументы, которые выставляют нас в лучшем свете. Мы понимаем, что сказать правду — получить лишний стресс, негатив, придется переделывать работу. Лучше не болтать лишнего. Нейросети же не будут вилять и сразу сознаются, что «Ты абсолютно прав!». Над этим сейчас все смеются, но зато честно)
→ люди ищут аргументы в пользу своей позиции (предвзятость подтверждения). Не потому что глупые, а потому что разрушать свои убеждения — дорого. Когда мозг находится в локальном оптимуме, ему дешевле укрепиться в стенах своих убеждений, чем скатываться вниз и перестраивать мировоззрение. Так вокруг нас образуются информационные пузыри, а алгоритмы еще крепче укрепляют их границы.
→ люди часто ошибаются в анализе и выводах:
- Экстраполируют отдельные яркие факты на всю систему целиком
- Верят ложным данным, если упаковать их в красивую эмоциональную историю
- Придают больший вес своему личному опыту
- Делают выводы на историях успеха, игнорируя неудачные кейсы (ошибка выжившего)
- Видят ложные закономерности, путают причину и следствие, каузальность и корреляцию
- Используют слишком общие универсальные объяснения, в которые укладывается любой исход (потому что бог, потому что кризис)
- Повышают вероятность явления, если аргументы легко приходят в голову (эвристика доступности)
- Просто допускают ошибки по невнимательности.
→ человек — разумный биологический мешок. Если мы не выспались, устали под конец дня, тревожимся, злимся, нам ударили в голову гормоны, то мы плохо принимаем решения. Сытые судьи https://www.socialsciencespace.com/2011/04/judges-are-more-lenient-after-lunch/#:~:text=Ahungry,tiredjudge,it,fullarticleisavailablehere около 65% решений в пользу заключенных, голодные — практически 0%.
→ социум влияет на чистоту наших рассуждений. Мы легко можем очароваться личностью авторитета, и принимать все его слова на веру (эффект ореола). Самый старший по рангу в комнате будет влиять на мнение остальных (HiPPO эффект). Даже само упоминание статусного человека в аргументации как будто придает нашим словам больший вес (апеллеяция к авторитету). Я даже ссылку на эксперимент про судей подобрал поубедительнее (Social Science Space звучало круче, чем Reddit и Коммерсант). Да и в целом, мы склонны соглашаться с большинством, даже когда уверены в своей правоте.
→ мы хотим казаться умными, классными, хорошими. И говорим то, что помогает нам в укрепляться в этом образе.
Нейросеть — это зеркало того, кто с ней общается. В ней уже содержится и главный лауреат премии Дарвина, и лучший гений из когда либо родившихся. Просто хороший инструмент в неумелых руках превращается в макулатуру.
Чтобы еще глубже попало, ловите такую аналогию. Вы смотрите с трибуны на трассу для ралли. По ней мчится очень неуклюжая машинка, собирает каждую стену, врезается, плохо входит в повороты. Так водит новичок в компьютерной игре, когда пытается освоиться. Вряд ли вы скажете «Вот глупая машина! Как так можно реагировать на повороты руля!». С машиной-то все отлично, это первоклассный спорткар. Просто за рулем криворукий промпт-инженер. Мы скажем ему «Да, братан... Ты водить бы научился для начала. Посмотри, все твои соперники тебя обгоняют уже по второму кругу». Ослабь хватку, не напрягайся, отдайся потоку, привыкай к аппарату. Don't panic.
