🧠 Эволюционный тупик нейросетей: почему ИИ рискует стать глупее — вместе с человечеством? Часть 1/2
Эпоха ИИ началась с обещания освободить человека от рутины и открыть дорогу невиданной продуктивности. Однако у технооптимизма есть обратная сторона: работа нейросетей полностью зависит от переработки накопленного человечеством опыта. И чем больше машина подменяет собой человеческое мышление, тем слабее становится среда, из которой она сама черпает силу.
📍Оптимизация без тормозов
Лейтмотив эпохи ИИ звучит просто: машины стремительно учатся думать самостоятельно, поэтому человеку остается лишь постепенно отойти в сторону, уступая место цифровому совершенству.
Корпоративный мир первым воспринял эту идею, приступив к оптимизации бизнес-процессов. Еще в 2023 году руководство IBM заявило о возможной замене ИИ примерно 7,8 тыс. работников. Вскоре после этого платформа Duolingo сократила десятую часть своих подрядчиков, а финтех-гигант Klarna объявил, что их новый ИИ ассистент выполняет объем работы, сопоставимый с деятельностью 700 специалистов службы поддержки.
Внедрение ИИ показалось топ-менеджерам лучшей идеей со времен замены лошади двигателем внутреннего сгорания: рутинный когнитивный труд автоматизируется, штат младших сотрудников редеет, а продуктивность кратно возрастает.
Однако, как предупреждает исследователь Брайт Саймонс в статье "The Social Edge of Intelligence", повсеместное внедрение нейросетей может парализовать развитие самого ИИ и, что самое главное, оказать крайне негативное воздействие на когнитивные способности всего человечества.
📍Слепок человеческой мысли
Главное заблуждение состоит в том, что ИИ способен "думать" самостоятельно. LLM — это колоссальный цифровой слепок всей социальной сложности нашей цивилизации. Источник всех возможностей ИИ — впитанный им огромный массив человеческого взаимодействия: научные статьи, судебные прецеденты, моральные дилеммы и художественная литература. Каждое слово в датасете, на котором обучается ИИ — это своего рода производная человеческой коммуникации.
По сути, ИИ лишь воспроизводит то, что когда-то придумало человечество. Если взять все тексты Древнего Египта и обучить на них современный ИИ, то он сможет блестяще предсказывать разливы Нила, но у него никогда не появится концепция эмпиризма или римского права, которые возникнут века спустя. Иными словами, "интеллект" LLM напрямую зависит от той социальной среды, которая его породила.
Основа этого "интеллекта" создавалась в течение веков в ходе сложных отношений и взаимодействий индивидов, социальных групп, государств и цивилизаций, поэтому развитие LLM требует "усложнения" цивилизации и ее интеллектуальных плодов.
📍Цена интеллектуального комфорта
Возникает основная проблема: если ИИ вытесняет людей из сфер, где рождаются новые смыслы и интеллектуальный продукт, то он, по сути, уничтожает источник собственной "жизненной силы".
Весной 2024 года британские исследователи наглядно продемонстрировали это с помощью эксперимента, в котором приняли участие около 300 писателей. Авторы, использовавшие GPT-4, написали заметно более креативные рассказы, но при анализе всего массива текстов выяснилось, что в совокупности они стали поразительно однородными.
Параллельно атрофируется и человеческий разум. Исследование 2025 года от Microsoft и Carnegie Mellon, охватившее 319 работников и 936 бизнес-процессов, показало пугающую картину: в 40% случаев люди вообще не применяли критическое мышление при работе с чат-ботом. При этом чем выше доверие к ИИ, тем ниже когнитивные усилия человека: по данным Anthropic, пользователи нейросети Claude перепроверяли полученные ответы лишь в 8,7% случаев.
В результате возникает "интеллектуальная лень": люди получают удобную версию реальности и постепенно отвыкают от живого, иногда болезненного процесса познания. Хотя личная продуктивность на какое-то время возрастает, общий темп и качество результатов интеллектуальной деятельности человечества начинают снижаться.
Налицо классический пример феномена "трагедии общин" — выигрыш индивида оборачивается убытками для коллектива.
https://max.ru/aasafov"\t"_blank
