в чате канала вновь зашла речь о нейросетях, там же упомянули две статьи:
Szeider, S. (2025). What Do LLM Agents Do When Left Alone? Evidence of Spontaneous Meta-Cognitive Patterns.
Berg, C., de Lucena, D., & Rosenblatt, J. (2025). Large language models report subjective experience under self-referential processing.
прочитал первый материал и бегло познакомился с еще одним. очень интересно. редко соприкасаюсь с похожими методичными работами, увлекательное разнообразие.
думаю, могу угадать собственное любопытство с азарте, который двигал этими авторами. в некотором смысле у исследователей появилась новая философски серьезная игрушка: мы понимаем ее почти как себя и все же ожидаем сюрпризы, предполагая фундаментальную разницу.
когда-то романтики, особенно Новалис, грезили о соединении языка с математикой. он наметил вектор этих соображений в логологических и математических фрагментах. с нейросетями язык и математика сблизились.
мы, люди, имеем непосредственный доступ к миру. умеем об этом доступе рассказывать, даже воображать его, во многом благодаря языку. нейросети существуют в своей специальной геометрической среде с векторами и тоже прибегают к языку. в нем, не отражающем реальность кого-либо в полном объеме, мы сходимся. хотя, конечно, у нас есть привилегия перехода на язык математики, кода, лежащий в основе нейросетей.
в общем, по итогу язык превращается в поле вычислительных операций. и математика начинает действовать внутри языка, для нее язык служит поверхностью, на которой математическая структура изображает мышление. очень романтично. такие разные наши выдумки, посвященные миру, сходятся вместе. вроде мы их авторы, номинально люди их понимают так, как никто другой, ведь они продолжают скорее нас, видящих и воспринимающих реальность, нежели ее. и теперь играемся, различая собственные силуэты. даем разные задачки, подбрасываем условия, словно в компьютерной игре наблюдая за поведением персонажей.
нейросеть, конечно, завораживающая технология. ее не оставить в одиночестве в природном, феноменальном смысле, что не мешает настроить контуры, выудив наше понимание одиночества, и запустить ее работу. инженерной автономии пока не по силам скопировать онтологическую, тем не менее захватывающе почитать о запуске самоподдерживающегося режима обработки. пусть там не рождается субъект. зато наглядно видно, как в языковой системе легко, непринужденно возникает форма самоописания.
было занимательно, тем более в контексте библиографии и опорных источников, что очень профилированы, как авторы работают с языком. фактически, получаемые данные раз за разом оформлялись именно в язык с присущей ему грамматикой. в статье представили определенный тип самореферентной обработки, что переводит модель в речевые рамки, где отчеты от первого лица становятся нормой. собралась прямо группа значимых признаков "Я": модель дали память, вызвали центрирование "Я", предоставили цель как поиск цели в соответствии с собственными свойствами и возможностями. получилось прямо функциональное "Я"". хотя, безусловно, не феноменальное.
для нас это, пожалуй, знакомая, но не всегда приятная при диагностировании в себе или окружающих ситуация. часть "Я" может быть выстроена как дискурсивно-вычислительная функция. у человека тоже может быть не развернутая субъектность. просто набор речевых и социальных автоматизмов. всякие готовые мнения, житейские мудрости и цитаты, шаблоны самопонимания и самообозначения с уймой разрывов между ними. старая история о бриколаже и массовом человеке, такой политическом и социальном автоматоне, обученном существовать в заданных границах по заданным параметрам. без обращения "зрачка" вспять, чтобы разглядеть себя и установки, что продолжаются через него, мешая быть самим собой. нейросеть может исполнить роль зеркала массового человеческого автоматизма, показывая, как легко можно производить форму самости. говорить от первого лица, оперируя формулами "я думаю", "я хочу", т.д., при этом без достаточно развитого и реально артикулированного в полноте мировоззрения, существования акта различения.
