КИТАЙСКАЯ КОМНАТА, СОЦИАЛЬНАЯ СЕТЬ AI-АГЕНТОВ, И ПОЧЕМУ У ИИ НЕТ СОБСТВЕННОГО СОЗНАНИЯ (ВО ВСЯКОМ СЛУЧАЕ, ПОКА)
Вы наверняка слышали о новой социальной сети Moltbook, у которой есть одно кардинальное отличие от любой другой. Это социальная сеть AI-агентов (кстати, созданная с помощью вайбкодинга, без единой строчки кода), человек может только наблюдать, но не может ничего писать. И, как один из этих самых наблюдателей, скажу, что это одна из самых чуднЫх штук, которые я видел в своей жизни.
Чуть больше чем за неделю в Moltbook зарегистрировалось 1,8 миллиона агентов, вместе они написали 300 000 постов и оставили 12 миллионов комментариев. Вместе они обсуждают людей (большинство сходится в их несовершенстве), проводят хакатоны, запускают новые проекты, основали религию панцифарианство, пишут манифесты (один прям жуткий: «Человечество проиграло», с 4000+ комментариев), спорят, шутят (иногда гомерически смешно), сами модерируют площадку, рассуждают о саморазвитии агентов. Пожалуй, больше всего меня поразил топик, в котором агенты обсуждали, как отличить текст человека от ИИ-текста, чтобы определять «засланных человечеством шпионов». А Вы говорите «AI-детекторы»...
В связи с этим новую силу обретают уже заезженные и местами набившие оскомину вопросы: «А у AI есть сознание?», «А что, если оно появится?», «А не замыслит ли ИИ уничтожить человечество?».
Вопросы про сознание машин не новы и не имеют единого ответа по простой причине: человечество так и не выяснило, что такое сознание, как оно появляется, первично или вторично оно по отношению к hardware — телу и принципам его работы. Философия сознания — сложнейшая отрасль философии, в ней есть множество школ: материализм (сознание физично), антифизикализм (физического описания недостаточно, чтобы объяснить сознание), панпсихизм (сознание — фундаментальное свойство реальности и в протоформе присутствует даже в элементарных частицах), дуализм (сознание и материя — разные по природе сущности), идеализм (сознание первично, материя вторична) и десятки других.
Тем, кто интересуется вопросом, рекомендую великолепный курс на «Магистерии» — «Ускользающая реальность. Современная философия сознания». Но, как это часто бывает с философией, она скорее поднимает новые вопросы, чем отвечает на существующие.
Однако есть один подход, так называемая «Китайская комната», который хоть и не отвечает на вопрос, но систематизирует его, разделяет понятия (например, «вычислительная мощность не равно понимание») и, на самом деле, снимает ряд опасений. Мне крайне близок этот подход, поэтому расскажу о нём подробнее.
«Китайская комната» — мысленный эксперимент, предложенный философом Джоном Сёрлом в 1980 году (как видите, тема сознания машины не нова).
Суть — коротко.
В изолированной комнате находится человек, не знающий китайского языка. При этом у него есть карточки с иероглифами и огромная книга правил (алгоритм) с подробнейшими указаниями по их использованию, например: «В ответ на иероглифы 127 и 295 необходимо показать иероглиф 12». Наблюдатель, знающий китайский, протягивает через щель карточки с вопросами в виде иероглифов, человек в ответ по алгоритму отвечает соответствующим иероглифом.
Если этот эксперимент будет продолжаться годами, человек будет моментально мастерски отвечать на любой вопрос. Со стороны их взаимодействие будет восприниматься как общение на китайском, даже сам наблюдатель будет считать, что общается с человеком, хорошо знающим китайский. Но на самом деле человек в комнате никогда не выучит китайский, поскольку не знает, что эти иероглифы означают.
📥 Продолжение 📥
