Иллюзия, которая мешает правильно использовать нейросети
В прошлом посте мы говорили В этот раз поговорим о том, почему вокруг нас стало так много сгенерированного контента, который вызывает отторжение.
Многие авторы сейчас рассуждают так: «Зачем мне тратить кучу времени на сбор фактуры, общение с экспертами, написание и редактирование, если я могу за несколько минут сгенерировать текст, который нужно всего лишь чуть-чуть поправить, и можно публиковать?»
Владельцы микро- и малого бизнеса тоже рассуждают сходным образом: «Зачем мне платить авторам и копирайтерам, если я и сам могу за полчаса сгенерировать контент на месяц вперёд?»
Кажется, что нужно только правильно составить промт, и нейросеть выдаст идеальную статью, пост или сценарий. Но это иллюзия. И именно из-за этой иллюзии мы и видим потоки шаблонного, безликого контента.
Возникает эта иллюзия из-за того, что не все понимают, как устроены нейросети. Обозначение «искусственный интеллект» многих сбивает с толку. Создается впечатление, что нейросеть — это аналог человеческого разума. Поэтому и появляется такое суждение: если человеческий интеллект ограничен, то ИИ, подключённый ко всем знаниям мира, — безграничен. Логичный вывод: нейросеть умнее и эффективнее любого автора. Но ошибка в том, что нейросеть не имеет ничего общего с тем, как устроен человеческий интеллект.
Нейросеть — это не интеллект. Это — статистический механизм.
Если упростить, то современная нейросеть для генерации текста — это мощный алгоритм предсказания следующего слова. Она не «думает» и не «понимает». Она вычисляет вероятность. Ее задача — находить самую вероятную последовательность токенов (слов/частей слов). Когда ей нужно сгенерировать длинный связный текст, она комбинирует миллионы таких токенов, создавая иллюзию осмысленного повествования. Всё, что она «знает» о мире, — это статистические связи между словами и фразами, зашитые в её параметрах. Именно поэтому нейросетям свойственны «галлюцинации». Это не ошибка, которую скоро исправят. Это прямое следствие их устройства. Они не работают с фактами и смыслом, они работают с совместимостью токенов.
Пока мы не избавимся от иллюзии «генерации под ключ», нас ждут только новые волны шаблонного контента и растущее отторжение аудитории, которая, как мы выяснили в прошлый раз, уже начала защищаться.
