Прикладываю пруфы ситуации и оригинальный пост:
http://xhslink.com/o/HFiOEnFKLj
Ранее в аудио:
В целом ситуация получилась довольно страшная — подобрать другой культурный эпитет сложно.
Что произошло? Я увидел пост на «Сяохоншу» у девушки‑косплеера, которая приложила фотографии с криком о помощи.
Некто на постоянной основе брал из её профиля снимки с косплеями. Девушка многое создаёт сама: крафтит, шьёт. Я не обесцениваю тех, кто использует готовые костюмы, а имею в виду, что это не тот случай, когда человек публикует контент с дешёвыми костюмами из «Таобао». Иногда их даже не отпаривают и не гладят, снимают какое‑нибудь танцевальное видео, иногда без париков — а потом костюм сразу перепродают. Это быстрый контент, на него тоже есть свой спрос.
Речь здесь же идёт о профиле косплеера, который сосредоточенно создаёт полноценные проекты — для фото и участия в фестивалях. То есть это качественный профиль.
У девушки брали фотографии и обрабатывали в нейросети — но не для того, чтобы скопировать движение или что‑то подобное… Злоумышленники полностью копировали её образ и фото: могли немного поменять фон (и то не всегда), а затем заменяли лицо. В результате получалась фотография с изображением будто бы живого человека. Копировали не только фото, но и видео.
Хотя пользователи могли заподозрить, что профиль ненастоящий, нужно было убедить их. Для этого злоумышленники запускали прямые эфиры:
— брали фотографии из профиля девушки,
— с помощью генерации создавали короткие видео на основе этих фото,
— запускали видео через трансляцию — как будто это прямой эфир.
Вероятно, эфиры были короткими. Из‑за них во вкладке профиля отображалась информация о том, что «человек» не просто выкладывает фотографии, но и выходит в эфир. Надпись «Недавно был в эфире» повышала лояльность пользователей.
Некоторые подписчики поддельного аккаунта, увидев пост девушки, признались: они сомневались, что перед ними аккаунт, созданный с помощью ИИ. Их убедили проведённые ранее прямые трансляции.
Искусственный интеллект действительно используют для прямых трансляций — особенно в китайских сетях.
Но обычно это предустановленные модели для маркетинга и продажи конкретных товаров. Выглядит это иначе — и точно не предполагает живого общения с косплеером.
Я надеюсь, что девушка сможет добиться блокировки того аккаунта. Но само существование подобного явления, конечно, крайне неприятно и пугающе.
