Продолжаем законопроекта по регулированию ИИ...
В документе безопасность идет рядом с технологической независимостью и "традиционными духовно-нравственными ценностями", причем Правительство получает полномочие определять орган, который будет формировать критерии соответствия моделей этим ценностям. Это создает риск, что оценка безопасности начнет смешиваться с оценкой идеологической допустимости. Для кибербезопасности это плохой признак: защищенность системы должна проверяться по техническим свойствам, а не по тому, "чей Крым", "какого цвета должен быть борщ", "совершала ли суицид Анна Каренина" и были ли древнегреческие амазонки лесбиянками. И я сейчас не знаю в России органа, который бы взял на себя эти функции целиком. Либо ИБ (и это ФСТЭК, которая уже
https://t.me/mediatelekomm риски ИИ в требованиях к разработчикам), либо идеология (и тут ближе РКН, который не очень в технику). А любое межведомственное взаимодействие у нас в стране в таком вопросе – это тупик...
Закон, уже по сложившейся традиции, концентрирует все полномочия в руках уполномоченных органов, а также создает механизм непрерывного мониторинга последствий применения ИИ на основе данных от операторов ИИ. Такая, привычная по работе ТСПУ, Госуслуг, ЕБС и других ГИС, архитектура управления повышает риск появления центральных точек "отказа": реестров, каналов отчетности, агрегаторов инцидентов, контрольных контуров. Если их кто-то скомпрометирует (а желающих булет немало) или используют недобросовестно, ущерб станет катастрофичным (если это кого-то волнует, конечно). Ну или все будет тормозить или работать с перебоями, как мы сейчас видим на примере попыток заблокировать всего лишь один Telegram.
В законе есть общие обязанности: документировать логику, моделировать риски, вести учет инцидентов, тестировать систему на противоправное использование, назначать ответственных лиц. Но нет требований к полноценному защищенному жизненному циклу ИИ (AISecOps): provenance данных, защита весов и артефактов, модель угроз для LLM/ML, red teaming, adversarial testing, защита inference API, сегментации, управлению секретами, безопасный RAG, безопасность агентов, rollback и kill switch, журналирование на уровне цепочки принятия решения. Для рамочного закона это не обязательно, но сейчас из текста читается "мы регулируем ИИ", хотя, по сути, там пока нет задела для фреймворка зрелого управления ИБ ИИ. Возможно, это тоже уйдет на уровень подзаконников ФСТЭК, но хотелось бы более явного проброса темы ИБ ИИ и на уровне закона.
Для суверенных и национальных моделей закон требует, чтобы все стадии разработки и обучения шли в России, а все стадии разработки, обучения и эксплуатации осуществлялись гражданами РФ и российскими юрлицами. Это резко сужает доступ к глобальным open-source экосистемам, международным командам, совместным исследовательским пайплайнам и зарубежным инфраструктурам. Для ИБ это особенно чувствительно: хорошие защитные ИИ-решения рождаются на потоке глобальных данных, глобальных уязвимостей, многоязычных данных об угрозах, зарубежных TTP, репозиториев вредоносного ПО, международных датасетов логов и телеметрии. Но про это я напишу отдельно – там прям есть о чем поговорить.
Про то, что частный рынок и гражданские применения будут зарегулированы, а наиболее мощные и потенциально опасные применения для обороны, безопасности государства и охраны правопорядка – нет, даже упоминать не надо. Но если в тех же США Anthropic, а до этого Google, взбрыкнул по поводу использования ИИ в боевых действиях и слежках за гражданами, то у нас ждать такой гражданской позиции не приходится (культура совсем иная).
#ии #регулирование #суверенитет
