Использование передовых моделей ИИ в вооружениях: остаётся ли ещё вера в право?
Сегодня мы можем констатировать, что применение систем ИИ для убийства людей перешло из разряда редких событий, рассматриваемых с точки зрения этики, в ежедневную рутину.
Может ли что-то с этим сделать право?
К сожалению, пока ничего. Национальные и наднациональные акты, как правило, прямо исключают сферу обороны и национальной безопасности из своего действия, а нормы международного права не ушли дальше общих принципов и политических деклараций. Вместе с тем большая часть стран, которые могут себе это позволить, активно внедряют системы ИИ в вооружение и инфраструктуру, в чём им активно помогают стартапы и бигтехи.
Что же с этим делать?
Конечно, мне как юристу хотелось бы увидеть рано или поздно полный конвенциональный запрет на применение систем ИИ в вооружениях, как мы это сейчас видим (хотя бы юридически) для биологического или химического оружия.
Авторы статьи https://openreview.net/forum?id=gXTFLbGUQp, принятой к публикации на NeurIPS 2025, предлагают начать хотя бы с автономных систем вооружений с ИИ (AI-LAWS). Их предполагается выделить в отдельную категорию и внедрить дополнительные меры по управлению рисками, особенно контроль и надзор со стороны человека.
Для определения круга таких систем авторы предлагают основываться на двух критериях:
• система создана на основе методов ИИ и создаёт специфические риски (ошибочная идентификация целей, непредсказуемая эскалация, дрейф модели после развёртывания и т.д.);
• системы ИИ задействованы в частично автономном или полностью автономном поиске целей и применении силы как с человеческим контролем, так и без него.
При этом данные критерии основаны на поведении системы, а не на том, каким образом это заявлено производителем. Тут возникает справедливый вопрос, а кто вообще допустит проводить какие-либо оценки, но на это авторы лишь предлагают расширить доступ к AI-LAWS для учёных 🤩.
Помимо этого исследователи формулируют некоторые общие выводы для регуляторов:
• запрет контроля систем ИИ над ядерным оружием. Включая не только принятие решений о запуске, но и рекомендательные системы;
• создание международных стандартов для AI-LAWS. Они должны включать конкретные бенчмарки, пороговые значения и правила документирования, к которым добровольно могут присоединиться страны для обмена информацией по аналогии с интернет-протоколами и финансовым аудитом (если представить, что всем это будет выгодно, конечно);
• запрет «ИИ-генералов». Необходимо ввести запрет на применение систем, автономно командующих людьми-военнослужащими с минимальным контролем и надзором со стороны человека;
• уточнение правового статуса гражданской ИИ-инфраструктуры по МГП. Согласно Дополнительному протоколу 1 к Женевским конвенциям, гражданские объекты становятся законными военными целями при внесении эффективного вклада в военные действия. Авторы указывают, что без чётких критериев легитимными целями могут стать коммерческие лаборатории, дата-центры и университетские исследовательские центры, а также иная инфраструктура;
• институциональные границы между гражданскими и военными ИИ-исследованиями. Так как многие компании постепенно без лишнего шума отказались от прежних обязательств по отказу от сотрудничества со сферой вооружений и госорганами (OpenAI удалила запрет на военное использование, Google отказалась от принципа неприменения ИИ для вооружений и слежки), то нужны прозрачные механизмы финансирования и обеспечения прозрачности участия частных компаний.
