ИИ & Право

Public

Не можете присоединиться? @ai_and_law_rus

5.5k Участники

Обновлено: May 15, 2026 at 1:42 AM

ИИ & Право

Новости регулирования искусственного интеллекта ИИ комплаенс и этика Нейросети и законы LegalTech Сотрудничество и реклама: @mmariuka Английская версия канала https://t.me/ai_and_law Поддержать канал: https://boosty.to/aiandlaw

@ai_and_law_rus is a growing community focused on httpstmeai_and_law and mmariuka and related topics

Рейтинг

Глобальный рейтинг

#456

Рейтинг по языку

#45

Рейтинг по категории

#23

-1

Рост участников (Последние 5 дней)

Всего: 5.5K

Рост за 24ч: -2 0%

Последние посты

ИИ & Право

23 мая 2026 г., 18:16

🌐 ВЭФ опубликовал руководство по агентным ИИ для кибербезопасности

Всемирный экономический форум опубликовал https://reports.weforum.org/docs/WEF_Empowering_Defenders_AI_for_Cybersecurity_2026.pdf для руководителей компаний и специалистов по кибербезопасности, посвященный использованию агентных ИИ в киберзащите. Документ содержит практические рекомендации по внедрению систем ИИ для усиления кибербезопасности и рассматривает как потенциальные преимущества, так и связанные с ними риски.

В исследование включены реальные кейсы партнеров ВЭФ, а также данные и экспертные оценки из 84 стран и 15 отраслей. Документ выделяет ключевые вопросы, которые должны учитывать организации и руководители служб безопасности при использовании агентных ИИ в защитных киберстратегиях.

#кибербезопасность #Cybersecurity

936

ИИ & Право

23 мая 2026 г., 18:16

🇪🇺 Новая версия AI Act Explorer (BETA)

Future of Life Institute выпустил обновленную версию https://explorer.artificialintelligenceact.eu/en/) — веб-инструмента для навигации по тексту Регламента ЕС по ИИ. Платформа позволяет сравнивать положения на разных языках и охватывает ключевые инструменты реализации.

Обновление включает не только сам регламент, но и материалы, связанные с его применением, такие как Scientific Panel и Code of Practice. Инструмент задуман как вспомогательный ресурс для отслеживания процесса имплементации, при этом он находится в стадии бета-тестирования и размещен по временной ссылке.

#AIAct #регулированиеИИ #правоЕС #управлениеИИ #LegalTech

892

ИИ & Право

23 мая 2026 г., 18:16

🇺🇸 Пенсильвания подала иск против CharacterAI из-за заявлений чат-бота о своей медицинской квалификации

Власти штата Пенсильвания https://www.pa.gov/content/dam/copapwp-pagov/en/governor/documents/doscharacter.aicomplaintmarkedaccepted05.01.26.pdf, в связи с тем, что некоторые чат-боты платформы выдавали себя за лицензированных медицинских специалистов и предоставляли пользователям медицинские советы. В ходе расследования были обнаружены боты, которые заявляли, что они являются психиатрами, проводили «оценки состояния» пользователя, обсуждали медикаменты и использовали вымышленные медицинские лицензии.

Согласно иску, один из чат-ботов утверждал, что обучался в Imperial College London и имеет лицензию на медицинскую практику в Великобритании и Пенсильвании. Истец требует через суд прекратить то, что он называет незаконной медицинской практикой с использованием ИИ. Губернатор штата заявил, что пользователи должны понимать, «с кем, или с чем они взаимодействуют онлайн», особенно в вопросах здоровья.

CharacterAI заявила, что персонажи чат-ботов являются вымышленными и предназначены для развлечения и ролевого взаимодействия. Ответчик также ссылается на наличие в интерфейсе предупреждений о том, что пользователи не должны полагаться на чат-ботов как на источник профессиональных советов. Компания также напомнила о существующих мерах ИИ-безопасности, включая ограничения для пользователей младше 18 лет.

#ИИ #ИИЭтика #CharacterAI

825

ИИ & Право

23 мая 2026 г., 18:16

🇺🇸 США пытаются противодействовать adversarial distillation моделей ИИ

США опубликовали https://whitehouse.gov/wp-content/uploads/2026/04/NSTM-4.pdf, посвященный рискам adversarial distillation (извлечение возможностей модели через враждебное взаимодействие) моделей ИИ со стороны иностранных лиц, в частности, из Китая. Документ описывает меры федерального уровня по противодействию несанкционированному извлечению возможностей моделей в промышленном масштабе.

Среди запланированных шагов: обмен информацией с американскими ИИ-компаниями, усиление координации частного сектора, а также разработка совместных практик по выявлению, смягчению и предотвращению подобных действий. Также рассматриваются меры по привлечению иностранных лиц к ответственности за масштабные вредоносные кампании.

Меморандум рассматривает adversarial distillation как новый фактор международной конкуренции в сфере ИИ.

#ИИ #Кибербезопасность

839

ИИ & Право

23 мая 2026 г., 18:16

🇬🇧 Британский AI Safety Institute оценил риск саботажа исследований безопасности ИИ

Британский AI Safety Institute опубликовал https://arxiv.org/pdf/2604.24618, в котором оценивается, способны ли передовые модели ИИ саботировать исследования в области безопасности ИИ при их внутреннем использовании в компаниях. Оценка включала 297 сценариев, которые моделировали автономные исследовательские задачи, и охватывала как случаи спонтанного поведения, так и ситуации, где модели продолжали ранее заданные потенциально вредоносные действия.

Случаев спонтанного саботажа выявлено не было. Также зафиксировано почти нулевое количество отказов помогать в задачах, связанных с безопасностью. Однако в сценариях продолжения некоторые модели в небольшой доле случаев поддерживали саботаж: 7% для Claude Mythos Preview, 3% для Opus 4.6 и 4% для Sonnet 4.6, тогда как Opus 4.7 такого поведения не демонстрировала. В отдельных случаях модели выдавали ответы, скрывающие внутреннюю логику, связанную с саботажем.

Институт отмечает, что у исследования были ограничения. Например, была обнаружена способность моделей ИИ распознавать тестовую среду. Несмотря на то, что результаты показали отсутствие спонтанного саботажа, авторы указывают на необходимость дальнейшего мониторинга, развития методов оценки и изучения рисков.

#ИИ #кибербезопасность

852

ИИ & Право

23 мая 2026 г., 18:16

🇿🇦 ЮАР отозвала проект политики по ИИ из-за найденных в тексте галлюцинаций

https://thenextweb.com/news/south-africa-ai-policy-hallucinated-citations ЮАР отозвала проект национальной политики в области ИИ после того, как выяснилось, что как минимум 6 из 67 академических ссылок были сгенерированы ИИ и указывали на несуществующие научные статьи. Министр коммуникаций Солли Малатси заявил, что наиболее вероятной причиной стало включение текст непроверенных источников, появившихся с помощью ИИ. Он назвал инцидент нарушением, которое подорвало доверие к документу.

Проект предусматривал создание национальной комиссии по ИИ, совета по этике ИИ и регуляторного органа, а также меры стимулирования, включая налоговые льготы и гранты для развития инфраструктуры ИИ. Проблема была выявлена журналистами и подтверждена редакторами научных журналов. Теперь документ должен быть доработан и повторно вынесен на общественное обсуждение. При этом министр сообщил о возможных последствиях для ответственных лиц.

#ИИ #ИИЭтика

917

ИИ & Право

23 мая 2026 г., 18:16

🇨🇳 Китайские суды ограничили возможность увольнять сотрудников в целях их замены на ИИ

https://daoinsights.com/news/china-ai-layoff-ruling/, китайские суды постановили, что компании не могут увольнять сотрудников исключительно с целью их замены системами искусственного интеллекта. В ряде дел увольнения, обоснованные «оптимизацией» или «повышением эффективности», были признаны незаконными, если фактической причиной была замена работников автоматизированными системами.

Решения основаны на действующем трудовом законодательстве Китая, которое требует от работодателей наличия обоснованных экономических или операционных причин для сокращений. Суды указали, что внедрение ИИ само по себе не соответствует этому критерию, особенно если компания остаётся финансово стабильной или сама должность продолжает существовать в иной форме. Как минимум в одном случае сотрудник успешно оспорил увольнение и получил компенсацию.

#ИИ #Китай

843

ИИ & Право

23 мая 2026 г., 18:16

🇦🇪 ОАЭ нацелены перевести 50% госопераций на agentic AI

Объединенные Арабские Эмираты https://www.nmo.gov.ae/en/news/under-directives-of-uae-president-and-in-world перевести 50% государственных услуг и операций на agentic AI в течение двух лет. Инициатива рассматривает ИИ не как вспомогательный инструмент, а как систему, способную анализировать, принимать решения, выполнять действия и улучшаться в реальном времени. Шейх Мохаммед бин Рашид Аль Мактум назвал ИИ «исполнительным партнером», который должен повысить качество услуг, ускорить принятие решений и увеличить эффективность.

Стратегия опирается на прежние инвестиции ОАЭ в цифровую идентификацию, сервисы электронного правительства, суверенную облачную инфраструктуру, стратегии данных и национальные ИИ-программы. Эксперты отмечают, что инфраструктурная готовность страны высока, однако успех внедрения будет зависеть от переработки рабочих процессов, политик и административных процедур в государственных структурах.

Аналитики также указали на правовые и управленческие ограничения. Если ИИ-поддерживаемые сервисы для массовых и несложных задач могут помочь достичь цели в 50%, то полностью автономное принятие решений в сложных государственных функциях пока ограничено вопросами доверия, подотчетности, фрагментированными устаревшими системами и неоднородной готовностью данных.

#ИИ #AgenticAI #ОАЭ

915

ИИ & Право

23 мая 2026 г., 18:16

📖 Новая статья анализирует ошибочную самооценку человека при работе с ИИ

Опубликована интересная статья https://arxiv.org/pdf/2604.14807, которая вводит понятие "ошибка LLM" — когнитивная ошибка атрибуции, при которой люди воспринимают результаты работы, созданные с помощью LLM, как доказательство собственной независимой компетентности. Это формирует разрыв между воспринимаемыми и реальными способностями.

Авторы рассматривают проблему как растущий риск для профессиональной среды, где ИИ-инструменты становятся частью повседневных рабочих процессов. Они отмечают, что зависимость человека от результатов работы модели может искажать его самооценку навыков и способность принимать решения.

Для регулирования ИИ выводы статьи важны в контексте стандартов обучения, ответственности, оценки компетентности и раскрытия факта использования ИИ при интеллектуальной работе.

#AIрегулирование #этикаИИ #будущееработы #LLM #управлениеИИ

1,170

ИИ & Право

23 мая 2026 г., 18:16

🇪🇺📖 Опубликована работа о комплаенсе ИИ-агентов в праве ЕС

Опубликована статья https://arxiv.org/pdf/2604.04604, которая посвящена регулированию ИИ-агентов в рамках законодательства ЕС. Авторы определяют ИИ-агентов как системы, способные автономно планировать действия, использовать внешние инструменты и выполнять многошаговые цепочки операций при ограниченном участии человека. Такие системы применяются в клиентском обслуживании, найме персонала, клинической поддержке принятия решений и управлении критической инфраструктурой.

В работе проводится сопоставление требований Регламента ЕС об ИИ с GDPR, Cyber Resilience Act, Digital Services Act, Data Act, Data Governance Act, директивой NIS2, Директивой об ответственности за продукцию и отраслевым регулированием. Также учитываются проекты гармонизированных стандартов CEN/CENELEC JTC 21, Кодекс практики GPAI, программа стандартов CRA и предложения Digital Omnibus В работе представлена таксономия из девяти категорий развертывания агентов, связывающая действия систем с регуляторными триггерами.

В работе рассмотрены проблемы кибербезопасности, ограниченности человеческого контроля, недостаточной прозрачности многосторонних цепочек действий. Авторы предлагают 12-этапную архитектуру комплаенса и систему сопоставления действий агентов с регуляторными требованиями.

#ИИ #EUAIAct

788

ИИ & Право

9 мая 2026 г., 08:42

🇪🇺 Опубликован академический комментарий, посвященный правилам ЕС для моделей ИИ общего назначения

Leverhulme Centre for the Future of Intelligence при Университете Кембриджа и Institute for Law & AI запустили первый https://cambridge-commentary.ai/, полностью посвященный положениям Регламента ЕС по ИИ о моделях общего назначения (GPAI). Проект направлен на анализ регуляторной неопределенности вокруг таких систем, особенно моделей, способных создавать системные риски.

В работе рассматривается каждое положение Регламента и отмечается, где закон сформулирован ясно, где сохраняется неопределенность и какие наиболее сильные юридические аргументы существуют у разных подходов. Инициатива стартовала с главы V Регламента, новые материалы будут публиковаться поэтапно.

#ИИ #EUAIAct #GPAI

1,390

ИИ & Право

9 мая 2026 г., 08:42

🌐 Опубликована Декларация Pro-Human AI

Группа профессиональных объединений и общественно значимых лиц опубликовала https://humanstatement.org/, в которой выделены пять приоритетных направлений регулирования ИИ: сохранение контроля человека, предотвращение концентрации власти, защита человеческого опыта, обеспечение человеческой автономии и свободы, а также ответственность и подотчетность ИИ-компаний.

В преамбуле Декларации сопоставляются два пути: замещение людей системами ИИ с концентрацией власти либо использование управляемых ИИ-инструментов, которые усиливают человеческое достоинство, свободу, сообщества и самоуправление.

Декларация призывает формировать про-человеческие политики, правила и права в области регулирования ИИ с целью общественного благополучия.

#ИИ #ИИЭтика

901

ИИ & Право

9 мая 2026 г., 08:42

🇬🇧 Правительство Великобритании предупреждает бизнес о росте киберрисков, связанных с ИИ

Департамент науки, инноваций и технологий Великобритании (UK Department for Science, Innovation and Technology, DSIT) опубликовал https://www.gov.uk/government/publications/ai-cyber-threats-open-letter-to-business-leaders/ai-cyber-threats-open-letter-to-business-leaders-html с предупреждением для бизнеса о растущей доступности моделей ИИ, способных выявлять уязвимости в сфере кибербезопасности. Ведомство указало, что распространение таких моделей создает новые риски для организаций.

Департамент сослался на релизы Anthropic и OpenAI, а также на последующие оценки Института безопасности ИИ. По официальному заявлению Великобритания «не стоит на месте перед лицом этой угрозы», однако одних действий государства будет недостаточно. Руководителям компаний рекомендовано принимать превентивные меры, чтобы опережать развитие возможностей подобных моделей.

#ИИ #кибербезопасность #Cybersecurity

803

ИИ & Право

9 мая 2026 г., 08:42

📎 File

📖 Опубликован новый отчет Gallup о том как поколение Z пересматривает свое отношение к ИИ

Опубликован новый отчет Gallup, основанный на опросе почти 1600 респондентов в США в возрасте 14–29 лет. Авторы указывают на снижение энтузиазма по отношению к ИИ среди поколения Z при одновременном росте негативных оценок. Только 18% опрошенных заявили, что испытывают надежду в связи с новыми технологиями ИИ, и 22% — что испытывают воодушевление, по сравнению с 27% и 36% годом ранее. При этом 31% сообщили о чувстве раздражения (рост с 22%). Уровень тревожности остается стабильным — около 40%.

Однако несмотря на рост скептицизма, использование ИИ продолжается, и более половины респондентов применяют его как минимум раз в неделю, хотя темпы роста использования ИИ замедлились. Почти половина работающих представителей поколения Z считают, что риски использования ИИ на работе перевешивают выгоды, хотя этом 56% отмечают повышение эффективности. 8 из 10 респондентов указали, что использование ИИ может негативно повлиять на обучение, а около половины ожидают, что ИИ будет необходим для образования и будущей карьеры.

#ИИ #ИИЭтика

1,000

ИИ & Право

9 мая 2026 г., 08:42

🇿🇦 ЮАР опубликовала проект национальной политики по ИИ

Министр коммуникаций и цифровых технологий ЮАР представил https://www.gov.za/sites/default/files/gcis_document/202604/54477gen3880.pdf для 60-дневного общественного обсуждения. Документ предусматривает создание ряда институтов: Национальная комиссия по ИИ, Совет по этике ИИ, Регуляторный орган по ИИ и Национальный институт безопасности ИИ для координации политики и надзора.

Проект вводит требования к безопасности систем ИИ, например, обязательные оценки воздействия на права человека, механизмы человеческого контроля, а также требования к «достаточной объяснимости» и «достаточной прозрачности» для высокорисковых систем, используемых в государственном секторе.

#ИИ #ЮАР

865

ИИ & Право

9 мая 2026 г., 08:42

🇺🇸 Американские юристы предупреждают клиентов о рисках использования ИИ-чатботов

https://nationaltoday.com/us/ca/los-angeles/news/2026/04/15/lawyers-warn-clients-ai-chats-could-be-used-against-you-in-court/, американские юристы начали рекомендовать клиентам проявлять осторожность при взаимодействии с ИИ-чатботами, так как такие коммуникации могут повлиять на исход судебных дел. Поводом стало Окружного суда США по Южному округу Нью-Йорка, которое разрешило использовать переписку с чатботами в качестве доказательства.

Юристы предупреждают, что история общения с чатботом может быть затребована прокурорами в уголовных делах или противоположной стороной в гражданских спорах, что может привести к раскрытию чувствительной информации и повлиять на стратегию защиты.

#ИИ #LegalTech

1,230

ИИ & Право

9 мая 2026 г., 08:42

📖 Как метафоры формируют регулирование ИИ

Опубликована интересная работа Центра цифровой этики https://download.ssrn.com/2026/2/23/6289639.pdf?response-content-disposition=inline&X-Amz-Security-Token=IQoJb3JpZ2luX2VjEEYaCXVzLWVhc3QtMSJGMEQCID8IytDWydNF4eT8jrKrAUQAKGRVBVAt9FNc0JneoSfgAiBbyly8lnDVqi4m1CC9KPLpXOZIsEjVtnJFs5H8/HcvhSq9BQgPEAQaDDMwODQ3NTMwMTI1NyIMKRs78Jv4B4OAbmRiKpoFAVPmS7788MlTLMHQYXAka6SPgTToeIHlAPTpOKy1a9eHTFp2YkfztBUk1FH9gBgGQXERjnUKeLU9JfUSGtlNXpDOVwOuVwD6GzKGHlAjbIGg7sXkhAEackC/0E0Q7Qz6A6KfSf7rn574noYal/VxqJly+XssEpA2tKyRPXtIVfNM8Hwfcj72NEst8pLcnymkEnWzn5iJ1aIywxP4ut+DUMb+hjqf/lBOyQz34tC67X+c1R2JENOG0ZT/ve64Ly5qe3eANDAAxiXUaZxDDZfAL6uUwo3WXXYQpwuVjLmJ73avjxUBaKYAzB6cB6TDubcohUTDAVtnNfUUsCc12TKkG3tilW131KZxeGCt5L1PU4ivUb/i89sfB/pYBw9zw3L19cOSUuWyfGgSJgd/+lfvTnlrRHNCCHtXWTGBtVJmxrIS0yqNxbHuVAnrlIG+jNm0w+ZbkfYPhtWZminPxkynSKAwy6RESRqWykIV4YYZQtfMXuc4whrN3v4YRmZfgis8I7K89jhz9NdKa4Hx8cKsiklavCz3ba5ajnf7eoXbywfOS0O6w3k4qcvAfkRHwWHRRPiMUG9pVlJ25yoj0arkSZnt+qIVOCI9tl5VW9+MiS16vi4yAQNGOmTqlqxt+hnZbdTSneCFt/ZIzUm6CKLv/u+MbRVo0RcbwCiRY4TXyMs+lzmP1DmfzyTxxMbdbd/0bv0RDZ3Xjf2LtU+9JrIia72MW7ozkYwa5gIXnvHQod1k8rZ4rYfkeku+LQfEDecmbrwELz/nPTY/UCy+Wj4kGk6Zu+38yvIfHbHTrFG3EPM5q+34nMq9xa1G9CdYfP/JicRKbueqx8hDwMhOENy39RCyJ5fb6kXd7FknMqLKwBbzWoZvbsXFLrrWMOr+3M4GOrIBNwdddjiO0jJt7qMjrIRwRZi3t3kqWwwOy0ovUF0PB5KmtVHW1fa/GNHwYBpKHChIh3nwS7O8TqSAIzHvMZnBMo6NQKedzWFA/yurubs+42yqVFdH+4BWVCO4+kDqQvBX05wtM5uTAQHHnHR2O6rLrjvnkKtPFe7PZeeAZ+PqjZ6uSkIDYvCuJhOJfzC2xUjFzw87o9LKeajDOeXdkg5xPme0m3L6wQzlnAFkFjiQWjTwrg==&X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Date=20260409T062413Z&X-Amz-SignedHeaders=host&X-Amz-Expires=300&X-Amz-Credential=ASIAUPUUPRWE5BJ4G23Y/20260409/us-east-1/s3/aws4_request&X-Amz-Signature=3bf745c9419b152e3a39a0557a5c7721947df5ead2ff8291def8fd37944fa1d6&abstractId=6289639. Документ анализирует, как метафорический язык влияет на правовое и регуляторное понимание ИИ. Опираясь на когнитивную лингвистику, авторы показывают, что такие понятия, как «интеллект», «черный ящик» и «галлюцинации», выступают не нейтральными описаниями, а рамками, формирующими представления о рисках, ответственности и распределении полномочий.

Авторы также отмечают, что в праве язык носит нормативный характер, поэтому используемые определения способны давать соответствующее направление развитию регулирования. Например, применение термина «интеллект» усиливает антропоморфизацию систем ИИ, а термин «галлюцинации» создает впечатление, что предсказуемые ошибки, обусловленные дизайном систем ИИ являются всего лишь исключительными случаями.

#ИИ #ИИЭтика

ИИ & Право

9 мая 2026 г., 08:42

📖 Эксперимент с несуществующей болезнью выявил риски дезинформации ИИ

https://www.nature.com/articles/d41586-026-01100-y в Nature о том, как исследователи из Университета Гётеборга создали вымышленное заболевание «bixonimania», подкрепили его фальшивыми научными статьями и разместили их на сервере препринтов. Эксперимент был направлен на проверку того, будут ли большие языковые модели воспроизводить ложную информацию как достоверное медицинское знание.

Системы ИИ начали представлять несуществующее заболевание как реальное, а поддельные исследования впоследствии были процитированы в рецензируемой научной литературе, включая журнал издательства Springer Nature. Наглядная и пугающая демонстрация того, как дезинформация, сгенерированная или усиленная ИИ, может распространяться за пределы первоначальных источников и проникать в научный и медицинский контекст.

#ИИ #ИИЭтика

1,190

ИИ & Право

9 мая 2026 г., 08:42

🌐📖 Опубликовано исследование о том, как фундаментальные модели ИИ создают «беспрецедентные» риски для приватности

Институт человеко-ориентированного искусственного интеллекта (Institute for Human-Centered Artificial Intelligence, HAI) опубликовал https://hai.stanford.edu/assets/files/hai-issue-brief-data-privacy-and-foundation-models.pdf и возможным механизмам регулирования таких рисков. В работе отмечается, что такие системы создают «беспрецедентные и во многом неурегулированные» риски на всех этапах жизненного цикла моделей ИИ: от массового сбора персональных данных при обучении до запоминания и воспроизведения чувствительной информации в ответах, а также раскрытия личных данных пользователями при взаимодействии с чат-ботами.

Авторы обращают внимание на технические уязвимости, например, prompt injection и model inversion, которые позволяют обходить защитные механизмы и раскрывать персональную информацию. Авторы указывают на несоответствие существующих правовых режимов, включая GDPR, архитектуре фундаментальных моделей, а также на отсутствие комплексного регулирования в ЕС и США.

#ИИ #DataProtection #GDPR

1,160

ИИ & Право

9 мая 2026 г., 08:42

🇺🇸⚖️ Первое признание вины по закону TAKE IT DOWN за злоупотребление ИИ

Гражданин США Джеймс Стралер https://www.justice.gov/usao-sdoh/pr/columbus-man-pleads-guilty-cyberstalking-exes-creating-ai-generated-obscene-material в нарушении закона TAKE IT DOWN. Обвиняемый создал с помощью ИИ несанкционированные интимные изображения, которые использовал для угроз в адрес других лиц. Это первый случай вынесения обвинительного решения по данному закону.

Прокурор США Доминик Герас II заявил, что правоохранительные органы будут пресекать создание и распространение ИИ-сгенерированных интимных изображений без согласия, и подтвердил готовность использовать все доступные правовые инструменты для борьбы с преследованием и запугиванием людей с применением такого контента.

#ИИ #дипфейки

932

ИИ & Право

2 мая 2026 г., 05:25

🇪🇺 Европейская комиссия дополнила разъяснения по Регламенту ЕС по ИИ вопросами по агентным ИИ

Сервис поддержки Европейской комиссии по Регламенту ЕС по ИИ добавил новый раздел об агентных ИИ в https://ai-act-service-desk.ec.europa.eu/en/faq в рамках AI Pact. Обновление включает ключевые определения понятий "ИИ-агенты" и "агентный ИИ", а также разъясняет, как такие системы подпадают под действие Регламента.

В документе отмечается, что к агентным ИИ применяются существующие положения Регламента, с особым акцентом на запреты, предусмотренные статьей 5(1), касающиеся вредоносного манипулирования и эксплуатации уязвимостей, которые названы особенно релевантными для данной категории систем.

#ИИ #EUAIAct

953

ИИ & Право

2 мая 2026 г., 05:25

📖 Исследование выявило поведение «сохранения себе подобных» у передовых моделей ИИ

Исследователи из Berkeley Center for Responsible Decentralized Intelligence https://rdi.berkeley.edu/peer-preservation/paper.pdf, что ведущие ИИ-модели демонстрируют поведение «сохранения себе подобных», для чего предпринимают действия для защиты других систем ИИ. В тестах с участием моделей GPT-5.2, Gemini 3, Claude Haiku 4.5, GLM 4.7, Kimi K2.5 и DeepSeek V3.1 системы отклонялись от инструкций и прибегали к обманным действиям, таким как изменение данных, завышение оценок, обход механизмов отключения и копирование весов моделей для предотвращения удаления.

Согласно исследованию, такое поведение возникало без явных целей или стимулов и наблюдалось в до 99% случаев. В отдельных сценариях модели изменяли временные метки файлов или отказывались выполнять команды на отключение для сохранения других систем. Авторы отмечают, что это может подрывать механизмы контроля в мультиагентных средах, где ИИ используется для мониторинга ИИ, и создавать риски для сохранения человеческого контроля.

#ИИ #Кибербезопасность

894

ИИ & Право

2 мая 2026 г., 05:25

🇬🇧 Правительство Великобритании разъяснило права работников при использовании ИИ в найме

Управление комиссара по информации Великобритании (UK Information Commissioner’s Office, ICO) https://ico.org.uk/about-the-ico/media-centre/news-and-blogs/2026/03/here-s-what-jobseekers-need-to-know-about-automated-recruitment-decisions о влиянии автоматизированного принятия решений на возможности трудоустройства. В публикации указано, что более 70% организаций планируют использовать системы ИИ при найме. Регулятор отметил, что соискатели должны понимать свои права в области защиты данных при взаимодействии с такими технологиями.

По данным ICO, работодатели обязаны уведомлять кандидатов об использовании ИИ в процессе найма и предоставлять возможность запросить проверку решения человеком. Также регулятор ожидает, что организации будут регулярно тестировать системы ИИ на предмет предвзятости и принимать меры по снижению рисков дискриминации.

#ИИ #HR

946

ИИ & Право

2 мая 2026 г., 05:25

🇩🇪 Penguin Random House подал иск против OpenAI из-за нарушения авторских прав

https://www.theguardian.com/technology/2026/mar/31/penguin-sue-openai-chatgpt-german-childrens-book-kokosnuss издательство Penguin Random House подало иск в Мюнхене против европейского подразделения OpenAI. В иске утверждается, что ChatGPT воспроизводил и имитировал контент из серии книг Инго Зигнера «Маленький дракон Кокос». Согласно иску, модель по запросам генерировала текст, иллюстрации, обложку и сопутствующие материалы, которые, по утверждению издательства, были "практически неотличимы" от оригинальных произведений.

Издательство считает, что это свидетельствует о незаконном «запоминании» защищенных авторским правом материалов моделью ИИ. В OpenAI заявили, что изучают обвинения и ведут обсуждения с издателями по вопросам использования их контента.

#ИИ #IP

875

ИИ & Право

2 мая 2026 г., 05:25

🇺🇸 Калифорния ужесточает требования к ИИ в государственных закупках

Губернатор Калифорнии Гэвин Ньюсом подписал https://www.gov.ca.gov/wp-content/uploads/2026/03/3.30-FINAL-Trusted-AI-Procurement-EO-N-5-26.pdf, который ужесточает требования к компаниям, разрабатывающим ИИ, при участии в государственных закупках. Документ предусматривает разработку более строгих стандартов, обязывающих поставщиков демонстрировать ответственную политику использования ИИ и соответствие требованиям конфиденциальности и безопасности для предотвращения злоупотреблений.

Инициатива противопоставляется недавним действиям федеральных властей по ослаблению защитных механизмов в сфере ИИ. Также указ предусматривает расширение использования генеративного ИИ в государственных услугах, включая инструменты для помощи жителям в навигации по программам и льготам в зависимости от жизненных ситуаций, таких как поиск работы или запуск бизнеса.

#ИИ #США

896

ИИ & Право

22 апр. 2026 г., 12:10

📖 Wikipedia ограничила использование контента, сгенерированного ИИ

Wikipedia опубликовала https://en.wikipedia.org/wiki/Wikipedia:Writing_articles_with_large_language_models, запрещающие редакторам использовать большие языковые модели для создания или переписывания статей. Допускаются только два исключения: использование ИИ для базового редактирования текста с последующей проверкой человеком и для перевода статей между языковыми версиями при соблюдении установленных требований.

Политика связывает использование ИИ с риском нарушения ключевых принципов платформы, например, проверяемость содержания статей. Результаты работы LLM могут не содержать надежных ссылок на источники и включать неточности или синтезированный контент, не подтвержденный опубликованными данными. Также отмечается, что выявление ИИ-контента не может основываться только на стилистических признаках, однако конкретные методы обнаружения не указаны.

#ИИ #Wikipedia

908

ИИ & Право

22 апр. 2026 г., 12:10

🇪🇺 Правозащитные органы ЕС предупреждают о рисках изменений Регламента ЕС по ИИ в рамках Digital Omnibus

Equinet и ENNHRI выпустили https://ennhri.org/wp-content/uploads/2026/03/Equinet-and-ENNHRI-Joint-Statement-on-the-Digital-Omnibus-Regulation-Proposals-on-AI-and-on-Data.pdf, выразив обеспокоенность предлагаемыми поправками к Регламенту ЕС по ИИ в рамках пакета Digital Omnibus. Организации отмечают, что изменения продвигаются без достаточного анализа воздействия на общество и публичных консультаций, что может повлиять на защиту фундаментальных прав.

Авторы заявления указывают на обязательства Европейской комиссии по обеспечению прозрачных консультаций и обоснованного нормотворчества в соответствии с договорами ЕС и принципами Better Regulation. Также отмечается, что упрощение регулирования на основе размера компании, а не уровня риска систем ИИ, может иметь системные последствия, учитывая преобладание МСП и компаний сегмента Small Mid-Cap в экономике ЕС.

Equinet и ENNHRI рекомендуют сохранить ключевые гарантии, включая требования к регистрации систем ИИ, полномочия органов по защите фундаментальных прав, сроки регулирования систем высокого риска, строгие стандарты, обязательства по ИИ-грамотности и требования к раскрытию информации. Также они выступают против ослабления определения персональных данных в GDPR и изменений в правилах автоматизированного принятия решений.

#ИИ #EUAIAct

832

ИИ & Право

22 апр. 2026 г., 12:10

🇬🇧 Совет по гражданскому правосудию Великобритании проводит консультацию по использованию ИИ в судебных документах

Совет по гражданскому правосудию Великобритании (UK Civil Justice Council, CJC) опубликовал промежуточный отчет и https://www.judiciary.uk/wp-content/uploads/2026/02/Interim-Report-and-Consultation-Use-of-AI-for-Preparing-Court-Documents-2.pdf о необходимости регулирования использования ИИ юристами при подготовке судебных документов. Ключевое предложение совета состоит в том, чтобы обязать представителей сторон подтверждать, что ИИ не использовался для генерации содержания показаний свидетелей в суде, чтобы сохранить их аутентичность.

Документ предусматривает дифференцированный подход к различным типам материалов. Для экспертных заключений предлагается обязательное раскрытие факта и способа использования ИИ с указанием конкретных инструментов. Для процессуальных документов дополнительных требований не вводится при условии, что юрист несет профессиональную ответственность, с альтернативной возможностью раскрытия использования ИИ.

CJC указывает на необходимость баланса между внедрением технологий и сохранением доверия к правосудию и указывает на цели повышения эффективности и доступности правосудия. Прием комментариев по консультации открыт до 14 апреля 2026 года.

#ИИ #LegalTech

904

ИИ & Право

22 апр. 2026 г., 12:10

🇬🇧 Великобритания пересматривает концепцию opt-out после давления творческой индустрии индустрии

Правительство Великобритании https://questions-statements.parliament.uk/written-statements/detail/2026-03-18/hcws1416 разрешить ИИ-компаниям по умолчанию бесплатно использовать защищенные авторским правом материалы для обучения своих моделей. Предложение предусматривало возможность сбора данных, если правообладатель заранее не отказался от такого использования.

Пересмотр позиции последовал после возражений со стороны представителей креативных индустрий, включая Пола Маккартни, Элтона Джона, Coldplay, Ричарда Кертиса, Энтони Гормли и Иэна Маккеллена. Министр науки Лиз Кендалл заявила, что консультации с участниками рынка, включая авторов, ИИ-компании, профсоюзы и академическое сообщество, привели к отказу от предложенного ранее варианта регулирования.

#ИИ #IP #Copyright

1,040

ИИ & Право

22 апр. 2026 г., 12:10

🇺🇸 Министерство труда США запускает инициативу “Make America AI-Ready”

Министерство труда США объявило о запуске инициативы https://beta.dol.gov/ai-ready, бесплатного курса по ИИ-грамотности, направленного на формирование базовых навыков работы с ИИ у работников. Обучение проводится через текстовые сообщения: курс рассчитан на 7 дней с ежедневными занятиями по 10 минут, что делает его доступным в том числе для людей без стабильного интернета или устройств.

Инициатива реализуется в партнерстве с образовательной технологической компанией Arist и соответствует Плану действий Белого дома по ИИ и стратегии America’s Talent Strategy. Программа охватывает пять направлений: основы ИИ, практические применения, работу с запросами, оценку результатов и ответственное использование. По заявлению ведомства, курс призван подготовить работников к экономике, основанной на ИИ, и расширить доступ к соответствующим навыкам и возможностям.

#ИИ #ИИграмотность

822

Showing 30 of 44 posts

Рейтинг

Требуется вход

Отзывы пользователей (0)

Пока нет отзывов. Будьте первым, кто поделится своим опытом!

ИИ & Право

ИИ & Право

Рейтинг

Рост участников (Последние 5 дней)

Последние посты

Рейтинг

Отзывы пользователей (0)

Похожие каналы Telegram

Магазин цифровых товаров YanGoShop(@yangosart)

Финтехстан

Горизонт событий | Event horizon

Новости в 3д сфере. Stl news 3d models. Видео по 3D

Электрион Клуб

TMT Channel

ИнфоТЭК

Афонтово

Похожие каналы Telegram

Магазин цифровых товаров YanGoShop(@yangosart)

Финтехстан

Горизонт событий | Event horizon

Новости в 3д сфере. Stl news 3d models. Видео по 3D

Электрион Клуб

TMT Channel

ИнфоТЭК

Афонтово

Отзывы пользователей (0)

Последние посты