Основной риск искусственного интеллекта — это снятие ответственности с ответственного лица, заявил член СПЧ Игорь Ашманов на заседании Совета по развитию гражданского общества и правам человека с президентом РФ.
«"Это решил искусственный интеллект“ — это прям мощная тенденция. И это все приводит к такому наиболее грозному риску, как я считаю, — это возникновение нового вида такой цифровой власти, которую никто никому не делегировал — ни выборами, ни вашим распоряжением. Когда просто люди получают власть по факту доступа к данным граждан и возможности управлять их судьбами», — сказал Ашманов.
По его мнению, бесконтрольное использование школьниками и студентами искусственного интеллекта в рамках обучения приводит к выхолащиванию образования.
«Когда разговариваешь с учителями, с родительскими сообществами, они говорят, что происходит массовое, повальное выхолащивание образования. Школьники и студенты получают задания, отдают их в искусственный интеллект. А потом, не читая, сдают обратно. У них возникает идея, что знать не обязательно, надо сдать», — сказал Ашманов.
▪️При этом, по его словам, рушится авторитет преподавателя, для обучающихся авторитетом становится искусственный интеллект. В вузах, по данным Ашманова, подавляющее количество работ генерируется автоматически.
«Преподаватели вынуждены снова перейти на опрос вживую, очень часто человек приносит диплом и не может объяснить основные термины в этом дипломе. Через год, два, три эти люди попадут в промышленность, в оборонку и так далее, будут там тоже имитировать работу», — сказал Ашманов.
Кроме того, подавляющее число работ учащихся генерируется с использованием искусственного интеллекта, часто используются взломанные западные системы, которые не имеют ограничений на вредные советы, отметил эксперт.
«Школьники и студенты получают задания, отдают их в искусственный интеллект, потом, не читая, сдают обратно, и у них возникает идея, что знать необязательно, надо сдать. При этом рушится авторитет преподавателя, для них авторитетом сейчас становится искусственный интеллект», — сказал Ашманов в ходе заседания Совета.
▪️Владимир Путин согласился с экспертом и добавил, что развитие искусственного интеллекта несёт в себе риски размытия идентичности и умения молодого поколения думать.
«Если использовать это [ИИ] бездумно, то это тоже может привести к утрате как раз всего того, что нам дорого, — нашей идентичности, и к распылению информации, больших данных, передаче этой информации в руки тех, кто воспользуется [как] минимум недобросовестно этой информацией и так далее», — добавил Путин.
То же самое, по его словам, касается сферы образования. «Нам ни в коем случае нельзя потерять поколение совсем молодых наших граждан, которые вместо того, чтобы думать, будут просто нажимать кнопочку и все, и сами не будут в состоянии решать элементарные задачи по математике, физике, химии, да и историю знать как следует не будут», — сказал Путин.
▪️Кроме того глава государства предостерёг, что развитие искусственного интеллекта может привести к риску формирования «умной» элиты и остального населения, которое утратит навыки самостоятельного мышления. По его словам, этого нельзя допустить.
Путин отметил, что ИИ способен эффективно помогать людям, однако «ответственность за принятие окончательного решения должна лежать на конкретном человеке».
«И ссылка на то, что это подсказал искусственный интеллект, не должна приниматься. Значит, это потребует от любого специалиста необходимости проверить, пересчитать, пересмотреть», — сказал Путин.
Он подчеркнул, что важны принципы использования помощи ИИ при принятии решений. Ашманов доложил, что в СПЧ почти готов законопроект о безопасном использовании искусственного интеллекта.
«Основная мысль законопроекта в том, что нужно стимулировать развитие искусственного интеллекта в промышленности, обороне и так далее, но в сфере публичной политики, в госуправлении, в социальной сфере, в образовании использование искусственного интеллекта должно быть серьезно отрегулировано», — пояснил эксперт.
https://telegra.ph/II-dvulikij--katalizator-NTR-i-zapadnya-na-puti-socialnogo-razvitiya-12-10
#нейросети #образование