Касперская назвала избыточное доверие к ИИ одной из главных актуальных проблем
▪️Избыточное доверие к искусственному интеллекту становится одной из существенных проблем современности. Таким мнением в ходе конференции "Цифровая индустрия промышленной России" (ЦИПР) поделилась президент группы компаний InfoWatch Наталья Касперская.
"Поскольку все сейчас про искусственный интеллект говорят, считают, что это модно <…>, то создается чрезмерное доверие. Особенно, конечно, у гуманитариев. Они сразу впадают в восторг, что машина говорит как человек, и начинают довольно безгранично доверять машине. Но в целом, это действительно проблема, что есть некое избыточное доверие, системе искусственного интеллекта доверяют больше, чем доверяли бы, ну, каким-то другим там информационным технологиям", - сказала она.
Кроме того, Касперская обратила внимание на проблему неконтролируемого использования генеративных моделей внутри компаний. Сотрудники самостоятельно приобретают доступы к различным моделям и используют их неконтролируемым образом для рабочих задач, что создает дополнительные угрозы безопасности.
"Мы в нашей компании сильно озаботились применением искусственного интеллекта у себя в разработке. <…> Вот мы сейчас продумали у себя три модельки. Мы их ограничиваем, мы их контролируем. <…> То есть мы на самом деле очень осторожно подходим к генеративному искусственному интеллекту, ну, потому, что мы как бы понимаем про безопасность, и, естественно, вот не так, что вот бум и поплыли, сразу, вот сейчас нам искусственный интеллект все нагенерит", - рассказала Касперская.
▪️При этом она признала, что у искусственного интеллекта есть и неоспоримые преимущества. Технологии ИИ и генеративные модели позволяют значительно ускорить многие процессы. Однако, по мнению Касперской, для эффективного и безопасного использования этих инструментов необходимо четко осознавать все сопутствующие риски и разрабатывать механизмы их минимизации.
Фото: © Вероника Зорина/ ТАСС
#нейросети
Подписывайтесь на ТАСС-Аналитику в https://max.ru/join/t4sWsYMbLunQQtX6GmvlV4T61kWEFN2_9TB69TFrJjo и https://dzen.ru/analityctass.
