Главная проблема ИИ
Меня зовут Алексей Парфун, я — бизнесмен в сфере ИИ, нейроэнтузиаст и владелец телеграм-канала «Полезный Парфун»
https://t.me/ParfunA.
Большинство разговоров об ИИ-рисках крутятся вокруг одного и того же: галлюцинации, утечки данных, юридические вопросы, ну и, конечно же, «нас всех заменит ИИ, что делать, чему учиться?».
Темы понятные и вполне измеряемые. Но есть риск, который почти никто не называет вслух, а он, на мой взгляд, опаснее всех перечисленных во много раз. Дело в том, что ИИ не создает плохих решений, он ускоряет те, что уже есть. И ускоряет он одинаково успешно — как хорошие, так и плохие.
Если в компании кривой процесс согласования — ИИ пройдет его быстрее. Если бриф плохо составлен — генеративный ИИ выдаст двадцать вариантов контента, все одинаково мимо цели.
В декабре 2024 года UCL опубликовал результаты серии экспериментов с более чем 1 200 участниками. Люди, взаимодействующие с предвзятыми ИИ-системами, сами становятся еще более предвзятыми, возникает эффект снежного кома, при котором незначительные искажения в исходных данных усиливаются алгоритмом, а затем дополнительно усиливаются самим пользователем.
Отдельный феномен — это выключенное критическое мышление при взаимодействии с ИИ-системами. Люди слишком доверяют автоматизированным рекомендациям. Это особенно заметно в важных сферах, таких как здравоохранение, юриспруденция и государственное управление. Исследования показывают, что даже опытные сотрудники часто зеркалят ответы ИИ, в том числе несправедливые и недостоверные. Наличие человека в процессе далеко не всегда гарантирует контроль.
Так что главный подвох внедрения ИИ в том, что скорость маскирует настоящую проблему.
Команда видит, что «ИИ работает», контент производится, отчеты генерируются, кандидаты фильтруются. Но качество никто не замерял до внедрения, да и сравнивать не с чем. Через полгода оказывается, что компания просто автоматизировала собственные дисфункции, только теперь это происходит в десять раз быстрее и выглядит как прогресс.
Многие компании все активнее интегрируют ИИ в процессы принятия решений, и в такой ситуации когнитивные предубеждения сотрудников — один из наиболее игнорируемых факторов риска. При этом именно этот фактор сложнее всего зафиксировать и исправить постфактум, для этого нужно провести очень много предварительной работы.
Настоящая работа перед внедрением ИИ — не выбор инструмента и не пилот, а аудит процессов, которые ты собираешься ускорять.
Где у нас решения принимаются по инерции? Где данные отражают прошлое, а не желаемое? Где люди уже сейчас не задают вопросов, которые должны задавать?
Если не знаешь ответов, ИИ эти вопросы не устранит.
#авторская_колонка
😎 Подписаться на Т-Бизнес секреты
