Представьте что в компанию наняли очень умного, но бенынициативного сотрудника, но в компании некому проверить качество его работы (в силу того что нет такого специалиста)
Представили?
Без внешних амбициозных целей и контроля качества, сотрудник начнет работать по пути наименьшего сопротивления. Он будет выдавать ровно столько, чтобы к нему не было претензий, тратя на это 10% своего потенциала. Поскольку его никто не может проверить, он будет выбирать инструменты и методы, которые удобны лично ему, а не бизнесу.
Он может переусложнить систему (overengineering), чтобы ему было интересно. В итоге компания получит продукт, который никто, кроме него, не сможет поддерживать. Это создает «риск незаменимого сотрудника». Без экспертной оценки «сверху» или «наравне», планка качества постепенно падает. Сотрудник понимает, что даже посредственный (для его уровня) результат воспринимается руководством как магия. Со временем он перестает следовать лучшим практикам, так как «и так сойдет, всё равно никто не поймет». Руководство начнет полностью полагаться на его оценки сроков и сложности задач. Безынициативный сотрудник будет завышать сроки (раздувать буферы), чтобы сохранять комфортный темп. Бизнес станет менее маневренным, не понимая, что задачи на самом деле могут решаться в разы быстрее. Плюс такой может легко уволиться, если вдруг его привлекут большей зарплатой и более сложными задачами. Компания получает «черный ящик», который работает стабильно, но не приносит инноваций, обходится неоправданно дорого и может «сломаться» (уволиться) в любой момент, оставив после себя неподдерживаемый код или процессы.
Если вы знали это (сталкивались с подобным), то задумайтесь - с ИИ без специалиста вы получите почти то же самое. Если вы используете ИИ для ускорения работы - это одно. Если вы используете ИИ для работы - это совсем другое.
И вот почему
- Поскольку проверять качество некому, любые ошибки ИИ (фактические, логические или архитектурные) будут восприниматься как экспертное мнение. Компания начнет строить стратегию на основе уверенно поданной дезинформации.
- Безынициативность ИИ означает, что он делает только то, что попросили. Если бизнес-заказчик не умеет ставить глубокие задачи, он будет использовать мощнейший инструмент для написания простых писем. Это «забивание микроскопом гвоздей»: ресурс огромен, но выхлоп минимален.
- Сотрудники, видя, что «умный помощник» выдает готовые решения, перестанут думать сами. Поскольку контроля качества нет, навыки критического мышления у людей атрофируются. Если ИИ завтра начнет ошибаться, в компании не останется никого, кто сможет подхватить работу
- ИИ может находить кратчайшие пути решения задачи, которые формально верны, но вредны в долгосроке. Например, он может написать код, который работает сейчас, но абсолютно не масштабируется. Без аудитора этот «технический мусор» будет накапливаться, пока система не рухнет
- ИИ не обладает эмпатией и пониманием бизнес-целей («зачем мы это делаем?»). Он будет безупречно выполнять задачи, которые, возможно, вообще не нужно выполнять. В итоге компания может прийти к «идеально исполненному краху».
Поэтому да, как я писал про сокращения, ИИ нужен в руках специалиста. В руках неспециалистов в бизнесе он сделает в долгосрочке только хуже.
