❓Можно ли доверять данным, которые дает ИИ?
Предлагаем ознакомиться с чек-листом от экспертов Школы бизнеса.
Нейросети умеют убедительно оформлять ответы, но по https://habr.com/ru/companies/beeline_cloud/articles/946636/ чат-боты генерируют некорректную информацию в 3–27% случаев в зависимости от модели.
❗️Для исследователя это критично
Ниже – чек-лист: что проверять, если ИИ нашел для вас данные.
1️⃣Существует ли источник
Нейросети могут ссылаться на статьи, которых нет в вообще: правдоподобное название, реальные авторы, несуществующая работа. Проверяйте каждую ссылку в eLibrary, Google Scholar или CyberLeninka. Если статья не находится ни в одной базе, скорее всего, она выдумана.
2️⃣ Не отозвана ли статья
Даже если публикация существует, она может быть ретрагирована, а ИИ не различает действующие и отозванные публикации. В базе https://retractionwatch.com/ на конец 2024 года числилось более https://retractionwatch.com/2024/12/26/a-look-back-at-2024-at-retraction-watch-and-forward-to-2025/ Для российских журналов есть https://rassep.ru/retracted/
3️⃣ Совпадают ли цифры с первоисточником
Модель может взять реальное исследование, но исказить его результаты: округлить, перепутать год, приписать выводы другому автору. Открывайте первоисточник и сверяйте конкретные числа, даты и формулировки.
4️⃣ Актуальны ли данные
Языковые модели обучаются на данных, ограниченных определенным временным срезом. Информация о законах, стандартах или статистике может быть устаревшей. Проверяйте, какому году соответствуют данные, и ищите актуальную версию в официальных источниках.
5️⃣ Корректна ли интерпретация
ИИ может точно передать цифру, но вырвать ее из контекста или сделать неверный вывод. Если модель пишет, что показатель вырос в два раза, проверьте, какой именно показатель, за какой период и по какой методологии.
6️⃣ Нет ли подмены авторитета
Нейросети иногда приписывают данные не тем организациям. Например, ссылаются на РАН или Росстат, хотя те ничего подобного не публиковали. Если ссылка ведет на конкретную организацию, проверяйте информацию на ее официальном сайте.
7️⃣ Воспроизводится ли результат при повторном запросе
Задайте тот же вопрос нейросети еще раз. Если ответы существенно расходятся, значит, модель генерирует данные на основе вероятностей, а не извлекает их из проверенных источников.
Число https://www.forbes.ru/tekhnologii/551699-rabota-nad-osibkami-rostelekom-zafiksiroval-rost-publikacij-o-gallucinaciah-ii ИИ с 2022 по 2025 год выросло на 377%. Проблема становится масштабнее, и навык критической проверки данных от ИИ сегодня нужен каждому исследователю.
Освоить навыки этичной работы с ИИ в научной и образовательной деятельности можно на онлайн-курсе МГИМО https://mba.mgimo.ru/edu/metodologiya-i-etika-primeneniya-generativnogo-iskusstvennogo-inte Слушатели научатся полному циклу работы с научным текстом, используя ИИ – грамотно и с сохранением авторского стиля.
👉Подробности: http://mba.mgimo.ru/edu/metodologiya-i-etika-primeneniya-generativnogo-iskusstvennogo-inte
