На вебинаре «Отделяем зерна от плевел: где нам нужны нейросети, а где автоматизация?» мы представили результаты исследования по применению искусственного интеллекта (ИИ) в оценке персонала. Рубен Арутюнян, IT‑директор SHLTOOLS, не разделяет восторг той части респондентов, которые стремятся отдать на откуп ИИ как можно больше процессов. «Я не считаю себя нейроскептиком, я считаю себя реалистом», — отметил Рубен в начале выступления и объяснил, почему не стоит воспринимать нейросети как самостоятельного эксперта.
По мнению Рубена Арутюняна, главная ошибка пользователей — это приписывать современным нейронным моделям качества, которых у них нет. Генеративный ИИ не размышляет и не понимает смысл информации, он только прогнозирует каждое следующее слово в ответе, опираясь на вероятности из данных, которые встречались в обучающих материалах. Поэтому нейросети не умеют проверять факты.
Если информации по теме запроса в обучающем корпусе недостаточно, модель формирует ответ, который выглядит убедительно, хотя факты и цитаты в нем могут быть придуманы от начала и до конца. Кроме того, на качество ответов генеративного ИИ напрямую влияют перекосы в обучающих данных, а часто это большое количество непроверенного контента из интернета. Честно ответить «я не знаю» нейронка не может, разработчики заинтересованы удерживать пользователей. Даже ответить одинаково на один и тот же вопрос нейронка не может. Не говоря уже о том, что контент по определенному бренду или запросу может быть «отравлен» достаточно быстро: если в течение года конкурент, например, будет постить негативные статьти, результаты выдачи в ИИ-поиске и в нейронке будут нести этот негатив пользователям.
Консультироваться с генеративным ИИ по темам, где качественных открытых данных немного, нельзя, уверен Рубен Арутюнян. Это относится к бизнесу, психологии, управлению и другим экспертным областям. По мнению спикера, наибольшая опасность возникает не сразу, а спустя время. Пока результаты работы ИИ проверяют опытные специалисты, риски остаются управляемыми. Но постепенно сотрудники начинают доверять нейронкам все больше, перестают перепроверять ответы и одновременно теряют собственную экспертизу.
Еще один риск связан с тем, что модели постоянно меняются. Рабочие сценарии и промпты могут перестать давать прежний результат после обновления, а новые сотрудники зачастую продолжают пользоваться ими без понимания, как именно должен выглядеть корректный ответ. Использование материалов, сгенерированных ИИ, без проверки может привести к ошибкам в документах, ссылкам на несуществующие источники или неверным выводам. Так возникают юридические и репутационные риски.
Главная проблема генеративного ИИ — не ошибки сами по себе, а то, насколько убедительно они выглядят. Именно поэтому эксперт призывает относиться к ИИ только как к инструменту, который способен ускорить работу, но не заменить критическое мышление, профессиональный опыт и обязательную проверку результатов. Окончательное решение всегда должно оставаться за человеком.
При этом, признает Рубен, искусственный интеллект может быть полезен как инструмент предварительного анализа. Например, с его помощью можно быстро найти потенциально проблемные пункты в объемном договоре.
В следующем материале мы расскажем о выступлении второго эксперта вебинара Лидии Капитановой, директора по маркетингу компании «Бизнес Психологи».
Если вы хотите познакомиться с полными результатами исследования, заполните форму на сайте по ссылке и получите отчет. В нем собраны ключевые выводы и практические рекомендации для компаний.
