В завершение вебинара «Отделяем зерна от плевел: где нам нужны нейросети, а где автоматизация?» участники перешли от обсуждения возможностей и ограничений ИИ к практичному вопросу: как оценить вендора ИИ-решения?
Важно понять, как именно работает продукт, насколько его результаты можно проверить и кто в конечном итоге несет ответственность за принимаемые решения. Предлагаем чек-лист из 6 вопросов.
Если поставщик не может объяснить принцип работы системы понятным языком, стоит задуматься, насколько хорошо он сам понимает ограничения собственного продукта. Как отметил один из спикеров: «Если на уровне продажи люди понимают, как работают нейросети и какие у них ограничения, вероятность того, что вам продадут полную ерунду, становится значительно ниже».
Важно знать, какие возможности системы можно контролировать, а какие — нет. Полностью «отключить» отдельные особенности генеративных моделей невозможно. Многие ограничения существуют скорее как настройка поведения модели, чем как жесткое техническое правило.
Если ИИ используется при работе с персональными данными, оценкой сотрудников или подготовкой документов, вопросы юридической экспертизы становятся обязательными. Стоит заранее выяснить, как продукт соответствует требованиям законодательства и кто несет ответственность за возможные ошибки.
Еще один важный вопрос — какие модели и наборы данных лежат в основе решения. Наличие валидизированных данных, прозрачной методологии и понятных источников значительно повышает доверие к результатам. Если поставщик не может ответить на этот вопрос, стоит отнестись к выводам системы особенно осторожно.
Помимо защиты персональных данных, важно понимать, где именно обрабатывается информация, какие внешние сервисы используются и покидают ли данные корпоративный контур. Эксперты отмечают, что пользователю далеко не всегда очевидно, какая ИИ-модель фактически обрабатывает запрос и где именно происходит анализ данных.
Пожалуй, самый важный вопрос к вендору: откуда берутся рекомендации ИИ. Если система не может показать, какие данные легли в основу вывода или каким образом был получен результат, доверять таким рекомендациям стоит с большой осторожностью. Как прозвучало на вебинаре: «Если вам соврали, вы не узнаете. Механизмов проверить это сегодня практически нет».
Финальный вывод вебинара оказался созвучен всей дискуссии. Искусственный интеллект способен значительно повысить эффективность работы HR, но только при ответственном использовании. «Мы все-таки за здравый смысл», — подчеркнули спикеры, отметив, что именно критическое мышление, прозрачность процессов и профессиональная экспертиза остаются основой качественной оценки персонала.
Исследование продолжается: команда проекта договорилась с участниками возвращаться к ним каждые полгода, чтобы отслеживать, как меняется практика использования ИИ в HR и какие новые сценарии появляются на рынке.
Запись вебинара доступна для просмотра на нашем Rutube-канале.
Если вы хотите познакомиться с полными результатами исследования, заполните форму на сайте по ссылке и получите отчет. В нем собраны ключевые выводы и практические рекомендации для компаний.
Оставьте свои контактные данные и наш специалист свяжется с вами в ближайшее время.