Искусственный интеллект уже стал рабочим инструментом сотрудников. Но корпоративные процессы контроля за ним развиваются медленнее самого использования технологии.
Проблема возникает не тогда, когда AI ошибается: ошибаться может и человек. Риск появляется тогда, когда результат системы проходит дальше по бизнес-процессу как проверенный, хотя фактически его никто не проверял.
Использовать AI научились быстрее, чем проверять его работу
Опрос Resume Now среди 1 000 работающих взрослых в США показывает один из симптомов этой проблемы: между использованием искусственного интеллекта и систематической проверкой его результатов уже возник заметный разрыв.
Эти цифры нельзя интерпретировать как доказательство того, что треть сотрудников бездумно принимает любой ответ системы. Разные задачи требуют разной глубины контроля: черновик внутреннего письма и расчёт, который используется для управленческого решения, создают принципиально разные риски.
Но исследование указывает на более широкую проблему: использование AI может распространяться быстрее, чем организации формируют практики проверки его результатов.
В России AI-навыки уже вышли далеко за пределы отдельных технологических команд
Для российского рынка вопрос контроля становится всё более практическим. По данным Обследования рабочей силы Росстата за 2025 год, проанализированным ИСИЭЗ НИУ ВШЭ, навыками работы с технологиями искусственного интеллекта обладают 37,5% занятого населения России.
ИСИЭЗ НИУ ВШЭ обращает внимание ещё на одну важную особенность: освоение AI-навыков работниками опережает формально заявленный спрос работодателей. Самым распространённым остаётся базовый уровень — способность использовать стандартные AI-сервисы через готовые пользовательские интерфейсы.
Это меняет характер корпоративного риска. Порог входа в AI становится низким, а порог качественной проверки его результата — нет. Сотруднику уже не требуется специальная техническая подготовка, чтобы передать системе рабочую задачу, получить анализ, рекомендацию или готовый документ.
AI при этом уже используется непосредственно в работе с персоналом. Анализ ИСИЭЗ НИУ ВШЭ, основанный на обследовании Росстатом свыше 15 тыс. крупных и средних организаций — пользователей AI, показывает, что управление персоналом входит в число распространённых направлений применения технологии.
Компания может контролировать AI на бумаге — и не видеть его реального использования
Отдельная проблема возникает, когда сотрудники используют AI быстрее, чем компания успевает предоставить корпоративные инструменты, определить допустимые сценарии и установить правила работы с данными.
Исследование корпоративного мессенджера «Пачка», проведённое летом 2026 года среди 798 сотрудников российских компаний, показывает именно такой разрыв. 88% опрошенных сообщили, что используют AI, однако только 24% ответили, что в их компании технология внедрена официально — с инструментами и правилами.
Если сотрудник выполняет рабочую задачу через личный AI-аккаунт, компания может не знать, какой инструмент используется, какие данные передаются системе, как хранится история запросов и где результат AI затем участвует в принятии решений.
Поэтому контроль AI нельзя сводить к инструкции «проверяйте ответы». Организации необходимо понимать ещё и где, для каких задач и в каком технологическом контуре сотрудники используют AI.
Выборка исследования «Пачки» не является репрезентативной для всего российского рынка труда и заметно представлена сотрудниками цифровых функций. Поэтому эти показатели корректнее рассматривать как сигнал о характере проблемы, а не как оценку распространённости теневого AI среди всех российских работников.
Источник: исследование «Теневой ИИ в российских компаниях» .
Почему «человек в контуре» ещё ничего не гарантирует
Во многих корпоративных подходах безопасность использования AI связывают с принципом human in the loop: окончательное решение остаётся за человеком. На уровне регламента это выглядит убедительно. На практике важно не само присутствие сотрудника в процессе, а то, что именно он способен сделать перед подтверждением результата.
Если система подготовила вывод, рекомендацию или документ, а человек лишь нажал «подтвердить», формально человеческое согласование состоялось. Содержательной проверки при этом могло не быть.
Особенно сложно это заметить, когда AI выдаёт хорошо структурированный и убедительно сформулированный результат. Качество формы легко принять за качество содержания. Но уверенная формулировка, аккуратная таблица или правдоподобная цифра сами по себе ничего не говорят о достоверности исходных данных и корректности вывода.
Пять условий реального человеческого контроля
Требование «решение должен проверить человек» имеет смысл только тогда, когда у сотрудника действительно есть возможность провести такую проверку. Для этого недостаточно добавить этап согласования в бизнес-процесс.
Проверять каждый ответ AI одинаково подробно не нужно
Универсальное требование перепроверять любой результат создаёт лишнюю нагрузку и быстро превращается в формальность. Глубина контроля должна зависеть от того, какие последствия может вызвать ошибка.
Для HR цена формального контроля особенно высока
В HR искусственный интеллект используется уже не только для подготовки текстов. Он помогает искать и ранжировать кандидатов, анализировать резюме, готовить вопросы для интервью, обрабатывать результаты опросов, работать с HR-аналитикой, формировать рекомендации по обучению и поддерживать другие решения о людях.
Поэтому ошибка системы может повлиять не только на качество документа, но и на решение о конкретном человеке.
Чем ближе AI к решению о человеке, тем важнее реальность человеческого участия
В российском законодательстве уже существует отдельное регулирование решений, принимаемых на основании исключительно автоматизированной обработки персональных данных.
Статья 16 Федерального закона № 152-ФЗ «О персональных данных» по общему правилу запрещает принимать на основании исключительно автоматизированной обработки персональных данных решения, которые порождают юридические последствия в отношении человека или иным образом затрагивают его права и законные интересы. Закон предусматривает отдельные исключения, в том числе наличие письменного согласия субъекта персональных данных или случаи, прямо предусмотренные федеральными законами.
Для HR это важное различие. Чем ближе AI находится к решению о найме, оценке, вознаграждении, перемещении или прекращении трудовых отношений, тем важнее понимать, является ли человек реальным субъектом решения или только формально подтверждает автоматически сформированный результат.
Источник: статья 16 Федерального закона № 152-ФЗ .
AI в HR: исследования, кейсы и практика применения
В тематическом хабе HR-КУХНИ собраны исследования, кейсы и практические материалы об использовании искусственного интеллекта в подборе, HR-аналитике, обучении, оценке персонала и других HR-процессах.
Перейти в хаб AI в HR →Проверка результата AI становится отдельным рабочим навыком
На первом этапе корпоративного внедрения AI компании в основном учили сотрудников формулировать запросы и выбирать инструменты. По мере распространения технологии этого становится недостаточно.
Сотруднику необходимо уметь проверить не только то, насколько убедительно выглядит ответ, но и то, на чём он построен.
При этом качество контроля напрямую зависит от профессиональной экспертизы самого сотрудника. Чтобы обнаружить ошибку AI в трудовом законодательстве, HR-аналитике, оценке персонала или компенсациях, необходимо достаточно хорошо понимать предмет.
Что стоит изменить в корпоративной практике
Контроль AI не должен превращаться в новый слой бюрократии. Задача компании — определить несколько точек, где цена ошибки действительно требует дополнительной проверки, и встроить контроль именно туда.
Семь вопросов, которые покажут, контролирует ли компания AI на самом деле
Когда AI участвует в решениях о кандидатах
Проблема человеческого контроля особенно заметна в подборе. AI используется работодателями для обработки информации о кандидатах, но одновременно сами кандидаты применяют генеративные инструменты для подготовки резюме, сопроводительных писем и ответов.
В результате HR сталкивается сразу с двумя задачами: контролировать качество собственных AI-инструментов и одновременно перестраивать способы проверки компетенций кандидата.
Подробнее об этом — в материале HR-КУХНИ «Резюме перестаёт быть доказательством компетентности: как нанимать, когда кандидаты используют AI» .
Следующий этап внедрения AI — переход от масштаба использования к качеству управления
Компании уже научились считать количество AI-пользователей, лицензий, автоматизированных сценариев и внедрённых инструментов. Но высокая интенсивность использования технологии ещё ничего не говорит о качестве контроля её результатов.
Следующая метрика зрелости сложнее: сколько решений, подготовленных с помощью AI, организация действительно способна контролировать.
Поэтому вопрос для HRD постепенно меняется. Не только «используют ли наши сотрудники AI?», а «в каких процессах мы готовы доверять результату AI, как мы его проверяем и кто способен сказать системе нет?»
Именно здесь проходит граница между внедрением AI и управляемым внедрением AI.
Источники
Resume Now / HR Executive.
Опрос 1 000 работающих взрослых в США. Около 40% респондентов сообщили, что проверяют результат AI каждый раз, около 35% — редко или лишь время от времени.
HR Executive: 1 in 3 employees rarely check AI's work
Росстат / ИСИЭЗ НИУ ВШЭ.
Данные Обследования рабочей силы за 2025 год о распространении навыков работы с технологиями искусственного интеллекта среди занятого населения России.
Навыки работы с AI на российском рынке труда
Росстат / ИСИЭЗ НИУ ВШЭ.
Анализ применения технологий искусственного интеллекта российскими организациями на базе обследования свыше 15 тыс. крупных и средних организаций — пользователей AI.
Применение искусственного интеллекта в российских компаниях
«Пачка».
Исследование использования AI среди 798 сотрудников российских компаний, проведённое с 30 июня по 18 июля 2026 года.
Теневой AI в российских компаниях
Федеральный закон № 152-ФЗ «О персональных данных».
Статья 16 — права субъектов персональных данных при принятии решений на основании исключительно автоматизированной обработки их персональных данных.
Статья 16 Федерального закона № 152-ФЗ