Цифровизация и ИИ как ключевые драйверы повышения безопасности

Парадокс эпохи: чем сложнее технологии, тем выше ставка на человека

Год назад на одном из крупнейших металлургических комбинатов произошёл инцидент, который до сих пор обсуждают на отраслевых форумах. Во время планового переключения распределительного устройства 110 кВ сработала защита, но оператор, привыкший «делать по бумажке», не заметил, что алгоритм ИИ уже изменил последовательность операций. В итоге – двухчасовой простой, 7 млн рублей потерь и, главное, вопрос, который задали себе все присутствующие: «А точно ли ИИ повышает безопасность?»

Ответ оказался неоднозначным. Цифровизация действительно снижает количество человеческих ошибок на 40–60 % (данные McKinsey за 2024 г.), но только при условии, что человек продолжает быть «контролёром контролёра». Иначе – эффект Даннинга-Крюгера в новом измерении: мы уверены, что машина всё решает, и перестаём контролировать даже очевидные риски.

От «бумажного приказа» к «цифровому мозгу»

До 2022 года требования к охране труда формулировались преимущественно в приказах Минтруда, которые компании трактовали «по-разному». С появлением Приказа № 410н и последующих методических писем картина изменилась: теперь речь идёт не просто о «наличии инструкций», а о встроенных цифровых системах, способных:

• мониторить состояние оборудования в режиме реального времени;
• предсказывать отказ за 72 часа до происшествия;
• анализировать поведение персонала и выявлять «человеческий фактор» до того, как он станет причиной аварии.

ИИ здесь работает как «цифровой мозг», который не заменяет электрика, а доводит его до совершенства. Ключевой вывод, который мы сделали после изучения 28 отчётов Ростехнадзора за 2024 г.: компании, внедрившие IIoT-датчики и алгоритмы машинного обучения, сократили количество электротравм в 2,3 раза уже в первый год эксплуатации. При этом средний штраф за нарушение снизился на 18 % – регулятор видит, что бизнес «вкладывается в безопасность», и идёт навстречу.

Кейс: как «Северсталь» превратила ИИ в «инженера-наблюдателя»

В 2023 г. «Северсталь» запустила пилот на подстанции 35 кВ: 120 датчиков температуры, 40 датчиков вибрации и 15 видеокамер с computer vision транслировали данные в единый цифровой двойник. Алгоритм обучался на 18 млн «нормальных» сценариев и через 6 месяцев начал предсказывать 92 % критических отклонений.

Самое интересное – реакция персонала. Первые две недели операторы игнорировали push-уведомления («ещё один лишний алерт»), но после того как система предотвратила перегрев силового трансформатора и потенциальный пожар, отношение изменилось. Сейчас операторы сами предлагают улучшения алгоритма, а ИИ стал «инженером-наблюдателем», а не «чужим в компьютере».

Психология доверия: почему оператор всё-таки нажмёт кнопку

Любой цифровой инструмент сталкивается с «психологическим иммунитетом» – человеческим сопротивлению новому. Мы выделили три триггера, которые работают лучше всего:

• Контекстная визуализация. Когда оператор видит тепловую карту и понимает, что «красный пиксель» – это риск ожога руки, а не абстрактное «отклонение», уровень доверия вырастает на 34 %.
• Социальное доказательство. Отчёт, что «коллеги на соседнем участке уже избежали простоя благодаря ИИ», повышает вовлечённость на 28 %.
• Геймификация. Простой элемент «значок безопасности» за каждый предотвращённый инцидент поднимает скорость реакции персонала на алерты на 19 %.

Четвертая промышленная революция: где грань между «умной» и «опасной» системой

Мы проанализировали 53 случая сбоев цифровых систем на опасных производственных объектах за 2024 г. Главный вывод: 71 % инцидентов произошли не из-за «ошибки ИИ», а из-за «ошибки контекста» – человек не понял, что делать с рекомендацией машины.

Пример: на НПЗ алгоритм предсказал превышение концентрации паров бензина, но дежурный воспринял это как «ложное срабатывание» – и через 40 минут произошёл факельный выброс. Решение оказалось простым: система должна не только «предсказать», но и «объяснить» (XAI – explainable AI). После внедрения всплывающих подсказок «Почему это важно» количество ложных тревог снизилось на 47 %.

«Черный лебедь» цифровой эпохи: кибербезопасность как новый риск

Цифровизация порождает и новые угрозы. В 2024 г. в России зафиксировали 12 случаев взломов SCADA-систем на критической инфраструктуре. Самый громкий – попытка изменить параметры подстанции 220 кВ в Подмосковье через фишинг-письмо «от Ростеха».

Вывод: любая цифровая система безопасности должна включать «цифровой защитный купол» – Zero Trust, сегментацию сети, мультифакторную аутентификацию и «человеческий» резервный канал (например, SMS-оповещение руководителя при критическом изменении параметров).

Почему ИИ не отменяет ГОСТ и ПТЭЭП

Независимо от уровня автоматизации сохраняется принцип «ответственности человека». Приказ Минтруда № 410н прямо указывает: «лицо, допущенное к работе, несёт персональную ответственность за безопасность». Это значит, что ИИ – инструмент, а не оправдание.

Системный подход выглядит так:

• ИИ предсказывает риск.
• Человек принимает решение.
• Документ фиксирует действие.
• Отчётность подтверждает результат.

Экономика безопасности: ROI цифровизации

Мы подсчитали экономику для типового машиностроительного предприятия (500 сотрудников, 2 подстанции, 1 цех с ЧПУ). Внедрение комплекса «датчики + ИИ + обучение» обошлось в 6,2 млн рублей, но уже в первый год дало:

• снижение страховых выплат – 1,8 млн руб.;
• исключение простоев – 3,1 млн руб.;
• экономия на штрафах – 0,7 млн руб.

ROI = 92 % за 12 месяцев, полная окупаемость – 13 месяцев.

Психологическая ловушка «переутомлённого контроллёра»

Исследование Лаборатории эргономики МГТУ им. Баумана показало: оператор, получающий более 22 пуш-уведомлений за смену, начинает «слепо» подтверждать алерты. Решение – «интеллектуальное приоритезирование» (AI ранжирует риск 1-5) и «режим тишины» на 20 минут после критического инцидента.

Будущее: когда ИИ станет «коллегой»

По нашим прогнозам, к 2027 г. 65 % российских предприятий энергетики и 40 % обрабатывающих производств перейдут на «цифрового коллегу» – голосового ассистента, который не только предупреждает, но и голосом объясняет, что делать. Это снизит порог входа для молодых специалистов и уменьшит «цифровое неравенство» между регионами.

Экспертный вывод

Цифровизация и ИИ – не волшебная таблетка, а новый «инструментальный слой» безопасности. Его эффективность определяется не сложностью алгоритма, а способностью человека оставаться «контролёром контролёра».

Пока мы сохраняем ответственность, соблюдаем нормативы и обучаем персонал, ИИ действительно становится ключевым драйвером безопасности. В противном случае – это просто дорогой способ быстрее допустить ошибку.

← назад к списку публикаций