Когда сотрудники и разработчики самостоятельно внедряют новые инструменты, ИТ-отделы часто узнают об этом только тогда, когда эти решения уже глубоко интегрированы в рабочие процессы. Ярким примером этой тенденции стал популярный ИИ-агент OpenClaw. На первый взгляд, он предлагает лишь удобство — автоматизирует рутину, отправляет сообщения и управляет задачами. Однако за кулисами этот инструмент обладает широчайшими полномочиями: он хранит учетные данные, выполняет системные команды и подключается к различным платформам без какого-либо контроля со стороны администраторов.
Рост популярности OpenClaw и скрытые угрозы
Популярность OpenClaw резко возросла сразу после релиза. Агент запускается локально на компьютерах пользователей, подключается к мессенджерам, инструментам разработки и календарям. Его архитектура состоит из локального шлюза, координирующего подключенные узлы, которые могут выполнять системные команды и получать доступ к файлам.
Эксперты отмечают, что подобные ИИ-агенты постепенно становятся операционным слоем современного бизнеса, однако меры безопасности за ними не успевают. По данным исследования Deloitte, 74% компаний планируют внедрить агентный искусственный интеллект в течение двух лет, но лишь 21% из них имеют зрелую модель управления такими технологиями. Этот разрыв делает инструменты вроде OpenClaw невидимой, но крайне опасной угрозой для корпоративной безопасности.
Что обнаружили исследователи Oasis Security
Специалисты по информационной безопасности из Oasis Security выявили критическую уязвимость в OpenClaw, которая наглядно иллюстрирует риски неконтролируемого использования ИИ. Выяснилось, что любой посещенный разработчиком веб-сайт мог тайно перехватить контроль над локальным агентом. Для этого злоумышленникам не требовалось устанавливать расширения или плагины, а также провоцировать пользователя на какие-либо действия.
Атака осуществлялась через локальный шлюз WebSocket, используемый OpenClaw. Вредоносный JavaScript-код на открытом сайте мог подключиться к этому шлюзу, подобрать пароль методом перебора (брутфорс) и зарегистрировать новое устройство как доверенное. После этого атакующие получали доступ к конфигурационным данным, логам и могли удаленно выполнять команды в подключенных системах. Фактически компрометация одного ИИ-агента приводила к полному взлому рабочей станции разработчика. Хотя разработчики OpenClaw выпустили исправление в течение суток, инцидент показал системную уязвимость всей концепции автономных агентов.
Проблема «теневого ИИ»
ИИ-агенты принципиально отличаются от традиционного программного обеспечения. Это автономные сущности, которые могут совершать многошаговые действия и взаимодействовать с внешней средой без контроля со стороны человека. Когда такие инструменты развертываются в обход ИТ-отдела, возникает феномен «теневого ИИ» (Shadow AI).
Подобные агенты работают незаметно, но обладают повышенными привилегиями. В результате следующая крупная утечка данных в компании может произойти не по вине человека, а из-за действий доверенной ИИ-системы, за которой никто не следил. По данным консалтинговой компании PwC, около 79% организаций уже в той или иной степени используют ИИ-агентов.
Как минимизировать риски: рекомендации экспертов
Для предотвращения угроз ИБ-специалисты рекомендуют компаниям предпринять следующие шаги:
- Провести инвентаризацию: необходимо выявить все ИИ-агенты, автономные помощники и локальные серверы больших языковых моделей (LLM) в инфраструктуре разработки.
- Своевременно устанавливать обновления: уязвимые версии ИИ-агентов, включая OpenClaw, должны обновляться в приоритетном порядке, аналогично критическим патчам безопасности операционных систем.
- Ограничить права доступа: следует строго контролировать привилегии, которыми обладают агенты, и применять принцип наименьших полномочий.
- Управлять цифровыми личностями агентов: к ИИ-агентам нужно относиться как к полноценным учетным записям. Важно внедрять анализ намерений для проверки предлагаемых агентом действий, использовать жесткие политики безопасности для предотвращения опасных операций и вести непрерывный аудит всех логов.
ИИ-агенты уже стали частью корпоративной реальности. Успех их масштабирования будет зависеть от того, успеют ли организации выстроить надежную систему контроля до того, как произойдет первый серьезный инцидент безопасности.