Новый доклад Королевского объединенного института оборонных исследований (RUSI) указывает на то, что модели искусственного интеллекта позволяют государственным режимам, в частности Северной Корее и Ирану, проводить кибероперации, успешно скрываясь от обнаружения. Эксперты предупреждают, что в ближайшие три-пять лет правительствам и частному сектору придется экстренно адаптировать протоколы безопасности, так как противники переходят от простого использования ИИ для отдельных задач к полностью автоматизированным системам обхода санкций и финансирования распространения оружия массового уничтожения (ФРОМУ).
Переход к автоматизированному обману
В исследовании под названием «Алгоритмы уклонения» отмечается, что КНДР и Иран активно внедряют ИИ-модели для поддержки своей деятельности. По словам обозревателей, ключевым изменением стал переход от «ИИ-содействия» к «ИИ-обеспечению». В первом случае технология используется для точечных задач (написание грамотного письма для фишинга или перевод документа), во втором — нейросети начинают координировать всю систему обмана целиком.
Согласно данным аналитиков, современные системы на базе ИИ способны решать следующие задачи:
- Массовое создание высококачественных поддельных документов, удостоверяющих личность.
- Автоматизация управления разветвленными сетями подставных компаний-пустышек.
- Анализ паттернов блокчейна в реальном времени для динамической настройки стратегий микширования криптовалют (скрытия следов транзакций).
- Проведение изощренных фишинговых атак против западных корпораций для хищения средств, направляемых на ядерные и ракетные программы.
Структурная асимметрия защиты и нападения
Эксперты указывают на наличие серьезной асимметрии между атакующими и защищающимися сторонами. Злоумышленники могут свободно обучаться на открытых данных, изучать паттерны работы правоохранительных органов и тестировать формы регистрации в различных сервисах. В то же время защитники ограничены правилами конфиденциальности, фрагментированными данными и строгими законодательными требованиями в разных юрисдикциях.
В обзоре отмечается, что многие организации до сих пор ошибочно воспринимают киберпреступников как медлительных и совершающих ошибки людей. Однако индустриализация обмана с помощью ИИ позволяет проводить больше попыток взлома с меньшим количеством ошибок, на разных языках и с безупречно подготовленной документацией.
Рекомендации по усилению безопасности
Для защиты от новых угроз техническим руководителям и специалистам по безопасности рекомендуется пересмотреть подход к архитектуре доверия в компаниях. Проблема перестает быть чисто техническим вопросом фильтрации санкционных списков и превращается в проблему проверки легитимности всех рабочих процессов.
В докладе предлагаются следующие меры противодействия:
- Внедрение «оборонительного ИИ» и аналитики на основе поведения пользователей.
- Использование автоматических «предохранителей» (circuit breakers) при аномально интенсивном использовании API.
- Ужесточение процедур проверки личности (KYC), особенно при удаленном найме сотрудников.
- Регулярное обновление программ обучения персонала с учетом новых методов социальной инженерии.
По мнению авторов исследования, наиболее вероятным сценарием развития событий станет «гонка вооружений в сфере ИИ» между контролирующими органами и нарушителями. Тот факт, что преступные группировки находят новые способы использования технологий, должен служить сигналом для бизнеса о том, где именно в их текущих системах доверия существуют пробелы.