Злоумышленники используют инструменты ИИ для тонкой настройки кибератак, в то время как правительства стремятся поощрять инвестиции в ИИ. Директор по продажам SentinelOne в Великобритании Бретт Тейлор в своём выступлении на Infosecurity Europe 2025 заявил, что национальные программы по укреплению экспертизы и НИОКР в области ИИ следует рассматривать в контексте растущего использования нейросетей преступными группировками.

Если предприятия и госорганы видят в этой технологии инструмент для повышения производительности и стимулирования экономического роста, то хак-группы применяют его в разработке вредоносного ПО и поиске уязвимостей. Кроме того, киберпреступники активно ищут любые слабые места в развертываниях ИИ.

По словам Тейлора, в части инвестиций в ИИ Великобритания «находится на одном уровне» с мировыми лидерами. Хотя США и всё больше Китай доминируют на этом рынке, Королевство обязалось инвестировать в ИИ 14 млрд фунтов стерлингов — технология должна лечь в основу промышленной стратегии страны и создать более 13 тыс. рабочих мест. Правда, Британии далеко до США с их планами потратить более 500 млрд долларов в течение четырёх лет на проект Stargate AI. Трудно оценить масштаб инвестиций в ИИ в Китае, но зато известно, что китайская LLM-модель с открытым исходным кодом DeepSeek сегодня является самым скачиваемым бесплатным приложением в США.

Однако Бретт Тейлор предупреждает, что злоумышленники также инвестируют в нейросети. Такие ресурсы, как WormGPT, EvilGPT и FraudGPT, упрощают создание вредоносного ПО или совершение онлайн-преступлений. Плюс, хакеры используют инструменты генеративного ИИ для «усиления традиционных векторов атак» (фишинг и взлом паролей).

К счастью, ИИ внедряется и защитниками. CISO обращаются к автоматизации, чтобы противостоять растущему числу угроз, а также восполнить нехватку навыков. Использование интерфейсов на естественном языке облегчает работу со сложными инструментами безопасности, а ИИ-агенты могут выполнять некоторые задачи по расследованию и поиску угроз. Это часть пути к большей автоматизации в области ИБ.

Автоматизация SOC-ов становится единственным способом противостоять растущим объёмам и скорости атак. Поставщики уровня SentinelOne считают, что со временем будет возможен полностью автономный SOC. Процессы, которые выиграют от ИИ и автоматизации, включают мониторинг, сбор доказательств, расследования, сортировку инцидентов, реагирование и устранение последствий, а также отчётность.

Тейлор предполагает, что партнёрство человека и нейросетей обеспечит более разумное принятие решений и предотвратит перегрузку и выгорание операторов SOC. В настоящее время аналитики рискуют стать «слепыми и неспособными эффективно реагировать на угрозы». Они смогут больше выполнять функции контроля, а ИИ вкупе с автоматизацией будет заниматься быстрым реагированием на инцидент и потенциально даже восстановлением.

Усам Оздемиров