Национальный центр кибербезопасности Великобритании (NCSC) опубликовал отчёт «Влияние искусственного интеллекта на оценку киберугроз в ближайшем будущем», в котором рекомендовал организациям и частным лицам признать ситуацию и принять превентивные меры.

Эксперты Центра, входящего в состав Агентства разведки, безопасности и кибербезопасности Великобритании (GCHQ), полагают, что ИИ почти наверняка будет напрямую способствовать увеличению количества и последствий кибератак в будущем. Исследование показало, что киберпреступники, действующие на более низком уровне компетентности, могут эффективно использовать достижения ИИ в своих операциях, включая социальную инженерию и вредоносное ПО.

Например, с использованием ИИ злоумышленники могут эффективнее выбирать жертв, что усиливает угрозу программ-вымогателей, которые считаются главной угрозой для предприятий и компаний Великобритании. Также, по мнению экспертов NCSC, ИИ облегчит обнаружение уязвимых устройств и покажет выгоды, которые могут получить злоумышленники. По оценке NCA, маловероятно, что в текущем году программы-вымогатели заменит другой метод киберпреступности, поскольку созданы устоявшиеся бизнес-модель и финансовое вознаграждение.

Британское правительство выделило 2,6 млрд фунтов в рамках стратегии кибербезопасности, чтобы повысить устойчивость к враждебным действиям. NCSC и частные компании уже внедряют ИИ для повышения киберустойчивости за счёт улучшенного обнаружения угроз и встроенной системы безопасности.

По мнению генерального директора NCSC Линди Кэмерон, «появление ИИ в кибератаках является эволюционным, а не революционным, а это означает, что ИИ усиливает существующие угрозы, такие как программы-вымогатели, но не меняет картину рисков в ближайшем будущем».

«Поскольку NCSC делает все возможное, чтобы обеспечить безопасность систем ИИ, мы призываем организации и частных лиц следовать рекомендациям по вопросам вымогателей и гигиены кибербезопасности, чтобы укрепить свою защиту и повысить устойчивость к кибератакам», — заявила она.

В сентябре 2023 года NCA и NCSC опубликовали совместный отчёт, в котором описали профессиональные экосистемы программ-вымогателей и спрогнозировали переход к модели «программы-вымогатели как услуга».

Анализ NCA показывает, что киберпреступники уже начали разрабатывать преступный генеративный искусственный интеллект (GenAI) и предлагают «GenAI as a service» всем, кто готов заплатить за улучшенные возможности. Тем не менее, как показывает отчёт NCSC, эффективность моделей GenAI будет ограничена как количеством, так и качеством данных, на которых они обучаются.

Джеймс Бэббидж, генеральный директор по угрозам NCA считает, что вымогатели несут угрозу национальной безопасности и ситуация будет усугубляться достижениями в области ИИ. «Услуги искусственного интеллекта снижают барьеры для входа, увеличивая количество киберпреступников, и расширяют их возможности за счёт улучшения масштаба, скорости и эффективности существующих методов атак, — пояснил он. — Угроза, вероятно, возрастёт в ближайшие годы из-за достижений в области ИИ и использования этой технологии киберпреступниками».

В ноябре 2023 года на саммите по безопасности ИИ, проходившем в Великобритании в Блетчли-Парке, страны-участники конференции из Европы, Америки, Азии и Африки подписали Декларацию, которая стала своего рода первым согласованным документом по координации глобальных усилий, направленных на управление рисками передового ИИ и обеспечение его безопасного и ответственного развития. В Великобритании в секторе ИИ уже занято 50 тыс. человек. Его вклад в экономику составляет 3,7 млрд фунтов, при этом правительство стремится обеспечить развитие национальной экономики и рынка труда с помощью новых технологий.

На днях своими прогнозами по использованию ИИ в кибератаках поделились эксперты «Лаборатории Касперского» .