Риски широкого распространения и использования искусственного интеллекта обсудили участники пленарной сессии «Использование систем искусственного интеллекта: вопросы доверия и информационной безопасности» Дня Кибербезопасности Форума GIS DAYS 2023, который прошёл 6 октября в Москве.

«Нам неизвестны примеры или теоретические изыскания, которые бы давали возможность применить ИИ для снижения стойкости криптографических механизмов. Искусственный криптограф — далекое будущее, — такое мнение высказал Игорь Качалин, генеральный директор АНО «Национальный технологический центр цифровой криптографии» в ходе обсуждения угроз, которые представляет применение искусственного интеллекта злоумышленниками для данных граждан и организаций. — Но, тем не менее, криптографическое сообщество как сообщество специалистов в области выработки методов оценки стойкости находится в постоянном поиске, следит за развитием прикладной науки, чтобы своевременно и качественно реагировать на появление новых угрозы российским криптографическим механизмам».

Спикер сослался на исследования, которые ведутся в Академии криптографии, научно-исследовательские изыскания в АНО «НТЦ ЦК», профильные конференции криптографов, где обсуждаются новые подходы и методы. Они выносятся на профильный Технический комитет по стандартизации (ТК 26), где разрабатываются новые стандарты и протоколы, соответствующие новым вызовам и угрозам.

При этом сообщество стоит на пороге новой ситуации. До сих пор мы жили в ситуации, когда система информационной безопасности и та система, которую они защищали, были статичными объектами, их ввели в эксплуатацию, они эволюционировали, но статично, считает Качалин.

По его мнению, в системах с ИИ мы попадаем в ситуацию, когда безопасность и функционирование системы объединены в единое целое. «Для того чтобы система ИИ правильно функционировала, система обеспечения безопасности должна развиваться вместе с ней. На сегодняшний день подходов, которые позволяли бы эту задачу достоверно решить, наверное, нет. Мы находимся на пороге таких исследований, как решить задачу и можно ли её вообще решить», — полагает эксперт. Это вопрос для будущих исследователей.

«АНО "НТЦ ЦК" — молодая компания, научные работы пока сосредоточены на оценке качества обезличенных данных, которые используются для обучения, и синтетических данных, которые положены в машинное обучение нейросетей без раскрытия данных, положенных в основу. У компании есть дальнейшие планы работы с Ассоциацией больших данных», — заключил Игорь Качалин.

Медиа Группа «Авангард» в рамках GIS DAYS 2023 выступила организатором ключевой дискуссии в Москве.