На Международном форуме «Технологии и Безопасность» участники обсуждают задачи и проекты внедрения в области цифровых технологий, технологий безопасности и защиты информации. Впервые одна из сессий ТБ Форума была посвящена вопросам развития искусственного интеллекта.

В настоящее время разрабатывается проект требований в сфере информационной безопасности искусственного интеллекта, в том числе затрагивающий вопросы надёжности и безопасности систем ИИ. 

«В 2024 году мы планируем дать проект требований как раз по информационной безопасности искусственного интеллекта», — сообщил Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ. Планируется, что документ будет готов и представлен для обсуждения на втором форуме «Технологии доверенного искусственного интеллекта» в мае этого года, добавил он.

Замглавы Минцифры выделил риски общего характера при работе с ИИ:

• требования коду, его происхождению и открытости;
• требования к данным, их происхождению и качеству, верификации. Важны и требования к обезличиванию данных;
• специфические риски информационной безопасности, способность противостоять конкретным видам атак.

Жёсткое регулирование использования ИИ потребуется в области критической информационной инфраструктуры и медицинских данных, подчеркнул Шойтов. Ещё одна острая тема, которая может потребовать вмешательства регулятора — это недостоверные данные из поисковых систем, на основе которых ИИ выдаёт некое решение.

«Насколько оно достоверное — отдельное направление. Тонкая тема, которая должна получить нормативное регулирование», — заявил спикер.

«Где мы можем передать принятие решений непосредственно искусственному интеллекту? Например, это беспилотный транспорт, когда он просто помогает водителю, который продолжает отвечать за управление транспортом и в любой момент может перехватить управление у искусственного интеллекта», — уточнил замминистра.

Также Александр Шойтов отметил, что вопросы информационной безопасности искусственного интеллекта будут включены в национальную программу «Экономика данных» на 2025-2030 годы. Сейчас в Госдуме рассматриваются поправки к закону «О персональных данных», которые должны были определить принципы работы бизнеса с обезличенной личной информацией. В случае принятия поправок будет реализован первый этап предоставления доступа разработчика к обезличенным данным в закрытом контуре, заключил представитель Минцифры.