Требования к защите искусственного интеллекта необходимо учитывать уже при проектировании решений. Почему это важно для разработчиков и заказчиков, аналитик департамента мониторинга кибербезопасности Security Vision Иван Костенко объяснил в комментарии CISOCLUB о подготовке программы поддержки отечественного ИИ.
Эксперт обратил внимание на нормативную базу, которая определяет подходы к безопасности ИИ в государственных информационных системах. В частности, он рассмотрел вопросы контроля запросов и ответов моделей, защиты информации ограниченного доступа и организации работы с данными заказчиков при дообучении.
«Участникам рынка стоит закладывать эти требования в архитектуру решений уже на этапе пилотных проектов», – подчеркнул Иван Костенко.
По оценке специалиста, дальнейшее развитие регулирования будет связано с переходом от общих принципов к более подробным техническим требованиям. Поэтому при запуске пилота важно заранее продумать архитектуру защиты и возможность подтвердить выполнение установленных требований на практике.
Подробнее – в публикации CISOCLUB.
.png)
.png)
.jpg)
.jpg)
.jpg)
