На офциальном сайте Банка России были опубликованы Методические рекомендации Банка России по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке.

Какие риски учитывать: Отравление данных, кража модели ИИ, сбои в работе (отказ в обслуживании) и получение неверных решений (галлюцинации). Особо подчеркивается, что если ИИ работает в автоматическом режиме (платежи, учет), результаты должен проверять человек.

Что должно быть в Политике безопасности: Закрепить принципы (целостность, конфиденциальность, киберустойчивость), разграничить права доступа, вести учет открытых компонентов и регулярно пересматривать защиту.

Рекомендуется разработать «Модель угроз» (сценарии атак) и внедрить меры безопасности на всех этапах – от сбора данных до эксплуатации готовой модели.

Ознакомиться c информацией >>

Ссылка на источник >>