Банк России разработал Методические рекомендации по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке. Документ опубликован на официальном сайте регулятора.
Рекомендации предназначены для: кредитных организаций; иностранных банков, осуществляющих деятельность на территории РФ через филиалы; некредитных финансовых организаций; лиц, оказывающих профессиональные финансовые услуги; субъектов национальной платежной системы.
Документ призван обеспечить безопасность, надежность и эффективность использования ИИ на финансовом рынке, а также минимизировать риски нарушения информационной безопасности и операционной надежности.
Так, финансовым организациям необходимо учитывать следующие риски, связанные с использованием ИИ:
— обучения модели ИИ на «отравленных» наборах данных, неактуальных или некорректных наборах данных;
— нарушение конфиденциальности данных, авторских прав и интеллектуальной собственности;
— галлюцинации ИИ, дрейф данных и иные варианты деградации модели ИИ, приводящие к некорректным выводам и решениям;
— отсутствие достаточной объяснимости и предсказуемости действий модели ИИ;
— привлечение поставщиков услуг или использованием компонентов технологий ИИ с открытым исходным кодом, обусловленные умышленными или неосторожными действиями сотрудников поставщика услуг, наличием слабостей и уязвимостей в таких компонентах;
—прерывание операционных процессов организации вследствие умышленных или неосторожных действий в отношении системы ИИ.
Вышеназванные риски могут привести к нарушению прав, свобод и законных интересов граждан, операционной деятельности организации, причинению убытков и вреда деловой репутации организации, нарушению стабильности финансовой системы и другим негативным последствиям.
Среди наиболее вероятных угроз ЦБ РФ называет атаку с использованием фаззинга, внедрение бэкдора (закладки) в модели ИИ, модификацию алгоритма обучения, извлечение данных, вредоносные «инъекции» и т.д.
ЦБ РФ рекомендует при использовании ИИ для выполнения автоматических операций, например, при совершении платежных операций, перепроверять решения должен человек.
Для эффективной работы с рисками также целесообразно разработать модель угроз безопасности информации системы ИИ и политику обеспечения информационной безопасности. Разработку политики и контроль за ее реализацией ЦБ РФ предлагает возлагать на заместителя руководителя организации, который отвечает за обеспечение информационной безопасности в организации, в том числе ответственного за обнаружение, предупреждение, ликвидацию последствий компьютерных атак и реагирование на компьютерные инциденты.
В приложениях к Методическим рекомендациям Банк России приводит:
-
Возможные тактики и техники реализации (возникновения) угроз информационной безопасности технологий ИИ.
-
Соотношение этапов разработки и применения ИИ и возможных угроз безопасности, специфичных для технологий ИИ.
-
Соотношение возможных угроз информационной безопасности технологий ИИ и возможных способов реализации таких угроз и мер защиты.
-
Меры защиты, направленные на нейтрализацию актуальных угроз безопасности технологий ИИ.
-
Основные положения политики обеспечения информационной безопасности при разработке и применении технологий ИИ.
