Банк России предупредил финансовый сектор об угрозах искусственного интеллекта и выпустил пакет рекомендаций по защите

Центральный банк России официально признал искусственный интеллект источником системных рисков для финансового рынка. Регулятор выпустил развёрнутый доклад с перечнем уязвимостей и мерами защиты - и адресовал его всем участникам отрасли: от крупных банков до операторов платёжной инфраструктуры.

Что пошло не так с нейросетями

Проблема не в том, что ИИ - плохой инструмент. Проблема в том, что он непредсказуем. Регулятор выделяет три ключевые уязвимости: галлюцинации - когда модель генерирует правдоподобную, но ложную информацию; дрейф данных - постепенное снижение точности ответов по мере устаревания обучающей выборки; и внедрение вредоносных запросов извне, способное полностью исказить логику работы системы.

Каждая из этих брешей тянет за собой цепочку последствий. Если оператор не понимает, почему нейросеть приняла то или иное решение, незаметная ошибка рискует стать финальным аргументом при выдаче кредита или оценке транзакции. Ставки высоки - речь об убытках, репутационных потерях и угрозе устойчивости всей финансовой системы.

Отдельно ЦБ предупреждает о недобросовестных поставщиках ИИ-решений: умышленные или халатные действия с их стороны способны полностью парализовать работу кредитной организации. Это уже не теория - децентрализованный сервис Moonwell лишился $1,8 млн из-за ошибки в коде, написанном с участием популярной нейросети.

Что советует регулятор

Главная рекомендация - разработать модель угроз. Звучит просто, но за этим стоит серьёзная инженерная работа: нужно учесть возможные манипуляции поведением ИИ, риск «отравления» обучающих данных и угрозу подмены самой модели. Конкретнее - проводить тесты на проникновение, шифровать и обезличивать чувствительную информацию, маркировать данные при передаче сторонним подрядчикам, обучать модели децентрализованно и применять «ансамблевый подход»: вместо одной нейросети использовать комбинацию нескольких.

Европейские банки получили схожие рекомендации ещё в 2021 году от профильного регулятора ЕС. Американские надзорные органы только приступают к выработке единых стандартов. Россия, судя по всему, движется быстрее многих.

Банки считают деньги

Крупные игроки - Сбер, ВТБ, Альфа-Банк, ПСБ - уже давно интегрировали нейросети в кредитный скоринг, антифрод и инвестиционную аналитику. ВТБ оценивал эффект от внедрения ИИ в «десятки миллиардов рублей». Герман Греф публично говорил, что технология помогла Сберу избавиться от 20% неэффективных позиций. Но одно дело - извлекать выгоду, другое - выстраивать защиту.

Примерно так же, как в профессиональном спорте важна не только атака, но и надёжная оборона - вспомнить хотя бы предстоящий матч Англия - Гана ЧМ-2026, где тактическая дисциплина может решить всё. В банковском секторе логика та же: без выверенной системы защиты даже самый мощный ИИ превращается в уязвимость.

Банк ДОМ.РФ признал, что отдельной модели противодействия ИИ-угрозам у него пока нет. ПСБ, напротив, утверждает, что такая система уже функционирует - хотя наиболее чувствительные процессы намеренно выведены за периметр нейросетевых решений.

Кадры и цена вопроса

Здесь и начинается настоящая проблема. Специалистов, способных строить и защищать модели машинного обучения на уровне финансовой безопасности, в стране буквально единицы. За них конкурируют зарплатами, бонусами и опционами. Классические ИБ-профессионалы с тестированием на «отравление» данных, цифровыми метками и конфиденциальным обучением просто не работали - вузы к этому не готовят.

Расходы на выполнение рекомендаций ЦБ будут значительными. На первом месте - кадры. На втором - специализированное ПО для мониторинга аномалий и тестирования уязвимостей. Крупные банки смогут опереться на уже существующие смежные процессы: аудит, риск-менеджмент, контроль поставщиков. Для небольших участников нагрузка окажется несопоставимо тяжелее - особенно если они активно используют внешние сервисы и open source-компоненты. Отраслевые эксперты уже говорят о необходимости пропорционального подхода: лёгкий контур контроля для низкорисковых сценариев и полноценный режим допуска там, где речь идёт о деньгах клиентов и устойчивости инфраструктуры.