 |
UDV Group: банки столкнутся с ИБ-рисками из-за нейросетей без правил
Российский разработчик решений в области киберустойчивости UDV Group прокомментировал рекомендации Банка России по безопасному использованию искусственного интеллекта финансовыми организациями. По оценке эксперта компании, нейросети становятся для банков отдельным объектом управления информационной безопасностью, а не только инструментом автоматизации.
Банк России выпустил рекомендации по безопасному использованию искусственного интеллекта финансовыми организациями. Регулятор отдельно выделил риски утечек данных, кибератак, подмены обучающих данных, ошибочных ответов нейросетей и компрометации цепочки поставок.
Для финансового рынка это означает переход к более зрелой модели работы с ИИ. Нейросети все чаще используются не только в пилотных проектах, но и в бизнес-процессах: клиентском сервисе, антифроде, скоринге, обработке обращений, внутренней аналитике, подготовке документов и генерации кода. В таких сценариях компаниям необходимо оценивать не только экономический эффект, но и риски для данных, клиентов, внутренних процессов и принимаемых решений.
Один из ключевых рисков связан с данными, на которых обучаются или дообучаются ИИ-модели. Если они искажены, подменены или получены из недоверенных источников, система может начать выдавать неверные рекомендации. Для банков это особенно чувствительно, поскольку ошибка ИИ может повлиять на обслуживание клиентов, оценку рисков, работу антифрод-систем, автоматизированные решения и внутренние управленческие процессы.
Отдельная проблема - использование нейросетей сотрудниками вне утвержденных правил. ИИ-сервисы уже применяются для подготовки документов, анализа текстов, обработки обращений, работы с внутренней информацией и кодом. Если организация не определила, какие данные можно передавать в такие сервисы, кто отвечает за их применение и как проверяется результат, ИИ становится неучтенным каналом риска.
«Рекомендации ЦБ важны тем, что переводят разговор об ИИ из плоскости экспериментов в плоскость управляемых процессов. Для бизнеса уже недостаточно просто разрешить или запретить нейросети. Нужно понимать, где именно ИИ используется, какие данные в него попадают, кто является владельцем процесса и кто отвечает за последствия ошибки. Если модель работает с клиентской информацией, внутренними документами или решениями, влияющими на бизнес, она должна быть встроена в контур ИБ: с классификацией данных, контролем доступа, моделью угроз, правилами проверки результатов и понятной ответственностью», - отметила Ольга Луценко, ведущий эксперт UDV Group.
По словам эксперта, компаниям важно не ограничиваться формальной политикой по ИИ. Необходимо описать допустимые сценарии использования нейросетей, определить запрещенные категории данных, настроить контроль доступа, вести учет применяемых сервисов и регулярно пересматривать риски по мере изменения моделей и бизнес-процессов.
Особое значение такой подход имеет для организаций с повышенными требованиями к защите информации. В финансовом секторе, КИИ и компаниях с большим объемом персональных данных ошибка ИИ может привести не только к утечке, но и к неверному клиентскому, операционному или управленческому решению. Поэтому контроль должен охватывать весь жизненный цикл ИИ-системы: выбор модели, источники данных, дообучение, эксплуатацию, обновления и вывод из использования.
В UDV Group считают, что рекомендации Банка России задают для рынка более зрелую рамку применения искусственного интеллекта. Банкам и другим финансовым организациям предстоит переходить от точечных пилотов к управляемой модели внедрения ИИ, где безопасность, ответственность владельцев процессов и контроль данных закладываются до запуска системы, а не после первых инцидентов.
Контактное лицо: UDV Group
Компания: UDV Group
Добавлен: 22:04, 11.08.2026
Количество просмотров: 127
Страна: Россия
| «Навикон» получил статус «Участник проекта 1С:Центр ERP», Navicon, 23:06, 31.08.2026, Россия126 |  |
| Системный интегратор и разработчик «Навикон» вошел в число партнеров 1С со статусом «Участник проекта 1С:Центр ERP». Его получение подтверждает наличие у интегратора полного набора необходимых компетенций по ERP-решениям линейки 1С, опытных специалистов и успешно реализованных проектов. |
| В iSpring Suite появился ИИ-помощник для работы с текстом, iSpring, 23:05, 31.08.2026, Россия139 |  |
| Компания iSpring, разработчик решений для корпоративного обучения, обновила конструктор для создания интерактивных курсов iSpring Suite. В новой версии появился ИИ-помощник для работы с текстом. Он берёт на себя рутинную работу с текстом прямо в iSpring Suite. |
| Omdia: Hisense заняла первое место в мире по объему поставок телевизоров с диагональю от 100 дюймов и более в первом полугодии 2026 года, Hisense, 23:04, 31.08.2026, Россия135 |  |
| По данным Omdia, международного института маркетинговых исследований, компания Hisense, один из ведущих мировых производителей телевизионной и бытовой техники, вышла на первое место в мире по объему поставок телевизоров с диагональю от 100 дюймов и более с долей рынка, равной 55,1%. |
| «1С-Рарус» внедрил «1С:Управление предприятием общепита» в отелях сети Cosmos, 1С-Рарус, 22:59, 31.08.2026, Россия122 |
| Внедрение «1С:Управление предприятием общепита» разработки «1С-Рарус» обеспечило бесшовную интеграцию бэк-офисных функций и унификацию стандартов в сфере общественного питания сети отелей Cosmos. В результате проекта удалось внедрить единую систему управления ресторанной службой в отелях, стандартизировать и повысить прозрачность закупочного процесса, что повлияло на снижение операционных затрат. |
|
|
