 |
UDV Group: банки столкнутся с ИБ-рисками из-за нейросетей без правил
Российский разработчик решений в области киберустойчивости UDV Group прокомментировал рекомендации Банка России по безопасному использованию искусственного интеллекта финансовыми организациями. По оценке эксперта компании, ИИ постепенно становится для банков не только инструментом автоматизации, но и отдельным объектом управления информационной безопасностью.
Банк России выпустил рекомендации по безопасному использованию искусственного интеллекта финансовыми организациями. Регулятор отдельно выделил риски утечек данных, кибератак, подмены обучающих данных, ошибочных ответов нейросетей и компрометации цепочки поставок.
Для финансового рынка это означает переход от экспериментального использования ИИ к более управляемой модели. Банкам и другим организациям, которые внедряют нейросети в бизнес-процессы, необходимо оценивать не только экономический эффект от таких решений, но и риски для данных, клиентов, внутренних процедур и принятия решений.
Один из ключевых рисков связан с данными, на которых обучаются или дообучаются ИИ-модели. Если такие данные искажены, подменены или получены из недоверенных источников, система может выдавать неверные рекомендации. Для финансового сектора это особенно чувствительно: ошибка нейросети может повлиять на клиентский сервис, антифрод-процессы, скоринг, обработку обращений, внутреннюю аналитику и автоматизированные решения.
Отдельная проблема - использование ИИ сотрудниками вне утвержденных правил. Нейросети уже применяются для подготовки документов, анализа текстов, обработки обращений, генерации кода и работы с внутренней информацией. Если организация не определила, какие данные можно передавать в такие сервисы, кто отвечает за их использование и как проверяется результат, ИИ превращается в неучтенный канал риска.
«Рекомендации ЦБ важны тем, что переводят разговор об ИИ из плоскости экспериментов в плоскость управляемых процессов. Для бизнеса уже недостаточно просто разрешить или запретить нейросети. Нужно понимать, где именно ИИ используется, какие данные в него попадают, кто является владельцем процесса и кто отвечает за последствия ошибки. Если модель работает с клиентской информацией, внутренними документами или решениями, влияющими на бизнес, она должна быть встроена в контур ИБ: с классификацией данных, контролем доступа, моделью угроз, правилами проверки результатов и понятной ответственностью», - отметила Ольга Луценко, ведущий эксперт UDV Group.
По ее словам, компаниям важно не ограничиваться формальной политикой по ИИ. Необходимо описать допустимые сценарии использования нейросетей, определить запрещенные категории данных, настроить контроль доступа, вести учет применяемых сервисов и регулярно пересматривать риски по мере изменения моделей и бизнес-процессов.
Особое значение такой подход имеет для организаций с повышенными требованиями к защите информации. В финансовом секторе, КИИ и компаниях с большим объемом персональных данных ошибка ИИ может привести не только к утечке, но и к неверному управленческому, операционному или клиентскому решению. Поэтому контроль должен охватывать весь жизненный цикл ИИ-системы: выбор модели, источники данных, дообучение, эксплуатацию, обновления и вывод из использования.
В UDV Group считают, что рекомендации Банка России задают для рынка более зрелую рамку применения искусственного интеллекта. Финансовым организациям предстоит переходить от точечных пилотов к управляемой модели внедрения ИИ, где безопасность, ответственность владельцев процессов и контроль данных закладываются до запуска системы, а не после первых инцидентов.
Контактное лицо: UDV Group
Компания: UDV Group
Добавлен: 17:04, 17.08.2026
Количество просмотров: 696
Страна: Россия
| Hisense представляет линейку матовой бытовой техники, Hisense, 11:07, 29.10.2026, Россия236 |  |
| Компания Hisense, один из ведущих мировых производителей телевизионной и бытовой техники, представляет линейку встраиваемых кухонных приборов Matt Line. В нее вошли духовые шкафы, индукционные варочные панели и вытяжка. |
| Первый в России сервис быстрых фотосессий «Съёмка» строит творческое комьюнити, "Съёмка", 23:10, 28.10.2026, Россия285 |
| В креативном пространстве «Фотоплей» в центре Москвы состоялась вторая закрытая встреча «Точка съёмки» для мобилографов и фотографов, организованная командой проекта «Съёмка». Цель мероприятия – развитие профессионального сообщества единомышленников, разделяющих ценности проекта: вдохновлять людей на творчество и помогать осваивать навыки качественной фотовидеосъёмки в экспресс-формате. |
| «Хи-Квадрат» вышел на рынок среднего и малого бизнеса, Хи-Квадрат, 22:09, 28.10.2026, Россия81 |  |
| «Хи-Квадрат» выводит флагманскую линейку решений в новые сегменты рынка. Компания представила специальные тарифы на использование платформы быстрой разработки приложений и корпоративных систем XSQUARE для среднего и малого бизнеса. Новые условия стали доступны с обновлением платформы до версии 6.6. |
| «Телфин» и HelpDeskEddy объединяют сервисы и повышают уровень обслуживания клиентов, Телфин, 23:04, 28.10.2026, Россия286 |
| Провайдер коммуникационных сервисов «Телфин» совместно с компанией «ЭДДИ СЕРВИС» завершили интеграцию АТС «Телфин.Офис» с российской платформой HelpDeskEddy. Объединение возможностей двух программных продуктов позволяет создать единую экосистему коммуникаций. Теперь операторы и сотрудники службы поддержки могут управлять звонками и обращениями из одного интерфейса, исключая потерю данных и необходимость переключения между множеством окон. |
|
|
