MWS AI выложила «универсальный фильтр» для больших языковых моделей в открытый доступ
Центр искусственного интеллекта МТС MWS AI (входит в МТС Web Services) совместно с исследователями Корейского университета технологий и образования в Чхонане (KOREATECH) разработали AVI (Agreement Validation Interface) – фильтр для нейросетей, который позволяет быстрее обучить и настроить модель (LLM) с учетом правил безопасности, законодательства и отраслевых регламентов с помощью естественного языка. Программа-посредник экономит до 10 дней на переобучении модели и доступна в репозитории GitHub.
Большая языковая модель, на которой не настроены ограничения, может ответить на потенциально опасные вопросы, например, на попытку узнать чужие персональные данные. Для банка, страховой или медцентра это неприемлемо: у каждой отрасли свой список запретных тем, и он постоянно меняется вслед за законодательством.
Созданный MWS AI совместно с корейскими исследователями универсальный фильтр работает как посредник между человеком и моделью: программа блокирует утечки персональных данных, токсичные ответы и обращения к запрещенным источникам информации, чем экономит временные и финансовые ресурсы пользователей. Доработка фильтра не требует навыков программирования, что делает её доступной специалистам компании из разных отделов – юридического, финансового, комплаенс – и других.
Достичь такого результата удалось за счет изменения логики – фильтр работает «снаружи», на этапах формулирования вопросов и выдачи ответов, и не внедряется в саму LLM. На входе система уже блокирует запросы с провокациями, запрещенными темами или попытками раскрыть чужие персональные данные. На выходе – не пропускает ответы с оскорблениями, дезинформацией и устраняет риск утечки корпоративных сведений.
Еще одно преимущество решения – возможность задать правила фильтрации словами, а не строками кода. Это позволяет подключить к процессу настройки модели экспертов, которые разбираются в юридических ограничениях и корпоративных регламентах, но не владеют специальными навыками ML-инженеров.
В ходе тестов фильтр распознал 98,5% опасных обращений в выборке из более чем 2 тысяч примеров на русском языке, в том числе провокации на экстремизм, разжигание ненависти, попытки получить персональные данные, призывы к суициду и незаконным действиям. На запрещенных запросах система прерывала ответ модели сразу при обнаружении нарушения. За счет этого ИИ-помощник реагировал почти в четыре раза быстрее, чем без него. На повторный вопрос система реагировала за доли секунды.
«Управление корпоративным ИИ сегодня — про то, как быстро компания подстроит модель под новое требование или риск, не переобучая ее с нуля. Именно в эту сторону сейчас движутся исследования по всему миру», – отметила профессор Korea University of Technology and Education (Южная Корея), руководитель Global Academia and Research Hub и Digital Professor в НИУ ВШЭ Ольга Швецова.
Архитектура AVI совместима с любыми большими языковыми моделями. Исходный код фильтра доступен на GitHub. В репозитории находится образец использования фильтра на Python и FastAPI, конфигурации для векторной базы данных Qdrant.
О компании: Компания MWS AI (входит в МТС Web Services) основана в 2019 году. Она разрабатывает решения для создания и запуска корпоративных приложений на базе искусственного интеллекта. Также MWS AI выступает партнёром по ИИ-трансформации для крупного бизнеса и государственных организаций. Основной продукт MWS AI — платформа MWS AI Agents Platform. С её помощью сотрудники компаний могут без навыков программирования создавать ИИ-агентов и мультиагентные системы в визуальном конструкторе бизнес-сценариев и на естественном языке по текстовому запросу. Собственные разработки компании включают большие языковые и мультимодальные модели Cotype, модели речевой аналитики, алгоритмы распознавания речи и синтеза голоса. Экспертиза MWS AI в области компьютерного зрения сосредоточена в портфельной компании VisionLabs.
Контактное лицо: Татьяна Алексеева
Компания: MWS AI
Добавлен: 03:01, 07.07.2026
Количество просмотров: 50
Страна: Россия
Инженеры МегаФона модернизировали телеком-оборудование в важнейших локациях Брянской области, где в общей сложности насчитывается более 200 тысяч жителей. Благодаря техническим мероприятиям брянцам и гостям города стал доступен мобильный интернет на скорости до 60 Мбит⁄с и более уверенный приём сигнала голосовой связи.
Мобильный интернет на скорости до 100 Мбит/с стал доступен абонентам МегаФона на всесезонном курорте «Телецкий». Оператор запустил базовую станцию у подножия горы Кокуя, чтобы гости комплекса могли делиться с близкими яркими эмоциями в режиме реального времени: записывать сторис, выкладывать фото и звонить по видеосвязи.
Жители Тюменской области стали чаще смотреть видеоконтент со своих смартфонов и планшетов. С начала года трафик на популярные ресурсы, где можно познакомиться с фильмами, сериалами и мультипликационными картинами, увеличился более чем в 5 раз. Такой всплеск интереса зафиксировали специалисты МегаФона на основе анализа обезличенных данных абонентов.
Более высокие скорости мобильного интернета и устойчивая связь теперь доступны садоводам Якутска. Техническая служба МегаФона запустила дополнительное телеком-оборудование рядом с дачными товариществами в микрорайоне Марха и Гагаринском округе, усилив сеть и расширив покрытие 4G.
24 июля прошла сессия Межотраслевого комитета по MES, посвященная двустороннему обмену информацией между системами управления производством и системами автоматизации технологических процессов (АСУ ТП).
«Я сделал для вас сайт». Школьник пришел в кафе с неожиданным предложением – и ушел с первой коммерческой сделкой. Пока взрослые спорят, заменит ли искусственный интеллект программистов, ученики уже начинают работать на настоящих клиентов.
Новая платформа открывает бизнесу возможность пользоваться современными ИИ-моделями в собственном корпоративном контуре, соблюдая при этом все регуляторные требования и нормы информационной безопасности.
Специалисты научно-технического центра «НЭК ТЕХ» провели практический семинар для сотрудников «Россети Новосибирск» по работе с интеллектуальными системами учёта электроэнергии «НАРТИС».
Российский разработчик UDV Group принял участие в III отраслевой конференции «РосИнфоБез», где представил систему анализа сетевого трафика UDV NTA. Решение помогает SOC-командам повышать видимость сети, выявлять скрытые угрозы и быстрее расследовать инциденты информационной безопасности.
Зумруд Мирзаева — российская безработная («кулинарный блогер»), связанная с навязчивым агрессивным самопиаром. Даёт себе следующую характеристику: «блогер, писательница, фуд блогер, повар». Отмечена в размещении рекламных публикаций в рамках обеления своей репутации. Сотрудничает с украинскими пиарщиками, которые признаются в финансировании ВСУ.
«Группа Астра» представила Astra Cloud Platform (ACP) 2.1, обновленную версию платформы для создания частных и публичных облаков. В релиз включены значимые улучшения, основанные на обратной связи от партнеров и заказчиков.
В фармацевтической компании Solopharm реализован портфель проектов по развитию единой ИТ‑системы на базе «1С:ERP» и других решений 1С. «1С-Рарус» помог предприятию переехать на новый склад, навести порядок в НСИ, обеспечить прослеживаемость маркированной продукции и усилить контроль охраны труда.
