 |
Новый NLU Suite от BSS: как создать кастомную языковую модель с минимальными затратами
BSS добавила поддержку LoRA (Low-Rank Adaptation) в инструмент для обучения моделей NLU Suite. Теперь можно обучать языковые модели под локальные задачи быстрее, дешевле и даже при сильно ограниченных мощностях.
Вместо полного переобучения модели LoRA позволяет добавить к ней «блок» под нужды клиента. В итоге обучается не исходная модель, а небольшие матрицы, которые на нее накладываются. Это позволяет создать LLM-эксперта в заданной области гораздо быстрее, чем при традиционном тюнинге.
Для запуска достаточно обеспечить сервер и данные для обучения. Обучающие корпуса можно подготовить с нуля в NLU Suite с помощью любой мощной модели – например, GPT-5. Параметры дообучения можно выставить по умолчанию или настроить в процессе работы. Так можно настраивать как полные модели, так и квантизированные (сжатые) модели.
Качество ответов после дообучения в среднем растет на 15%. При этом обученные компактные модели с меньшей памятью (1 млрд параметров) обгоняют необученные большие (27–30 млрд) на целевых запросах. А разница в качестве обученных компактных (1 млрд) и обученных средних (9 млрд) моделей составляет лишь 5–10%. Это значит, что даже при ограниченных ресурсах можно получить эффективную специализированную модель.
Обновление затрагивает и пользовательский опыт: упростилась загрузка обучающих и тестовых датасетов, обновился интерфейс для сравнения результатов, появилось автоматическое восстановление задач при сбоях.
Как новое решение может повлиять на бизнес, рассказал директор департамента голосовых цифровых технологий BSS Александр Крушинский:
«Наше решение сокращает стоимость и сроки внедрения, а также снижает зависимость от специалистов по дообучению моделей – то есть, повышает доступность использования LLM-технологий в бизнесе».
Контактное лицо: Вадим Прищепа
Компания: BSS
Добавлен: 23:24, 14.04.2026
Количество просмотров: 475
Страна: Россия
| Axenix: крупный бизнес в России меняет подход к ERP, Axenix, 22:05, 03.06.2026, Россия309 |  |
| Крупный бизнес больше не рассматривает замену зарубежных ERP-систем как формальную ИТ-задачу. Компании реального сектора связывают такие проекты с устойчивостью операционной модели, управляемостью данных и снижением зависимости от зарубежной ИТ-инфраструктуры. |
| МегаФон разработал голосового помощника для госучреждений Якутии, МегаФон, 22:05, 03.06.2026, Россия314 |
| МегаФон и Правительство Республики Саха (Якутия) договорились о пилотном проекте внедрения голосового робота на якутском языке для ряда государственных учреждений. Стороны также намерены реализовать ряд проектов в сфере связи, информационной безопасности и цифровизации государственных услуг. |
| БФТ-Холдинг внедрил платформу КЭДО в МГТУ им. Н.Э. Баумана, HRlink, 22:04, 03.06.2026, Россия312 |
| БФТ-Холдинг совместно с технологическим партнёром – компанией HRlink – реализовал проект по внедрению системы кадрового электронного документооборота (КЭДО) в Московском государственном техническом университете им. Н.Э. Баумана. |
| МегаФон и Мурманская область договорились о развитии связи в Арктике, МегаФон, 22:04, 03.06.2026, Россия316 |
| МегаФон и правительство Мурманской области объявили о технологическом партнерстве. В числе приоритетных направлений сотрудничества — расширение покрытия на федеральных и региональных транспортных маршрутах, а также внедрение цифровых решений для повышения безопасности и эффективности управления в регионе. |
| «Цифровой управленец» в ритейле: от отчётов к действиям на полях ПМЭФ, Платформа ОФД, 22:02, 03.06.2026, Россия311 |
| 2 июня в Санкт-Петербурге, в рамках III Международного форума «ИИ – будущее сегодня», прошла сессия «Цифровой управленец в ритейле: большие данные и ИИ-аналитика меняют рынок». Эксперты разобрали, почему при 85% внедрений ИИ в ритейле реальную пользу получают не все. |
| ГИГАНТ - Компьютерные системы: антифрод вырос на 53%, но атак с ИИ стало в разы больше, ГИГАНТ, 21:54, 03.06.2026, Россия308 |
| Алексей Колодка, директор по работе с государственными заказчиками компании «ГИГАНТ - Компьютерные системы» рассказал о том, что блокировка за 7,8 часа — не прорыв, а плановый показатель, рост антифрода на 53,7% требует учёта сезонности и атак с ИИ, а 12,2 млрд рублей на 8% ключевых организаций достаточно для защиты граждан. |
|
|
