 |
Новый NLU Suite от BSS: как создать кастомную языковую модель с минимальными затратами
BSS добавила поддержку LoRA (Low-Rank Adaptation) в инструмент для обучения моделей NLU Suite. Теперь можно обучать языковые модели под локальные задачи быстрее, дешевле и даже при сильно ограниченных мощностях.
Вместо полного переобучения модели LoRA позволяет добавить к ней «блок» под нужды клиента. В итоге обучается не исходная модель, а небольшие матрицы, которые на нее накладываются. Это позволяет создать LLM-эксперта в заданной области гораздо быстрее, чем при традиционном тюнинге.
Для запуска достаточно обеспечить сервер и данные для обучения. Обучающие корпуса можно подготовить с нуля в NLU Suite с помощью любой мощной модели – например, GPT-5. Параметры дообучения можно выставить по умолчанию или настроить в процессе работы. Так можно настраивать как полные модели, так и квантизированные (сжатые) модели.
Качество ответов после дообучения в среднем растет на 15%. При этом обученные компактные модели с меньшей памятью (1 млрд параметров) обгоняют необученные большие (27–30 млрд) на целевых запросах. А разница в качестве обученных компактных (1 млрд) и обученных средних (9 млрд) моделей составляет лишь 5–10%. Это значит, что даже при ограниченных ресурсах можно получить эффективную специализированную модель.
Обновление затрагивает и пользовательский опыт: упростилась загрузка обучающих и тестовых датасетов, обновился интерфейс для сравнения результатов, появилось автоматическое восстановление задач при сбоях.
Как новое решение может повлиять на бизнес, рассказал директор департамента голосовых цифровых технологий BSS Александр Крушинский:
«Наше решение сокращает стоимость и сроки внедрения, а также снижает зависимость от специалистов по дообучению моделей – то есть, повышает доступность использования LLM-технологий в бизнесе».
Контактное лицо: Вадим Прищепа
Компания: BSS
Добавлен: 23:24, 14.04.2026
Количество просмотров: 532
Страна: Россия
| «Телфин» запустил умный поиск по звонкам в виртуальной АТС, Телфин, 22:20, 03.09.2026, Россия88 |
| Провайдер коммуникационных сервисов «Телфин» запустил умный поиск и анализ звонков с расшифровкой в интерфейсе АТС «Телфин.Офис». Новая функциональность виртуальной АТС позволяет масштабировать контроль качества обслуживания и оперативно выявлять проблемы в сервисе. |
| ГИГАНТ — Компьютерные системы о безопасности работы с контрагентами, ГИГАНТ, 22:06, 03.09.2026, Россия87 |
| Игорь Юрин, технический директор, руководитель направления цифровизации и цифровой трансформации, «ГИГАНТ — Компьютерные системы», рассказал о том, что Zero Trust в 2026 году — это уже не тренд, а база, без которой работать с подрядчиками просто опасно. |
| В mestoX появилась интеграция с versta.io, Versta, 22:06, 03.09.2026, Россия92 |  |
| Компания «Цифровая логистика» интегрировала сервис для экспедиторов mestoX с цифровой платформой для управления цепочками поставок и логистическими процессами versta.io. |
| «Авантелеком» внедрит контакт-центр для 56 медучреждений Хабаровского края, ООО «Авантелеком», 21:27, 03.09.2026, Россия63 |
| Российский разработчик и интегратор в сфере корпоративных сетей связи и голосовых технологий «Авантелеком» внедрит единую децентрализованную платформу для медицинских контакт-центров в Хабаровском крае. Новая система объединит управление качеством обслуживания в регистратурах 56 медицинских организаций к 2027 году. |
|
|
