 |
Новый NLU Suite от BSS: как создать кастомную языковую модель с минимальными затратами
BSS добавила поддержку LoRA (Low-Rank Adaptation) в инструмент для обучения моделей NLU Suite. Теперь можно обучать языковые модели под локальные задачи быстрее, дешевле и даже при сильно ограниченных мощностях.
Вместо полного переобучения модели LoRA позволяет добавить к ней «блок» под нужды клиента. В итоге обучается не исходная модель, а небольшие матрицы, которые на нее накладываются. Это позволяет создать LLM-эксперта в заданной области гораздо быстрее, чем при традиционном тюнинге.
Для запуска достаточно обеспечить сервер и данные для обучения. Обучающие корпуса можно подготовить с нуля в NLU Suite с помощью любой мощной модели – например, GPT-5. Параметры дообучения можно выставить по умолчанию или настроить в процессе работы. Так можно настраивать как полные модели, так и квантизированные (сжатые) модели.
Качество ответов после дообучения в среднем растет на 15%. При этом обученные компактные модели с меньшей памятью (1 млрд параметров) обгоняют необученные большие (27–30 млрд) на целевых запросах. А разница в качестве обученных компактных (1 млрд) и обученных средних (9 млрд) моделей составляет лишь 5–10%. Это значит, что даже при ограниченных ресурсах можно получить эффективную специализированную модель.
Обновление затрагивает и пользовательский опыт: упростилась загрузка обучающих и тестовых датасетов, обновился интерфейс для сравнения результатов, появилось автоматическое восстановление задач при сбоях.
Как новое решение может повлиять на бизнес, рассказал директор департамента голосовых цифровых технологий BSS Александр Крушинский:
«Наше решение сокращает стоимость и сроки внедрения, а также снижает зависимость от специалистов по дообучению моделей – то есть, повышает доступность использования LLM-технологий в бизнесе».
Контактное лицо: Вадим Прищепа
Компания: BSS
Добавлен: 23:24, 14.04.2026
Количество просмотров: 563
Страна: Россия
| «1С-Рарус» на конференции «Эксплуатация и модернизация портов и терминалов», 1С-Рарус, 18:17, 06.11.2026, Россия87 |
| В Санкт-Петербурге прошла IV конференция «Эксплуатация и модернизация портов и терминалов России 2026». Директор санкт-петербургского офиса «1С-Рарус» Роман Бугаев выступил в секции по цифровизации отрасли и поделился опытом автоматизации обслуживания и ремонта портовой техники на базе решений 1С. |
| Компания «Е-Флопс» создала модульный сервер М2, Е-Флопс, 17:56, 06.11.2026, Россия88 |  |
| Компания «Е-Флопс» разработала модульный сервер М2. Это продукт, адресованный рынку коммерческих ЦОД и суперкомпьютеров, призванный обеспечить заказчикам преимущество в энергоэффективности, плотности вычислений и ТСО (совокупной стоимости владения). |
| DonorSearch запускает первую игру для доноров во «ВКонтакте», DonorSearch, 17:37, 06.11.2026, Россия92 |  |
| DonorSearch запускает спецпроект «Пульсация» — игру внутри «ВКонтакте», которая знакомит пользователей с донорством крови и её компонентов через короткие игровые сессии и задания. Участники смогут проверить свои знания о донорстве, выполняя задания, а также каждый сезон принимать участие в розыгрыше 40 фирменных призов. |
|
|
