 |
Исследование Axenix: инструменты китайских вендоров для анализа больших данных оказались производительнее решений на базе open source
В России с 2022 года происходит активная трансформация рынка систем класса DWH (Data Warehouse, системы хранилищ данных). Компании энтерпрайз-сегмента реализуют проекты по миграции своих хранилищ данных на отечественные продукты, однако выбор доступных технологий сильно ограничен. На российском рынке сейчас преобладают решения, построенные на базе open source продуктов. Наиболее распространенные — различные сборки российских вендоров на базе Greenplum и Clickhouse. Также активно развивается архитектура Lakehouse, в основе которой часто лежат такие решения как Impala, Trino, Spark.
Массово-параллельная аналитическая СУБД Greenplum часто используется российскими заказчиками благодаря сравнительно простой архитектуре и тому, что она основана на широко распространённой СУБД PostgreSQL. Это делает её удобной для внедрения и сопровождения. Однако у этой технологии есть серьезные ограничения, которые не позволяют покрыть все требования российских компаний.
В этой ситуации компания Axenix решила провести исследование рынка китайского ПО, используемого для создания систем класса DWH и сравнить функциональность и производительность этих продуктов, с продуктами, используемыми на российском рынке.
При выборе СУБД и платформ для анализа больших данных российские команды разработчиков часто не имеют возможности оценить реальную производительность решений — тестирование проводится на ограниченном числе задач или в рамках узких кейсов. Поведение системы при масштабировании на реальном проекте нередко становится неожиданностью. В связи с этим команда Axenix провела нагрузочное тестирование функциональности выполнения аналитических запросов.
В тестирование были включены решения китайских вендоров Transwarp и YMatrix, а также наиболее популярные решения на базе open source: Greenplum, Trino и Apache Spark. Продукты китайских вендоров (Transwarp и YMatrix) продемонстрировали более высокую производительность по сравнению с популярными на рынке open source-инструментами.
«СУБД и платформы для обработки и аналитики данных — ключевые элементы в нашей практике Applied Intelligence. На их основе создаются корпоративные хранилища данных, их возможности учитываются при создании различных сервисов, которые эти данные используют. Расширенное тестирование решений от китайских вендоров позволило нам определить круг надёжных продуктов, способных не только эффективно обрабатывать десятки и сотни терабайт данных, но и выдерживать высокую конкурентную нагрузку в режиме близком к реальному времени», — прокомментировала Татьяна Кириленко, руководитель направления «Инженерия и архитектура данных» Axenix.
Результаты тестирования показали, что китайские решения превосходят Greenplum по производительности — в большинстве сценариев разница достигает кратных значений.
В ходе тестирования специалисты Axenix пришли к следующим выводам:
● Transwarp показал наивысшую производительность, сбалансированную стоимость и возможность сохранения логики приложений при миграции с Oracle и Teradata. Платформа также характеризуется зрелой экосистемой и высоким уровнем стабильности.
● YMatrix занял второе место по производительности. Решение развивается как совместимое с Greenplum, но имеет ряд улучшений, включая оптимизацию исполнения запросов и встроенные механизмы интеграции с потоковыми и другими источниками данных.
● Greenplum — зрелая и надёжная платформа для построения корпоративных хранилищ данных. Несмотря на богатый функционал, архитектура Greenplum не в полной мере использует потенциал современных аппаратных решений, что может ограничивать её производительность в ряде сценариев. В ходе тестирования она продемонстрировала наименьшую производительность среди всех участников.
● Trino — высокопроизводительный SQL-движок, ориентированный на выполнение интерактивных запросов к данным, находящимся в различных хранилищах. Он легко устанавливается, масштабируется и не требует переноса данных — работает «поверх» существующих источников. Trino не является СУБД в классическом смысле и не хранит данные самостоятельно.
● Apache Spark — мощная платформа для распределённой обработки больших объёмов данных, включая потоковые и пакетные сценарии. Spark поддерживает SQL через модуль Spark SQL, а также более гибкие модели работы с данными, такие как DataFrame. Несмотря на универсальность, Spark показал меньшую производительность в интерактивных запросах по сравнению с Trino, что объясняется особенностями архитектуры.
Все протестированные решения показали стабильную работу при обработке больших объемов данных и различную степень масштабируемости и эластичности.
«Результаты тестирования продуктов китайских вендоров показали, что они могут превосходить по эффективности популярные open source-решения. Transwarp, YMatrix и Trino продемонстрировали отличное быстродействие и могут быть успешно применены в проектах создания корпоративных хранилищ данных», — отметил Андрей Михайлов, руководитель команды разработки хранилищ данных Axenix.
Для тестирования использовался стандартный бенчмарк TPC-DS (Transaction Processing Performance Council - Decision Support), предназначенный для оценки производительности аналитических СУБД. Он включает разнообразные сценарии и запросы, позволяет генерировать синтетические данные в нужных объёмах и обеспечивает сопоставимость результатов.
Тестирование проводилось на единых ресурсах, развернутых в облаке российского провайдера: использовались виртуальные машины с 16 vCPU, 64 ГБ оперативной памяти и быстрым SSD-хранилищем.
О компании Axenix
Российская компания Axenix (ранее Accenture) осуществляет деятельность под юридическим наименованием ООО «АксТим». Axenix предоставляет широкий спектр профессиональных услуг в области цифровых сервисов, облачных технологий и решений для обеспечения информационной безопасности. В офисах и центрах разработки в Москве, Твери, Ростове-на-Дону, Краснодаре, Санкт-Петербурге и Алматы работают около 2 000 сотрудников. Благодаря сочетанию уникальных знаний, опыта и компетенций более чем в 40 отраслях, предлагает услуги в области стратегии и бизнес-консалтинга, технологических решений и других операций, направленных на цифровизацию бизнеса.
Контактное лицо: Татьяна Алексеева
Компания: Axenix
Добавлен: 13:17, 16.04.2025
Количество просмотров: 265
Страна: Россия
| Виталий Лейбин и "Практики созидания" ищут юные таланты для нового медиапроекта о счастье, Живые города, 08:38, 29.05.2025, Россия313 |
| Общероссийский проект «Практики созидания» и команда Виталия Лейбина запускают летнюю медиалабораторию и всероссийский конкурс медиапроектов «Что такое счастье?»
Инициатива направлена на активное вовлечение школьников и молодежи в исследовательскую журналистику, а также развитие профессиональных навыков в создании качественного медиаконтента. |
| Сервисы «Телфин» интегрированы с CRM-системой S2, Телфин, 22:34, 27.05.2025, Россия227 |
| Провайдер коммуникационных сервисов «Телфин» совместно с командой разработчиков S2 завершили интеграцию виртуальной АТС «Телфин.Офис» с российской системой S2. Пользователи сервисов могут контролировать качество обслуживания клиентов, не выходя из CRM. |
| «Бастион» — платиновый партнер «Кода Безопасности», «Бастион», 22:32, 27.05.2025, Россия228 |
| Компания по информационной безопасности «Бастион» получила статус Platinum Partner разработчика ИБ-средств «Код Безопасности». Он подтверждает компетенции компании в части поставки, внедрения и поддержки решений, предназначенных для защиты виртуальной инфраструктуры, сетей передачи данных, рабочих станций и серверов. |
| Суперкомпьютер на основе сервера Crusader установили в Ярославском техническом университете, STEP LOGIC, 22:31, 27.05.2025, Россия234 |
| Суперкомпьютер для обучения ИИ-моделей появился в Ярославском государственном техническом университете. Применение современных вычислительных мощностей дает вузу возможность продуктивно работать с данными и увеличить скорость их обработки. Проект реализовала команда системного интегратора STEP LOGIC с использованием серверов Crusader от 3Logic Group. |
| Фиджитех- новое имя лидера фиджитал-индустрии, ООО "Фиджитал технологии", 22:30, 27.05.2025, Россия233 |
| Российский разработчик иммерсивных решений Hello I/O объявил о ребрендинге и смене названия на Фиджитех (Фиджитал Технологии). Обновление фирменного стиля стартовало в начале 2025 года. |
|
|
