Fujitsu в 2 раза увеличивает масштабы нейронных сетей для глубинного обучения
Новая разработка до 2 раз увеличивает масштаб нейронных сетей по сравнению с технологиями, которые были доступны ранее.
На протяжении последних лет технология глубинного обучения все активнее используется специалистами в качестве метода машинного обучения, который имитирует структуру человеческого мозга. Чем больше слоев имеет нейронная сеть, тем точнее она обрабатывает рабочие задачи, например, задачи по распознаванию и систематизации. Для повышения точности масштаб сетей увеличивался, но время обучения также возрастало. Поэтому специалисты обратили свое внимание на графические процессоры, которые выполняют вычисления больших объемов данных, и на технологию, ускоряющую процесс обработки данных, используя параллельно несколько графических процессоров, как это происходит в суперкомпьютерах.
Одним из методов увеличения масштаба глубинного обучения является распределение одной модели нейронной сети на нескольких компьютерах и выполнение вычислений параллельно. Но большой объем данных, который должен передаваться между компьютерами, создает «пробки», значительно снижая скорость выполнения задач. Для того чтобы воспользоваться всеми возможностями графических процессоров для высокоскоростных вычислений, данные должны храниться во внутренней памяти самих процессоров. Однако, этот объем, как правило, меньше объема памяти обычных компьютеров, что ограничивает возможности по увеличения масштаба нейронных сетей.
Fujitsu разработала технологию для повышения эффективности использования памяти и увеличения масштаба нейронных сетей для вычислений с одним графическим процессором. В новинке не используются методы параллельной организации работы, которые значительно уменьшают скорость чтения. Новая технология уменьшает необходимый объем памяти за счет повторного использования ресурсов: она позволяет в независимом режиме выполнять вычисления для создания данных промежуточных ошибок из взвешенных данных и вычисления для создания взвешенных данных из промежуточных данных. Когда обучение начинается, структура каждого слоя нейронной сети анализируется, и порядок вычислений изменяется для того, чтобы область памяти, в которой расположен больший объем данных, могла повторно использоваться.
Fujitsu использовала новую технологию в рамках платформы для глубинного обучения с открытым исходным кодом Caffe, измерив уровень потребления внутренней памяти GPU. После запуска обучения технология анализирует структуру нейронной сети и оптимизирует порядок выполнения вычислений и расположение данных в памяти для того, чтобы свободная область памяти могла эффективно повторно использоваться. При использовании ее совместно с AlexNet и VGGNet1, нейронными сетями распознавания изображений, которые широко используются для научных исследований, новая технология Fujitsu до 2 раз увеличила масштаб нейронной сети по сравнению с предыдущими аналогами. Таким образом, используемый объем внутренней памяти графического процессора был уменьшен более чем на 40%.
Fujitsu планирует начать серийное использование новой технологии с 31 марта 2017 г. в рамках проекта искусственного интеллекта Human Centric AI Zinrai. Кроме того, компания планирует использовать эту технологию вместе с ранее представленной технологией для обработки данных в рамках глубинного обучения методом параллелизации графических процессоров.
Примечания для редакторов
1 AlexNet и VGGNet: многоуровневые нейронные сети для распознавания изображений. В 2012 г. сеть AlexNet была отмечена рядом наград за высокую скорость систематизации изображений, а в 2014 г. сеть VGGNet получила награды за высокую скорость определения положения. Обе сети демонстрируют одни из самых высоких в мире показателей точности распознавания и лежат в основе многих нейронных сетей для распознавания изображений.
Ресурсы - Блог Fujitsu: http://blog.ts.fujitsu.com - Следуйте за Fujitsu на Твиттер: https://twitter.com/Fujitsu_RUS - Следите за нами на LinkedIn: https://www.linkedin.com/company/fujitsu-russia-and-cis - Найдите Fujitsu на Facebook: https://www.facebook.com/fujitsu.ru - Медиасервер Fujitsu: http://mediaportal.ts.fujitsu.com/pages/portal.php - Самые свежие новости Fujitsu: http://www.fujitsu.com/ru/about/info-center/press/index.html
О компании Fujitsu Компания Fujitsu – японская компания-лидер рынка информационных и коммуникационных технологий (ICT), предлагающая полный спектр технологических продуктов, решений и услуг. Около 159 000 сотрудников Fujitsu обслуживают заказчиков в более чем 100 странах мира. Наш опыт и мощь информационных и коммуникационных технологий помогают строить будущее общества вместе с нашими клиентами. Согласно опубликованным отчетам за финансовый год, завершившийся 31 марта 2016 года, совокупная выручка компании Fujitsu Limited (TSE:6702) составила 4,7 трлн. йен (41 млрд. долларов США). Для получения дополнительной информации посетите веб-сайт http://www.fujitsu.ru
Fujitsu EMEIA Fujitsu помогает заказчикам открыть для себя неограниченные возможности, которые дают современные цифровые технологии, находя баланс между использованием надежных ИТ-платформ и внедрением цифровых инноваций. Компания поставляет на рынок широкий спектр современных продуктов, решений и услуг, обеспечивающих конкурентные преимущества в эпоху цифровой трансформации. В Fujitsu EMEIA работают более 26 тыс. человек. Подразделение входит в глобальную группу Fujitsu Group. Для получения дополнительной информации посетите интернет-страницу http://www.fujitsu.com/fts/about
Названия других компаний и видов продукции, упомянутые в настоящем документе, являются товарными знаками или зарегистрированными товарными знаками своих законных владельцев. Данное информационное сообщение содержит сведения, которые действительны на момент публикации и могут быть изменены в любое время без какого-либо предупреждения.
Контактное лицо: Антон
Компания: Fujitsu
Добавлен: 10:45, 03.10.2016
Количество просмотров: 640
Страна: Россия
ГК SIMETRA, центр компетенций в области моделирования транспортных потоков и транспортного планирования, подписала соглашение о сотрудничестве с Тюменским индустриальным университетом (ТИУ) – одним из ведущих вузов региона
ГК Юзтех объявляет о стратегическом партнерстве с Нефтегазовым межрегиональным кластером для совместного развития и внедрения инновационных технологий в нефтегазовой отрасли.
ИТ-компания «Погнали!» запустила свое решение в облаке нового поколения NGcloud. На облачных ресурсах Nubes разработчик развернул масштабную онлайн-платформу для любителей путешествовать по России, а для хранения большого объема данных подключил сервис объектного хранилища S3.
Образовательная онлайн-платформа OTUS запускает курс «DWH на основе Arenadata». Обучение поможет освоить базовые навыки для успешной работы на проектах по созданию и развитию хранилищ данных и систематизировать уже имеющиеся знания.
ИТ-компания «Погнали!» запустила свое решение в облаке нового поколения NGcloud. На облачных ресурсах Nubes разработчик развернул масштабную онлайн-платформу для любителей путешествовать по России, а для хранения большого объема данных подключил сервис объектного хранилища S3.
Компания Hybrid, специализирующаяся на высокотехнологичных разработках в области интернет-рекламы, запустила собственную школу обучения Ad operation менеджеров. Инициатива направлена на молодых специалистов города Тамбова и позволит со временем ликвидировать дефицит профессионалов в сфере adtech.
Оргкомитет I Международного творческого конкурса авторов контента в поддержку идеи радикального продления жизни людей «Вместе против старения: голос Жизни» объявляет о продлении сроков приёма творческих работ до сентября 2024 года.
ГК SIMETRA и Санкт-Петербургский государственный архитектурно-строительный университет (СПбГАСУ) заключили соглашение о сотрудничестве. В рамках соглашения SIMETRA поставила вузу академические лицензии на использование в образовательном процессе цифровой платформы RITM³.
Архитектуру платформы кадрового электронного документооборота (ЭДО) HRlink адаптировали к существенному росту количества пользователей. Кроме того, в 2024 году HRlink первой на рынке решений для безбумажного КДП занялась подключением второго удостоверяющего центра для электронных подписей.
PMP Tech, ведущая IT-компания из Петербурга, заняла второе место на независимой премии Workspace Digital Awards. Компания выдвинулась с кейсом "Мобильное приложение Брелок” в номинации "Недвижимость и строительство" в категории "Мобильные приложения".
Комитет по тарифам Санкт-Петербурга оптимизировал ряд своих рабочих процессов за счёт внедрения трех программных роботов. Проект реализовали специалисты Санкт‑Петербургского информационно-аналитического центра.
Специалисты компаний «Газинформсервис» и ООО «Д-Линк Трейд» успешно завершили технические испытания совместимости. Испытания подтвердили корректность функционирования комплекса по защите ИТ-инфраструктуры Efros DefOps с оборудования D-Link серий DGS-1210-XX, DGS-1210-XX/ME, DGS-3130-XX, DGS-3630-XX, DXS-3610-XX.
