Fujitsu в 2 раза увеличивает масштабы нейронных сетей для глубинного обучения
Новая разработка до 2 раз увеличивает масштаб нейронных сетей по сравнению с технологиями, которые были доступны ранее.
На протяжении последних лет технология глубинного обучения все активнее используется специалистами в качестве метода машинного обучения, который имитирует структуру человеческого мозга. Чем больше слоев имеет нейронная сеть, тем точнее она обрабатывает рабочие задачи, например, задачи по распознаванию и систематизации. Для повышения точности масштаб сетей увеличивался, но время обучения также возрастало. Поэтому специалисты обратили свое внимание на графические процессоры, которые выполняют вычисления больших объемов данных, и на технологию, ускоряющую процесс обработки данных, используя параллельно несколько графических процессоров, как это происходит в суперкомпьютерах.
Одним из методов увеличения масштаба глубинного обучения является распределение одной модели нейронной сети на нескольких компьютерах и выполнение вычислений параллельно. Но большой объем данных, который должен передаваться между компьютерами, создает «пробки», значительно снижая скорость выполнения задач. Для того чтобы воспользоваться всеми возможностями графических процессоров для высокоскоростных вычислений, данные должны храниться во внутренней памяти самих процессоров. Однако, этот объем, как правило, меньше объема памяти обычных компьютеров, что ограничивает возможности по увеличения масштаба нейронных сетей.
Fujitsu разработала технологию для повышения эффективности использования памяти и увеличения масштаба нейронных сетей для вычислений с одним графическим процессором. В новинке не используются методы параллельной организации работы, которые значительно уменьшают скорость чтения. Новая технология уменьшает необходимый объем памяти за счет повторного использования ресурсов: она позволяет в независимом режиме выполнять вычисления для создания данных промежуточных ошибок из взвешенных данных и вычисления для создания взвешенных данных из промежуточных данных. Когда обучение начинается, структура каждого слоя нейронной сети анализируется, и порядок вычислений изменяется для того, чтобы область памяти, в которой расположен больший объем данных, могла повторно использоваться.
Fujitsu использовала новую технологию в рамках платформы для глубинного обучения с открытым исходным кодом Caffe, измерив уровень потребления внутренней памяти GPU. После запуска обучения технология анализирует структуру нейронной сети и оптимизирует порядок выполнения вычислений и расположение данных в памяти для того, чтобы свободная область памяти могла эффективно повторно использоваться. При использовании ее совместно с AlexNet и VGGNet1, нейронными сетями распознавания изображений, которые широко используются для научных исследований, новая технология Fujitsu до 2 раз увеличила масштаб нейронной сети по сравнению с предыдущими аналогами. Таким образом, используемый объем внутренней памяти графического процессора был уменьшен более чем на 40%.
Fujitsu планирует начать серийное использование новой технологии с 31 марта 2017 г. в рамках проекта искусственного интеллекта Human Centric AI Zinrai. Кроме того, компания планирует использовать эту технологию вместе с ранее представленной технологией для обработки данных в рамках глубинного обучения методом параллелизации графических процессоров.
Примечания для редакторов
1 AlexNet и VGGNet: многоуровневые нейронные сети для распознавания изображений. В 2012 г. сеть AlexNet была отмечена рядом наград за высокую скорость систематизации изображений, а в 2014 г. сеть VGGNet получила награды за высокую скорость определения положения. Обе сети демонстрируют одни из самых высоких в мире показателей точности распознавания и лежат в основе многих нейронных сетей для распознавания изображений.
Ресурсы - Блог Fujitsu: http://blog.ts.fujitsu.com - Следуйте за Fujitsu на Твиттер: https://twitter.com/Fujitsu_RUS - Следите за нами на LinkedIn: https://www.linkedin.com/company/fujitsu-russia-and-cis - Найдите Fujitsu на Facebook: https://www.facebook.com/fujitsu.ru - Медиасервер Fujitsu: http://mediaportal.ts.fujitsu.com/pages/portal.php - Самые свежие новости Fujitsu: http://www.fujitsu.com/ru/about/info-center/press/index.html
О компании Fujitsu Компания Fujitsu – японская компания-лидер рынка информационных и коммуникационных технологий (ICT), предлагающая полный спектр технологических продуктов, решений и услуг. Около 159 000 сотрудников Fujitsu обслуживают заказчиков в более чем 100 странах мира. Наш опыт и мощь информационных и коммуникационных технологий помогают строить будущее общества вместе с нашими клиентами. Согласно опубликованным отчетам за финансовый год, завершившийся 31 марта 2016 года, совокупная выручка компании Fujitsu Limited (TSE:6702) составила 4,7 трлн. йен (41 млрд. долларов США). Для получения дополнительной информации посетите веб-сайт http://www.fujitsu.ru
Fujitsu EMEIA Fujitsu помогает заказчикам открыть для себя неограниченные возможности, которые дают современные цифровые технологии, находя баланс между использованием надежных ИТ-платформ и внедрением цифровых инноваций. Компания поставляет на рынок широкий спектр современных продуктов, решений и услуг, обеспечивающих конкурентные преимущества в эпоху цифровой трансформации. В Fujitsu EMEIA работают более 26 тыс. человек. Подразделение входит в глобальную группу Fujitsu Group. Для получения дополнительной информации посетите интернет-страницу http://www.fujitsu.com/fts/about
Названия других компаний и видов продукции, упомянутые в настоящем документе, являются товарными знаками или зарегистрированными товарными знаками своих законных владельцев. Данное информационное сообщение содержит сведения, которые действительны на момент публикации и могут быть изменены в любое время без какого-либо предупреждения.
Контактное лицо: Антон
Компания: Fujitsu
Добавлен: 10:45, 03.10.2016
Количество просмотров: 345
Страна: Россия
Партнеры Schneider Electric совершили путешествие в Эпоху Великих Электрических открытий
Новинки ведущего мирового производителя электроустановочных изделий с успехом представлены по всей стране
Оператор фискальных данных «Первый ОФД» и IT-компания «КИТ ИНВЕСТ» предлагают уникальное комплексное решение для вендинга Kit Vending, соответствующее новым требованиям закона «О применении контрольно-кассовой техники при осуществлении наличных денежных расчетов и (или) расчетов с использованием электронных средств платежа» 54-ФЗ.
ОТР, российский разработчик ПО и системный интегратор, вошел в рейтинг "Крупнейшие поставщики решений для госсектора 2018", подготовленный независимым аналитическим агентством CNews Analytics.
В рамках международной специализированной выставки
«Дорога 2018» компания «РМ-Терекс» совместно с дилером «Гидроремсервис» представила
линейку спецтехники нового поколения для различных сфер современного дорожно-
транспортного хозяйства.
На ежегодной крупнейшей конференции HUAWEI CONNECT 2018, которая в этом году прошла на тему “Активировать интеллектуальность”, Huawei презентовала стратегию по искусственному интеллекту и продемонстровала портфолио полного спектра решений для любых сценариев развития направления.
Группа компаний «ИНФОПРО» внедряет автоматизированную измерительную систему расчета технико-экономических показателей и планирования режимов на ПГУ на Ижевской ТЭЦ 1
ПАО «ВымпелКом» (бренд Билайн) и ESET представляют специальную версию мобильного приложения для защиты детей ESET NOD32 Parental Control для Android – «Родительский контроль».
Вышла новая версия системы управления сайтами UMI.CMS 19. В релизе — 600 готовых решений с неограниченной мультисайтовостью и установкой из админки, улучшенный шаблон интернет-магазина для быстрого старта онлайн-продаж, обновленный файловый менеджер и многое другое.
Cisco обнародовала результаты отчета по кибербезопасности среди компаний малого и среднего бизнеса (SMB Cybersecurity Report), в котором приняли участие 1816 респондентов из 26 стран. По результатам исследования, более 53% небольших предприятий в 2018 году подвергались кибератакам, 20% из них заявили об ущербе в размере от 1 до 2,5 млн долларов.
