Технологии Fujitsu для оптимизации обработки данных в процессе глубинного обучения

Для ускорения решения задач, связанных с необходимостью моделирования высокоуровневых абстракций (Deep learning), компанией Fujitsu представлена технология, базирующаяся на использовании нескольких графических чипов (GPU). Благодаря оптимизации использования внутренней памяти GPU, удается существенно расширить масштабы используемых в процессе машинного обучения нейронных сетей.

Технологии Deep learning все чаще применяется как средство машинного обучения. Этот метод, имитирующий структуру головного мозга человека, демонстрирует существенное возрастание эффективности обработки поставленных задач требующих «интеллектуальной» систематизации и распознавания при увеличении количества нейронных сетей. Нечто подобное уже давно применяется – несколько компьютеров с графическими чипами соответствующей мощности, которые более соответствуют для высокоскоростного решения задач, чем обыкновенные CPU, объединяются в сеть, функционируя параллельно. Однако, система, насчитывающая более 10 вычислительных узлов, начинает «тормозить», поскольку возрастает временной промежуток, необходимый оборудованию для цифровой связи между собой. Ни о каком эффекте параллелизма, повышении производительности, говорить не приходится. А для обеспечения эффективности распознавания, гарантированного технологией Deep learning, необходимо постоянно анализировать большие объемы данных, что и приводит к существенному замедлению вычислений.

В результате поиска эффективных способов одновременного запуска всех рабочих нагрузок, которые связаны с параллелизацией и использованием нескольких GPU, подразделением Fujitsu Laboratories была создана уникальная технология, оптимизирующая объем памяти путем применения вычислительных процессов, осуществляемых единичным GPU, но с одновременным масштабированием нейронных сетей. Отказавшись от методов параллелизации, замедляющих продуктивность обработки поступающих для анализа данных, разработчики сумели уменьшить объем требуемой памяти, повторно используя имеющиеся в распоряжении ресурсы.

Инновационные технологические приемы Fujitsu Laboratories, построенные на базе открытого программного решения Caffe, после запуска Deep learning начинают анализировать состояние нейронной сети, оптимизируя размещение данных и сам процесс выполнения вычислений.

Что показало тестирование?

Проведенное разработчиком испытание нового софта, с помощью многоуровневой нейронной сети для распознавания изображений AlexNet, демонстрирует 15-кратное превосходство инновационного программного решения (при использовании 16 GPU) над скоростью исполнения рабочих нагрузок при осуществлении Machine Learning. 27-кратное превосходство в исполнении рабочих нагрузок демонстрируется при работе с 64 GPU. Скорость же Deep learning возрастает на 46% с системами, оснащенными 16 графическими процессорами, а при использовании 64 GPU, скорость возрастает на 71%.

Инновационные разработки Fujitsu Laboratories для Deep learning

Скорость Deep learning в инновационной технологии Fujitsu увеличена за счет двух необычных решений:

  1. Если в применяющихся сейчас технологиях обмен данными первого уровня, требуемый для старта следующего этапа обучения, исполняется последним, то Fujitsu Laboratories, создав алгоритм очередности обновления данных, обеспечивает соблюдение определенного приоритета обмена данными. Таким образом, корпорация создала условия, когда обмен информданными между компьютерами сети начинается еще до начала очередной сессии.
  2. Вторая инновация – создана оригинальная процедура обработки информданных, оптимизирующая выполнение всех операций в зависимости от объема анализируемой информации, что позволяет увеличить производительность машинного обучения.

Тестирование разработанной технологии компанией Fujitsu продемонстрировало сокращение времени, необходимого для производительной работы искусственной нейронной сети.

Благодаря использованию практически полностью переработанных программных решений Deep learning, потребитель может запустить технологии управления в автоматическом режиме транспортными средствами и робототехникой. Инновационные разработки в сфере искусственных нейронных сетей найдут применение в медицине (классификация патологических изменений у пациентов), банковско-финансовом секторе (прогнозирование биржевых курсов).

В планах Fujitsu запуск искусственного интеллекта Human Centric AI Zinrai, что лишь подтвердит потенциальные возможности усовершенствованных технологий глубинного обучения, демонстрируя заказчикам максимально возможную скорость вычислений. Fujitsu предполагает вывести на рынок свой инновационный продукт, в виде реального коммерческого предложения, уже к концу 2016.

Спасибо за внимательность!
Выделите опечатку и нажмите Ctrl + Enter, чтобы отправить сообщение об ошибке.