Исходное сообщение
"Facebook открыл код библиотеки для ускорения приложений маши..." Отправлено opennews, 30-Окт-18 09:37
Facebook опубликовал (https://code.fb.com/ml-applications/qnnpack/) новую библиотеку QNNPACK (https://github.com/pytorch/QNNPACK) (Quantized Neural Network PACKage), предоставляющую набор оптимизированных для выполнении на мобильных устройствах операторов, которые можно использовать для ускорения различных реализаций нейронных сетей. В частности QNNPACK предоставляет операторы для построения свёрточных, развёртывающих и полностью рекуррентных нейронных сетей, манипулирующие квантованными 8-битными тензорами (https://ru.wikipedia.org/wiki/%D0%A2%D0%.... Библиотека написана на языке Си с ассемблерными вставками, использующими  SIMD-инструкции NEON и SSE2 для распараллеливания обработки данных. Код распространяется (https://github.com/pytorch/QNNPACK) под лицензией BSD. Предоставляемые библиотекой QNNPACK примитивы могут использоваться для замены типовых реализаций операторов нейронных сетей в высокоуровневых фреймворках машинного обучения. В настоящее время  QNNPACK можно использовать для ускорения работы фреймворка PyTorch (https://github.com/pytorch/pytorch) с поддержкой экспорта моделей в графовое представление Caffe2 (https://github.com/caffe2/caffe2). Библиотека уже применяется в мобильных приложениях Facebook для решения задач компьютерного зрения, таких как классификация и распознавание изображений, а также выделение объектов (Mask R-CNN (https://github.com/matterport/Mask_RCNN), DensePose (https://github.com/facebookresearch/DensePose)) на фотографиях в режиме реального времени. Замена предлагаемых во фреймворках операторов нейронных сетей на реализацию из библиотеки QNNPACK позволяет приблизительно в два раза ускорить работу приложений на мобильных устройствах, при выполнении таких тестов как MobileNetV2 (https://arxiv.org/abs/1801.04381). Библиотека поддерживает 32- и 64-разрядные архитектуры ARM (AArch32 и AArch64), а также архитектуру x86 (для оптимизации используются инструкции SSE2). URL: https://code.fb.com/ml-applications/qnnpack/ Новость: https://www.opennet.ru/opennews/art.shtml?num=49521