Компания Fplus начала производство серверов с ускорителями нейросетевых алгоритмов НТЦ «Модуль». Они представляют собой спецвычислители, подключаемые в слот расширения PCIe на материнской плате и используются для реализации нейронных сетей, решения задач цифровой обработки сигналов и изображений. В Fplus протестировали и подтвердили совместимость нейроускорителей НТЦ «Модуль» со своими серверными решениями — двухсокетными и четырехсокетными серверами «Восход» и «Буран», внесёнными в Реестр Минпромторга.
НТЦ «Модуль»* производит карты двух видов: NM Quad 20 Гб (большой модуль) и NM Card Mini 5 Гб (малый модуль). СМТ-монтаж карт осуществляется в России. Компоненты работают под управлением ОС Astra Linux. Спецвычислители NM Card mini и NM Quad во многом схожи с GPU-картами. В обоих изделиях применяются специализированные векторные сопроцессоры, организованные таким образом, чтобы работать параллельно. Но в видеокартах, помимо архитектуры векторных вычислителей, сделан упор на блоки для отрисовки графики. В картах НТЦ «Модуль» отсутствуют соответствующие подсистемы и блоки, что создает принципиальное отличие компонентов «Модуля» от GPU.
Для тестирования было выбрано потоковое видео дорожной ситуации в Москве, так как требовался видеоряд с большим количеством автомобилей, чтобы обеспечить нагрузку на спецвычислители при распознавании объектов. Распознавание проводилось параллельно на всех четырех модулях NM Card Mini 5 Гб на базе модели YOLOv3-tiny. Результаты тестирования подтвердили, что решение позволит компенсировать сложность обработки чисел FP32 и FP64 и сократить время обработки в три раза.
Решение пока уступает по быстродействию продуктам зарубежных вендоров, однако карты НТЦ «Модуля» значительно дешевле и более энергоёмкие. Несмотря на то что с его помощью еще нельзя обучать ИИ-модели, сервера с этими компонентами позволяют запускать нейронные сети, которые обучены на западных аналогах. Уже сейчас существует множество сценариев, где может использоваться совместное решение Fplus и НТЦ «Модуль».
«Компоненты НТЦ Модуль, интегрированные с серверами Fplus, — это первое и уже готовое решение для ряда отраслей. Мы видим большую потребность в таких комплексных продуктах для распознавания изображений, объектов и инцидентов, цифровой обработки сигналов и изображений для КИИ, где не должно использоваться оборудование западного производства, а также работы с большими объемами секретных или персональных данных, где важна не скорость, а защищенная среда», — отметил управляющий партнер ИТ-холдинга Fplus Алексей Мельников.
При штатной загрузке производства, наша компания в состоянии производить до 35 тысяч карточек в год, сообщил заместитель генерального директора по развитию АО НТЦ «Модуль» Александр Горбатовский.
* НТЦ «Модуль» ведет свои разработки с середины 90-х годов и развивает собственную архитектуру. С 1995 г. компания создает высокопроизводительные процессорные ядра и аналогово-цифровые системы-на-кристалле, разрабатывает и производит аппаратуру управления и контроля авиационных и космических систем, аппаратно-программные решения в области нейронных сетей, в том числе в части обработки видеопотока и изображений, навигации, связи, обнаружения и распознавания объектов.