Intel вышел в Nervana

Компания Intel продемонстрировала давно ожидаемые нейроморфные процессоры для глубинного обучения и инференции из семейства Nervana. Это ASIC neural network processors (NNP) для обучения моделей нейростей – NNP-T1000 (кодовое имя Spring Crest), а также для запуска обученных моделей NNP-I1000 (Spring Hill). Новые решения уже предоставляются партнерам.

Цель выпуска подобных решений – качественно увеличить производительность на узком круге задач, типичных для обработки нейросетей – сверточные и матричные операции, экономизировав при этом энергопотребление.

Модуль Nervana NNP-T выполнен в виде карты PCIe 4.0 x16 либо OAM. Основной вычислительный элемент NNP-T – Tensor Processing Cluster (TPC), осуществляющий матричные операции. В данной реализации таких блоков 24. Производительность составляет 119 TOPS, а энергопотребление карты – порядка 150-240 Вт.

На одном сервере (ноде) может быть установлено до 8 карт, максимальная масштабируемость — до 1024 нодов в системе.

При проектировании Intel Nervana NNP-I преследовалась цель обеспечить максимальную энергоэффективность при инференсе (Inference – логический вывод, прим. ред.) в масштабах больших ЦОДов — порядка 5 TOP/Вт. По сути – это модифицированный процессор x86 поколения Ice Lake (10 нм) c добавлением 12 специализированных ядер Inference Compute Engine (ICE). Максимальная производительность составляет 92 ТОРS, TDP — 50 Вт. Конструктивно устройство выполнено в виде карты расширения М.2.

Предоставляется возможность удаленно протестировать Nervana на сервисе Intel DevCloud. В планах компании также представить фреймворки для разработчиков AI-решений на базе этих систем.

Как заявляют в Intel, эти продукты усилят портфолио ИИ-решений компании, на которые в 2019 г. предположительно придется свыше 3.5 млрд долл. в её общей выручке.