В последний день сентября корпорация Intel представила серверный процессор Xeon 6 6900P с высокопроизводительными ядрами (P-core), который вдвое превосходит по производительности процессоры предыдущего поколения при обслуживании приложений Искусственного Интеллекта (AI) и суперкомпьютерных расчетов (Xeon 6 6700E с «эффективными» ядрами E-core вышел в июне . По сравнению с Xeon предыдущего поколения у него вдвое (до 128) увеличено максимальное число процессорных ядер, вдвое выросла пропускная способность памяти, а также реализованы встроенные функции ускорения AI на уровне отдельных ядер.
Вместе с новым Xeon корпорация выпустила графический ускоритель Gaudi 3, оборудованный 64 процессорными ядрами (TPC) и 8 «двигателями» Matrix Multiplication Engine (MME), ускоряющими глубокие расчеты нейронных сетей, 128 Гбайт памяти HBM2e для тренинга и инференции и 24 200-гигабитными Ethernet-портами.
По утверждению вендора, Gaudi 3 превосходит графический ускоритель Nvidia H100 на 20% по пропускной способности и вдвое по соотношению цена/производительность в тесте inference LLaMa 2 70B1.
