6 декабря компания AMD представила свой новый графический ускоритель Instinct MI300X, построенный на базе архитектуры AMD CDNA 3 и предназначенный для генерирующих новый контент систем искусственного интеллекта (generative AI) и создания и использования моделей Large Language Model (LLM).
AMD Instinct MI300X оборудован 304 вычислительными модулями Compute Unit (CU) и имеет 192 Гбайт памяти HBM3 с пиковой пропускной способностью 5.3 Тбайт/сек. По сравнению с предыдущим поколением графических ускорителей Instinct MI250X новый Instinct обеспечивает увеличение на 40% числа CU, увеличение в 1.5 раза объема памяти и в 1.7 раз ее пиковой производительности, а также поддержку форматов исходных данных FP8 и sparsity.
Кроме того, как утверждает AMD, платформа Instinct Platform с 8 ускорителями MI300X работает до 1.6 раз быстрее при обработке данных с помощью LLM, чем выпущенная в ноябре платформа H100 HGX от Nvidia.
Также компания AMD представила модуль Акселератора — Accelerated Processing Unit (APU) Instinct MI300A, состоящий из 228 вычислительных модулей CU с архитектурой CDNA 3 и 24 ядер центрального процессора (CPU) с архитектурой Zen 4. Это устройство предназначено как для высокопроизводительных вычислений, так и задач AI.
