В середине июля компания Dell приступила к поставкам двухсокетного сервера PowerEdge XE9680 на базе процессора Intel Xeon Scalable 4th Generation, в котором как опция используется ускоритель Искусственного Интеллекта (ИИ) Instinct MI300X, продвигаемый корпорацией AMD как конкурент ускорителей Nvidia Hopper (Новое поколение графических ускорителей AMD Instinct — Byte/RE (bytemag.ru). Свой самый мощный сервер для систем ИИ PowerEdge XE9680, анонсированный в конце 2022 г. на конференции SC22 ) Dell до сих пор поставляла в конфигурации с ускорителями NVIDIA HGX H100 и H200. В максимальной конфигурации PowerEdge XE9680 оборудуется восемью Instinct MI300X и оперативной памятью HBM3 объемом 1.5 Тбайт, обеспечивая пиковую теоретическую производительность на уровне 42 Петафлопс.
Основное назначение сервера с ускорителями Instinct MI300X — это ускоренная тренировка и инференсинг моделей Large Language Model (LLM). В тестах вендора PowerEdge XE9680, оборудованный только одним ускорителем AMD, смог построить модель Llama 2 с 70 млрд параметров.
Также компания Dell опубликовала разработанные совместно с AMD методические указания по внедрению ИИ «Validated Design for Generative AI».
