AMDEl Instinct MI300X es una bestia de acelerador de IA: construido sobre la arquitectura CDNA de tercera generación de la compañía y los procesos avanzados de 5 nm y 6 nm de TSMC, cuenta con 19,456 procesadores de flujo, 192 GB de memoria HBM3, 304 unidades de cómputo, 1,216 núcleos de matriz y un Potencia de diseño térmico (TDP) de 750 vatios. En una de las primeras pruebas de referencia destruyó por completo la RTX 4090 de Nvidia.
Vultruna plataforma líder de computación en la nube privada, ha anunciado planes para integrar el hardware de alto rendimiento de AMD con su infraestructura escalable en la nube. El objetivo es gestionar las cargas de trabajo aceleradas por GPU de forma más eficaz, ofreciendo un rendimiento perfecto tanto en los centros de datos como en la informática de punta.
“La innovación prospera en un ecosistema abierto”, afirmó JJ Kardwell, director ejecutivo de Vultr. “El futuro de las cargas de trabajo de IA empresarial está en entornos abiertos que permitan flexibilidad, escalabilidad y seguridad. Los aceleradores AMD ofrecen a nuestros clientes una relación costo-rendimiento incomparable. El equilibrio entre una gran cantidad de memoria y bajos requisitos de energía promueve los esfuerzos de sostenibilidad y brinda a nuestros clientes las capacidades para impulsar de manera eficiente la innovación y el crecimiento a través de la IA”.
Kubernetes acelerado por GPU
La colaboración de Vultr con AMD busca brindar a las empresas acceso a un entorno de desarrollo de IA de clase mundial. La arquitectura de AMD, combinada con la plataforma de Vultr, permitirá a las empresas trabajar con modelos previamente entrenados de código abierto, agilizando el desarrollo de proyectos de IA.
“Estamos orgullosos de nuestra estrecha colaboración con Vultr, ya que su plataforma en la nube está diseñada para gestionar tareas de inferencia y entrenamiento de IA de alto rendimiento y proporcionar una eficiencia general mejorada”, dijo Negin Oliver, vicepresidente corporativo de desarrollo comercial de la Unidad de Negocios de GPU del Centro de Datos. , AMD.
“Con la adopción de los aceleradores AMD Instinct MI300X y el software abierto ROCm para estas últimas implementaciones, los clientes de Vultr se beneficiarán de tener un sistema verdaderamente optimizado encargado de gestionar una amplia gama de cargas de trabajo con uso intensivo de IA”.
Esta asociación también optimiza la infraestructura de Vultr para clústeres de Kubernetes acelerados por GPU, capaces de manejar cargas de trabajo complejas a nivel mundial. Vultr no ha revelado exactamente cuántas unidades Instinct MI300X ha pedido, sólo que el grupo inicial es de “miles”.
