Cloudflare ha anunciado el despliegue de sus servidores de 12.ª generación, impulsados por AMD Procesadores EPYC 9684X Genoa-X, que ofrecen rendimiento y eficiencia mejorados en toda su infraestructura.
El nuevo procesador tiene 96 núcleos, 192 subprocesos y una enorme caché L3 de 1152 MB, tres veces mayor que los procesadores Genoa estándar de AMD.
Este aumento sustancial de la caché ayuda a reducir la latencia y mejorar el rendimiento en aplicaciones con uso intensivo de datos. Cloudflare afirma que Genoa-X ofrece una mejora del 22,5 % con respecto a otros modelos AMD EPYC.
Productos actualizados para desarrolladores de IA
Según el proveedor de la nube, los nuevos servidores Gen 12 pueden manejar hasta un 145 % más de solicitudes por segundo (RPS) y ofrecer un aumento del 63 % en la eficiencia energética en comparación con los modelos Gen 11 anteriores. El diseño termomecánico actualizado y la compatibilidad ampliada con GPU ofrecen capacidades mejoradas para cargas de trabajo de IA y aprendizaje automático.
Los nuevos servidores están equipados con 384 GB de memoria DDR5-4800 en 12 canales, 16 TB de almacenamiento NVMe y conectividad de red dual de 25 GbE. Esta configuración permite a Cloudflare admitir un mayor rendimiento de la memoria y un acceso más rápido al almacenamiento, optimizando el rendimiento para una variedad de tareas computacionalmente intensivas. Además, cada servidor cuenta con dos unidades de fuente de alimentación de grado Titanio de 800 W, lo que proporciona una mayor eficiencia energética en sus centros de datos globales.
Cloudflare desea enfatizar que estas mejoras no se refieren solo a la potencia bruta sino también a ofrecer un rendimiento más eficiente. La compañía dice que el cambio de un factor de forma de 1U a uno de 2U, junto con un diseño de flujo de aire mejorado, redujo el consumo de energía del ventilador en 150 W, lo que contribuyó a las ganancias de eficiencia general del servidor. El consumo de energía del servidor Gen 12 es de 600 W en condiciones operativas típicas, un aumento notable con respecto a los 400 W del Gen 11, pero justificado por las importantes mejoras de rendimiento.
La nueva generación también incluye características de seguridad mejoradas con integración de raíz de confianza de hardware (HRoT) y módulo de control seguro del centro de datos (DC-SCM 2.0). Esta configuración garantiza la integridad del firmware de arranque y la seguridad modular, protegiendo contra ataques de firmware y reduciendo las vulnerabilidades.
Los servidores Gen 12 están diseñados teniendo en cuenta la escalabilidad de la GPU y admiten hasta dos tarjetas complementarias PCIe para inferencia de IA y otras cargas de trabajo especializadas. Este diseño permite a Cloudflare implementar GPU estratégicamente para minimizar la latencia en regiones con alta demanda de procesamiento de IA. De cara al futuro, Cloudflare dice que ha comenzado a probar las CPU AMD EPYC “Turín” de quinta generación para sus futuros servidores Gen 13.
Por otra parte, Cloudflare ha introducido grandes actualizaciones en sus productos para desarrolladores de IA. La IA de los trabajadores ahora funciona con GPU más potentes en su red de más de 180 ciudades, lo que le permite manejar modelos más grandes como Meta's Llama 3.1 70B y Llama 3.2, y abordar tareas de IA más complejas. AI Gateway, una herramienta para monitorear y optimizar las implementaciones de IA, se ha actualizado con registros persistentes (actualmente en versión beta) que permiten un análisis detallado del rendimiento mediante funciones de búsqueda, etiquetado y anotación. Finalmente, Vectorize, la base de datos de vectores de Cloudflare, ha alcanzado disponibilidad general, admitiendo índices de hasta cinco millones de vectores y reduciendo significativamente la latencia. Además, Cloudflare ha cambiado a una estructura de precios unitaria más simple para sus tres productos, lo que hace que la gestión de costos sea más clara.
