La inteligencia artificial está impulsando una demanda sin precedentes en los centros de datos, a medida que continúa aumentando la necesidad de procesar grandes cantidades de datos.
A medida que los gigantes tecnológicos se apresuran a expandir sus infraestructuras para dar cabida a las cargas de trabajo de IA, se enfrentan al creciente desafío de cómo impulsar estas operaciones de manera sostenible y asequible, y esto incluso ha llevado a empresas como Oracle y microsoft a Explorar la energía nuclear como una posible solución..
Otra cuestión crítica es la gestión del calor generado por el potente hardware de IA. Refrigeración líquida ha surgido como una forma prometedora de mantener un rendimiento óptimo del sistema mientras se manejan las crecientes demandas de energía. Solo en octubre de 2024, varias empresas de tecnología anunciaron soluciones de refrigeración líquida, lo que destaca un claro cambio de la industria en esa dirección.
SuperClusters refrigerados por líquido
En su reciente lenovo En el evento Tech World, la compañía mostró su solución de refrigeración líquida Neptune de próxima generación para servidores.
La sexta generación de Neptune, que utiliza refrigeración directa por agua caliente de circuito abierto, ahora se está implementando en todo el ecosistema de socios de la compañía, lo que permite a las organizaciones construir y ejecutar computación acelerada para IA generativa y, al mismo tiempo, reducir el consumo de energía del centro de datos hasta en un 40 %. , dice la empresa.
En OCP Global Summit 2024, Giga Computing, filial de Gigabyte, presentó un servidor de refrigeración líquida directa (DLC) diseñado para NVIDIA Sistemas HGX H200. Además del servidor DLC, Giga también reveló el G593-SD1, que cuenta con una cámara de enfriamiento de aire dedicada para la GPU Nvidia H200 Tensor Core, dirigida a aquellos centros de datos que aún no están listos para adoptar completamente la refrigeración líquida.
DellEl nuevo Integrated Rack 7000 (IR7000) de es un sistema escalable diseñado específicamente teniendo en cuenta la refrigeración líquida. Es capaz de gestionar implementaciones futuras de hasta 480 KW, mientras captura casi el 100 % del calor generado.
“Los centros de datos actuales no pueden seguir el ritmo de las demandas de la IA, lo que requiere innovaciones de refrigeración líquida y computación de alta densidad con diseños modulares, flexibles y eficientes”, afirmó Arthur Lewis, presidente del Grupo de Soluciones de Infraestructura de Dell. “Estos nuevos sistemas ofrecen el rendimiento necesario para que las organizaciones sigan siendo competitivas en el panorama de la IA en rápida evolución”.
Supermicro también ha revelado SuperClusters refrigerados por líquido diseñados para cargas de trabajo de IA, impulsados por la plataforma Nvidia Blackwell. Las soluciones de refrigeración líquida de Supermicro, respaldadas por la plataforma Nvidia GB200 NVL72 para computación exaescala, han comenzado a realizar pruebas entre clientes seleccionados, y se espera una producción a gran escala para finales del cuarto trimestre.
“Estamos impulsando el futuro de la informática de IA sostenible, y nuestras soluciones de IA refrigeradas por líquido están siendo adoptadas rápidamente por algunos de los proyectos de infraestructura de IA más ambiciosos del mundo, con más de 2000 racks refrigerados por líquido enviados desde junio de 2024”, dijo Charles Liang, presidente y director ejecutivo de Supermicro.
Los SuperClusters refrigerados por líquido cuentan con unidades de distribución de refrigerante (CDU) avanzadas en rack o en fila y placas frías personalizadas para alojar dos Superchips Nvidia GB200 Grace Blackwell en un factor de forma 1U.
Parece claro que la refrigeración líquida estará en el centro de las operaciones de los centros de datos a medida que las cargas de trabajo sigan creciendo. Esta tecnología será fundamental para gestionar las demandas de calor y energía de la próxima generación de informática de IA, y creo que apenas estamos empezando a ver el impacto potencial que tendrá en la eficiencia, la escalabilidad y la sostenibilidad en los próximos años.