Por qué los racks de IA operan a 60-100 kW (y qué cambia en tu cooling)

Los racks de IA actuales operan en rangos de potencia que vuelven obsoleta la refrigeración tradicional de sala. Cuando un rack pasa de 30 kW a 60-100 kW, la dinámica del cooling cambia por completo. La sala deja de respirar, el aire deja de ser suficiente, y la decisión pasa al líquido.

Aquí va por qué llegamos aquí, qué cambió en el hardware y qué significa para el cooling de tu data center.

De dónde viene esa densidad de potencia

Los racks de IA se construyen sobre GPUs (Unidades de Procesamiento Gráfico) que consumen entre 400 W y 1200 W por unidad. Una plataforma GPU típica — como los sistemas basados en arquitecturas de referencia de hyperscalers — aloja múltiples GPUs en un solo chassis. Multiplica eso por la cantidad de nodos en un rack para entrenamiento de modelos grandes, y llegas a densidades de 50, 80 o más de 100 kW por rack.

Por qué el aire ya no escala

ASHRAE TC 9.9 define clases térmicas para equipos de TI de A1 a A4. La clase A1 cubre operación hasta 25°C de inlet con margen limitado. A medida que sube la densidad del rack, la diferencia de temperatura entre el aire de entrada y salida crece. Un rack de 100 kW no se puede enfriar con aire por convección natural.

1. El aire tiene capacidad calorífica limitada. Mover 100 kW de calor con aire requiere caudales enormes, ventiladores de alta potencia y diferenciales de temperatura pequeños.
2. El aire caliente sube, pero no lo suficiente. La estratificación en sala cerrada es difícil de controlar a esa densidad.
3. Los difusores de piso y los pasillos fríos y calientes se vuelven irrelevantes. Necesitas el enfriamiento al chip.

Qué opciones tienen los operadores

Las arquitecturas que están adoptando los operadores con racks de IA incluyen:

1. Liquid cooling directo al chip (DLC). Cold plates conectados a manifolds llevan refrigerante hasta el silicio. Es la opción más eficiente pero requiere racks compatibles y CDU (Coolant Distribution Units) en la fila.
2. Inmersión líquida. Los servidores se sumergen en un fluido dieléctrico. Elimina el aire completamente del rack. Eficiencia alta, pero cambio profundo en la operación y mantenimiento.
3. Rear-door heat exchangers. Para racks que no pueden migrar a DLC completo, el intercambiador en la puerta trasera evacua el calor del aire de salida con agua. Es un paso intermedio.
4. Aire con contención de pasillo caliente más alto caudal. Solo viable hasta rangos moderados por rack. Para 60-100 kW deja de ser suficiente.

Si tu data center va a alojar cargas de IA, la pregunta no es «¿puedo enfriarlo con aire?» sino «¿qué arquitectura de líquido implemento?». El aire es historia para esta densidad. El líquido es el presente.

Fuentes

[1] ASHRAE — TC 9.9 Datacom Equipment Power Trends (thermal guidelines): https://www.ashrae.org/technical-resources/bookstore/datacom-series

[2] Nvidia — HGX/MGX Platform specifications (vendor product documentation): https://www.nvidia.com/en-us/data-center/hgx/

[3] Vertiv — Liquid Cooling Solutions for AI (vendor reference): https://www.vertiv.com/en-us/solutions/liquid-cooling/

[4] Schneider Electric — High-Density Cooling for AI Workloads (vendor reference): https://www.se.com/ww/en/about-us/newsroom/blog/data-center-cooling/

[5] Wikipedia — Data Center Cooling (background reference): https://en.wikipedia.org/wiki/Data_center