Latencia en data centers: por qué los milisegundos importan más de lo que crees

La latencia es la distancia que recorre un bit entre que sale de tu servidor y vuelve con respuesta. En un data center corporativo moderno, esa distancia la defines tú. Y cada metro de más tiene consecuencias medibles en revenue, experiencia y costos.

Aquí va lo que cambia entre milisegundos, y por qué la arquitectura física del DC es lo que manda.

De qué está hecha la latencia

La latencia total de un enlace no es solo la distancia lineal de la fibra. Se compone de factores físicos y lógicos:

• Velocidad de propagación en el medio: La luz viaja a casi 300,000 km/s en el vacío. Sin embargo, al pasar por el núcleo de vidrio de una fibra óptica monomodo, la densidad del material reduce su velocidad a unos 200,000 km/s. En el cobre, la velocidad baja aún más, oscilando entre los 150,000 y 180,000 km/s dependiendo del material dieléctrico del cable.
• Latencia por kilómetro: Esta velocidad en el vidrio se traduce en cerca de 5 microsegundos por cada kilómetro de fibra (lo que equivale a unos 10 microsegundos por kilómetro en un viaje de ida y vuelta o RTT). Así, una conexión de solo 10 kilómetros ya suma 100 microsegundos puramente por el viaje de la luz.
• Latencia de equipos: Cada switch en la ruta añade entre 1 y 10 microsegundos, dependiendo del tamaño de su buffer y de si utiliza una arquitectura cut-through (envío inmediato) o store-and-forward (procesamiento completo del paquete). Las tarjetas de red (NIC) modernas añaden de 1 a 3 microsegundos, mientras que las pilas de los sistemas operativos pueden sumar milisegundos enteros.
• Colas y congestión: Cuando un puerto de red recibe más tráfico del que su ancho de banda puede procesar, los paquetes se ven obligados a esperar en la memoria buffer del switch. En este punto, la latencia deja de ser un límite físico del hardware y se convierte en un problema de optimización operativa.

Aplicaciones donde el milisegundo sí importa

Para la mayoría de cargas corporativas, los milisegundos se diluyen en la experiencia de usuario. Pero hay excepciones donde la latencia es el producto:

1. Trading de alta frecuencia. Una mejora de 1 ms en el enlace al exchange representa ventaja competitiva medible en revenue por operación.
2. Inferencia de IA en tiempo real. Modelos de lenguaje, visión y reconocimiento de voz tienen tiempos de respuesta sensibles a la latencia entre el usuario y la GPU. Cada 100 ms adicionales degrada la percepción de fluidez.
3. Telemedicina y cirugía remota. La latencia entre el cirujano y el robot tiene que estar por debajo de los 20 ms para que el control háptico sea viable.
4. Juegos competitivos y streaming en vivo. Aplicaciones donde la ventaja competitiva o la calidad de experiencia se mide en milisegundos.

Cómo se controla la latencia en la arquitectura del data center

Tres palancas físicas marcan la diferencia:

1. Distancia de la fibra. La decisión más básica: ¿el procesamiento vive a 5 metros o a 50 kilómetros? Eso se decide en diseño, no después.
2. Topología de switching. Spine-leaf bien diseñado mantiene la latencia entre cualquier par de servidores bajo 5 microsegundos. Las topologías de tres capas (core/agregación/acceso) la multiplican.
3. Tipo de almacenamiento. NVMe sobre PCIe transporta en microsegundos. SAN Fibre Channel añade latencia de stack. Disco rotacional añade latencia mecánica de milisegundos.

Si tu DC tiene cargas sensibles al tiempo, la pregunta no es «¿cuánta latencia tengo?» sino «¿de dónde viene cada microsegundo?». Ahí se decide la ventaja competitiva.