Edge AI: lo que cambia cuando la inferencia corre en la fábrica, no en la nube

Cuando la inferencia de un modelo de IA corre en la planta, en una bodega o en el rack de un comercio, deja de ser un servicio en la nube para convertirse en infraestructura local. Eso cambia la conversación de costo, latencia y privacidad.

Edge AI no es ejecutar ChatGPT en un servidor local. Es poner un modelo entrenado (visión, detección de anomalías, predicción de demanda) a producir inferencias en milisegundos sobre datos que no pueden salir del sitio.

Por qué la inferencia en la fábrica, no en la nube

Hay tres razones técnicas por las que la inferencia se está moviendo al edge. Las tres son económicas o regulatorias, no de moda.

• Latencia determinista: una línea de manufactura que detecta defectos por visión necesita respuesta en menos de 50 ms. Una llamada a la nube añade entre 30 y 200 ms solo de red, más el tiempo del modelo.
• Costo por inferencia: en visión industrial se generan entre 10 y 100 inferencias por segundo por cámara. Multiplicado por turnos de 24/7, el costo mensual de inferencia en la nube supera al de un dispositivo edge en menos de un año.
• Datos sensibles: muchas fábricas no pueden subir imágenes de producto, planos o video de proceso a servicios externos por contrato, normatividad local o política interna.

Qué cambia cuando el modelo corre en la fábrica

El cambio más importante no es técnico: es operativo. Si el modelo vive en la nube, un corte de internet apaga tu línea de visión. Si corre en el edge, el modelo sigue funcionando aún sin WAN. Eso convierte la IA de "servicio que contratamos" en "activo que mantenemos".

Los dispositivos edge modernos son computadoras reforzadas (ruggedized) con CPU de servidor, GPU integrada (NVIDIA Jetson, Hailo, Intel Movidius) y conectividad industrial (RS-485, Modbus TCP, Profinet, EtherCAT). Operan entre 0 y 50 °C, sin ventilación forzada, con discos SSD (estado sólido) y fuente redundante.

El otro cambio es en el modelo de soporte. En la nube, el proveedor actualiza el modelo y tú recibes el cambio. En el edge, tú decides cuándo actualizar. Eso exige un pipeline MLOps (operaciones de machine learning) local: versionado, validación con datos del sitio, rollback si la precisión cae.

Casos de uso donde el edge ya gana

1. Visión para control de calidad en líneas de empaque, donde cada segundo cuenta y una inferencia errada detiene la línea.
2. Mantenimiento predictivo en motores, bombas y compresores: el modelo escucha vibración y temperatura localmente y dispara alerta antes del fallo.
3. Detección de anomalías de seguridad (EPP, intrusión, áreas restringidas) en cámaras que no pueden subir video por privacidad.
4. Optimización de HVAC (climatización) y energía: el modelo predice carga térmica con datos locales de sensores y ajusta chillers y free cooling en tiempo real.
5. Inventario automatizado en el comercio minorista (retail) y la logística: cámaras en techo que cuentan SKU (unidades de inventario) sin enviar imágenes a la nube.

Lo que casi nadie dimensiona al inicio

El dispositivo edge no es lo caro. Lo caro de operar es la canalización de datos (data pipeline) local: cómo llevas las imágenes o señales al modelo, cómo etiquetas las excepciones para reentrenar, cómo auditas las inferencias para cumplimiento normativo. Sin pipeline, tienes hardware caro produciendo inferencias que no puedes mejorar.

La latencia ya no es la variable crítica. La variable crítica es el ciclo de reentrenamiento: qué tan rápido puedes detectar la deriva del modelo (degradación del comportamiento al comparar datos nuevos con el entrenamiento original), recolectar nuevos datos etiquetados y desplegar la versión siguiente sin detener la operación.

Edge AI en fábrica es una decisión de arquitectura, no de proveedor. Antes de elegir el dispositivo edge, define el pipeline de datos, el plan de rollback y el modelo de soporte. Una vez definido eso, el hardware se vuelve intercambiable.

Fuentes

[1] NVIDIA — Embedded Systems for Edge AI — https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/

[2] Hailo — AI Processors for Edge Devices — https://hailo.ai/

[3] IEEE — Edge Computing Standards — https://standards.ieee.org/ieee/1934/7237/

[4] Uptime Institute — Research and Reports — https://uptimeinstitute.com/resources/

[5] Wikipedia — Edge computing — https://en.wikipedia.org/wiki/Edge_computing