NVIDIA presenta PAIR, un enrutador que reparte la IA entre computadores locales
NVIDIA entra en beta con PAIR, un enrutador de software que combina la capacidad de inferencia de varios equipos en una red local y reparte las peticiones de IA entre ellos, pensado para cargas multi-agente que saturan una sola GPU.
NVIDIA presentó PAIR (Personal AI Router), un enrutador de software que entra en fase beta y permite repartir las cargas de inteligencia artificial entre varios equipos de una misma red local. La herramienta combina la capacidad de inferencia de las máquinas conectadas y distribuye de forma automática las peticiones de IA entre ellas, en lugar de depender de un único equipo o de servicios en la nube.
El enfoque apunta a un problema concreto: cuando varios agentes o modelos se ejecutan a la vez, una sola GPU puede saturarse y quedarse sin memoria o capacidad de cómputo. PAIR busca aprovechar el hardware que ya existe en la red para atender ese tipo de cargas multi-agente, lo que reduce la necesidad de invertir en una tarjeta gráfica de gama alta.
Para la industria, la propuesta se suma a la tendencia de la inferencia local, en la que los modelos corren en las propias máquinas del usuario en vez de en centros de datos ajenos. Este modelo ofrece ventajas de privacidad, latencia y costo, aunque también plantea retos de administración, seguridad y consumo energético cuando se coordinan varios dispositivos.
Para quienes desarrollan aplicaciones con agentes, este tipo de herramientas abre la puerta a probar arquitecturas distribuidas sin depender exclusivamente de la nube. El reto estará en la madurez del software durante la beta y en qué tan bien maneje equipos heterogéneos.
Fuente: InfoQ.