developer.nvidia.com détecté sur le web

Nvidia lance PAIR à IFA 2026, un routeur d'inférence open source pour cluster IA maison

NVIDIA Inference Edge AI ai-business

Résumé

Nvidia sort la bêta de Personal AI Router (PAIR), un routeur virtuel qui distribue les requêtes d'inférence sur Ollama et LM Studio à travers plusieurs machines RTX 20+, DGX Spark et Apple M4+ d'un même réseau local. La démo Hermes Desktop passe de 18 à 8 min 48 sur un cluster à trois nœuds. PAIR est publié en Apache 2.0 pour Windows, macOS et Linux.