Nvidia PAIR : vos ordinateurs se partagent le travail de l'IA, chez vous
Nvidia a publié le 3 septembre un logiciel gratuit, PAIR, qui fait travailler ensemble plusieurs ordinateurs d'un même lieu. Quand un logiciel d'IA installé chez vous lance plusieurs demandes en parallèle, PAIR les répartit sur les machines disponibles du réseau local au lieu de saturer une seule carte graphique. Sur sa démonstration, Nvidia passe de 18 minutes sur une machine à 8 minutes et 48 secondes sur trois, pour une tâche à cinq sous-agents. Quatre réserves, que Nvidia écrit elle-même : le gain n'existe que si le travail se découpe en demandes indépendantes, une conversation classique n'y gagne rien ; chaque machine doit déjà avoir téléchargé le modèle exact ; la mémoire des cartes graphiques n'est pas mise en commun, on ne fait donc pas tourner un modèle plus gros ; et le logiciel seul ne garantit pas la confidentialité, il faut encore que le modèle et les outils restent chez vous. Derrière PAIR, il y a une gamme complète : le DGX Spark, une machine de 15 centimètres avec 128 Go de mémoire partagée qui fait tourner des modèles bien plus gros qu'un PC ordinaire (environ 4 700 dollars, prix relevé la presse, pas affiché officiellement), et NeMo, l'atelier de Nvidia pour fabriquer et encadrer ses propres agents. Attention à ne pas confondre : NeMo n'est pas un modèle, c'est la boîte à outils pour en faire.
L'avis d'Emmanuel
Regardez bien ce qui se met en place, parce que ça sert directement la souveraineté dont je vous parle en conférence. Mistral publie ses modèles en poids ouverts sous licence Apache 2.0 : vous les téléchargez, vous les faites tourner chez vous, gratuitement, y compris pour un usage commercial. Ils fonctionnent dans Ollama et LM Studio, exactement les deux logiciels que PAIR sait piloter. La chaîne est complète : un modèle français, sur du matériel posé dans vos locaux, réparti entre vos machines, sans qu'une seule ligne parte aux États-Unis. Mistral est d'ailleurs membre fondateur de la coalition Nemotron de Nvidia, et un modèle a été construit à quatre mains, mistral-nemo. Maintenant, restons lucides. Une nuance existe entre les deux maisons : Mistral annonce pour son Small 4 une configuration de niveau centre de données en pleine précision, quand Nvidia annonce le même modèle sur une machine de bureau en version compressée. Les deux disent vrai, ils ne parlent pas de la même chose. Pour une PME, le message est simple : l'IA à la maison ou au bureau devient réaliste pour des usages ciblés, avec un ticket d'entrée de quelques milliers d'euros, et c'est une vraie option quand vos données ne doivent pas sortir. Ce n'est pas encore le remplacement du cloud pour tout le monde, et ça demande quelqu'un de compétent en interne.
Cet article est extrait de la veille IA de LessentIAl, la plateforme d'Emmanuel Derrien : l'actualité de l'intelligence artificielle filtrée, expliquée, et reliée à ce qu'elle change concrètement pour votre entreprise.