NVIDIA Spectrum-6 apporte la connectivité Ethernet aux grandes usines d’IA

NVIDIA a lancé Spectrum-6, une nouvelle technologie de réseau conçue pour les très grands centres de données d’IA, souvent appelés usines d’IA. Ces installations utilisent un grand nombre de GPU pour entraîner, exécuter et servir des modèles d’IA, et le réseau connectant ces systèmes devient tout aussi important que les processeurs eux-mêmes.

Pour les utilisateurs de PC ordinaires, il ne s’agit pas d’une nouvelle carte graphique ou d’un produit de mise en réseau domestique. C’est une technologie de centre de données, mais elle permet d’expliquer comment les services d’IA que les gens utilisent sur les PC, les téléphones et les stations de travail sont pris en charge en coulisses.

À quoi NVIDIA Spectrum-6 est-il destiné ?

Les systèmes d’IA modernes dépendent d’énormes quantités de données se déplaçant entre les processeurs. Dans une grande usine d’IA, de nombreux serveurs GPU peuvent avoir besoin de travailler ensemble sur la même tâche d’entraînement ou d’inférence, ce qui signifie que le réseau doit maintenir un flux de données fluide.

Spectrum-6 est la réponse de NVIDIA à cette demande croissante en matière de mise en réseau. Il est basé sur Ethernet, une norme de réseau largement utilisée dans les centres de données, mais il est appliqué ici à une échelle beaucoup plus grande et plus exigeante.

En termes simples, NVIDIA cible les environnements où les systèmes d’IA doivent communiquer rapidement, de manière fiable et à très haut volume. Si le réseau devient congestionné ou incohérent, des systèmes de calcul coûteux peuvent passer du temps à attendre au lieu de travailler.

Pourquoi la mise en réseau est importante dans les centres de données d’IA

Lorsque les utilisateurs de PC pensent aux performances, ils pensent généralement au CPU, au GPU, à la RAM ou au stockage. Dans les centres de données d’IA, ces éléments sont toujours importants, mais la mise en réseau devient un élément majeur des performances globales, car des milliers de processeurs peuvent avoir besoin d’agir comme un seul grand système.

Les charges de travail d’IA répartissent souvent les tâches sur plusieurs GPU. Chaque GPU peut calculer une partie d’une tâche plus importante, puis partager les résultats avec d’autres GPU. Cela crée un trafic réseau important, en particulier lors des entraînements d’IA à grande échelle.

Si le réseau est lent ou imprévisible, l’ensemble du système peut devenir moins efficace. L’objectif de NVIDIA avec Spectrum-6 est de prendre en charge les grandes usines d’IA où le mouvement des données doit suivre le rythme du matériel de calcul.

Ethernet à une échelle beaucoup plus grande

Ethernet est familier à de nombreux utilisateurs de PC, car c’est la même famille de réseaux de base utilisée pour les connexions filaires domestiques et de bureau. Cependant, Ethernet dans une usine d’IA est très différent de la connexion d’un PC de jeu à un routeur.

Dans les centres de données, Ethernet connecte des racks de serveurs, des systèmes de stockage, des commutateurs et des accélérateurs. Le défi n’est pas seulement la vitesse brute, mais le maintien de performances stables lorsque de nombreux systèmes communiquent simultanément.

Spectrum-6 est positionné pour les usines d’IA à l’échelle du giga, ce qui signifie des réseaux qui prennent en charge une infrastructure d’IA extrêmement grande. L’objectif de NVIDIA est de fournir une mise en réseau Ethernet capable de gérer les demandes de communication des charges de travail d’IA avancées.

Les usines d’IA à l’échelle du giga ont besoin de plus que de puces rapides

La croissance de l’IA est souvent discutée en termes de GPU plus rapides et de modèles plus grands, mais un centre de données est un système complet. Les puces de calcul, la mémoire, le stockage, le refroidissement, l’alimentation et la mise en réseau doivent tous fonctionner ensemble.

Spectrum-6 s’intègre à ce système en se concentrant sur la couche réseau. Cette couche est responsable du mouvement des données entre les machines afin que la charge de travail d’IA puisse se poursuivre sans retards inutiles.

C’est particulièrement important à mesure que les usines d’IA grandissent. Plus il y a de systèmes connectés, plus il devient difficile de gérer le trafic efficacement. Un réseau construit pour des charges de travail plus petites peut ne pas convenir à une infrastructure d’IA à l’échelle du giga.

Ce que cela signifie pour les services d’IA

La plupart des gens n’interagiront pas directement avec Spectrum-6. Au lieu de cela, une technologie comme celle-ci prend en charge l’infrastructure dorsale utilisée par les entreprises qui construisent, entraînent et exécutent des systèmes d’IA.

Lorsque les services d’IA deviennent plus complexes, ils nécessitent souvent plus de ressources informatiques. Les grandes usines d’IA sont un moyen par lequel l’industrie tente de répondre à cette demande, et la mise en réseau est un élément clé pour rendre ces installations pratiques.

Cela ne signifie pas que chaque service d’IA changera instantanément à cause d’un seul produit de réseau. Cela signifie que les fournisseurs d’infrastructure continuent de construire des systèmes plus grands et plus spécialisés pour les charges de travail d’IA.

Comment cela se connecte au jeu sur PC et à la construction de PC

Pour les joueurs et les constructeurs de PC, Spectrum-6 n’est pas quelque chose à ajouter à une configuration de bureau. Il n’améliorera pas les fréquences d’images, ne réduira pas la latence de l’Internet domestique et ne remplacera pas un GPU de jeu.

Cependant, il reste pertinent pour le monde plus vaste du PC, car de nombreux outils d’IA sont désormais utilisés sur des appareils grand public. Des fonctionnalités telles que les assistants de chat IA, les outils créatifs, la génération d’images et les services d’IA basés sur le cloud dépendent souvent de grands centres de données.

À mesure que l’infrastructure d’IA se développe, les entreprises ont besoin de moyens plus rapides et plus efficaces de connecter le matériel derrière ces services. Spectrum-6 fait partie de cette couche technologique côté centre de données.

Pas la même chose qu’un lancement de GPU grand public

NVIDIA est largement connue des utilisateurs de PC pour ses cartes graphiques GeForce, mais la société développe également des produits de mise en réseau, de centre de données et d’infrastructure d’IA. Spectrum-6 appartient à cette catégorie d’entreprise et de centre de données.

Cette distinction est importante. Une carte graphique gère le rendu, les jeux et le calcul GPU au sein d’un PC ou d’une station de travail. Un produit de mise en réseau de centre de données aide les grands systèmes à communiquer entre les racks et les installations.

Les deux peuvent faire partie de l’écosystème plus large de l’IA, mais ils jouent des rôles très différents. Spectrum-6 vise à connecter des systèmes d’IA à grande échelle, plutôt qu’à exécuter des jeux ou des applications de bureau localement.

Le principal enseignement

NVIDIA Spectrum-6 montre à quel point la mise en réseau est devenue importante pour les grands systèmes d’IA. À mesure que les usines d’IA grandissent, il ne suffit pas d’ajouter plus de processeurs ; ces processeurs ont également besoin d’un réseau capable de les maintenir connectés et productifs.

Pour les utilisateurs de PC en général, le point clé est simple : il s’agit d’une infrastructure en coulisses pour les centres de données d’IA. Ce n’est pas une mise à niveau grand public, mais elle fait partie de la base technologique qui prend en charge des charges de travail d’IA de plus en plus importantes.

Article et image originaux : https://blogs.nvidia.com/blog/nvidia-spectrum-six-arrives-in-gigascale-ai-factories/