How to Use OpenAI's Latest AI Models on NVIDIA RTX Graphics Cards

Comment utiliser les derniers modèles d'IA d'OpenAI sur les cartes graphiques NVIDIA RTX

OpenAI et NVIDIA ont collaboré pour optimiser l'exécution des nouveaux modèles d'intelligence artificielle open source d'OpenAI sur les cartes graphiques NVIDIA GeForce RTX et RTX PRO. Ces modèles sont conçus pour faciliter la recherche et la recherche sur le web. Vous pouvez désormais les utiliser sur des ordinateurs cloud puissants et sur votre propre PC.

Les nouveaux modèles, appelés gpt oss 20b et gpt oss 120b, sont désormais accessibles à tous. Les passionnés d'IA et les développeurs peuvent les tester sur leurs ordinateurs de bureau ou stations de travail NVIDIA RTX grâce à des outils simples comme Ollama, llama cpp et Microsoft AI Foundry Local. Par exemple, vous pouvez atteindre des vitesses impressionnantes avec la dernière carte graphique NVIDIA GeForce RTX 5090.

Ces modèles utilisent une technologie avancée qui favorise une pensée et un raisonnement flexibles. Ils suivent les instructions avec aisance, utilisent des outils et gèrent des entrées de texte plus longues que de nombreux autres modèles d'IA. Entraînés grâce à de puissantes puces NVIDIA H100, ils peuvent gérer jusqu'à cent trente et un mille longueurs de contexte, ce qui les rend parfaits pour la lecture de documents, l'aide au codage et l'approfondissement de la recherche.

Les cartes graphiques RTX de NVIDIA sont les premières à prendre en charge ces modèles grâce à la technologie MXFP4. Celle-ci permet à votre ordinateur d'exploiter efficacement ses ressources tout en offrant d'excellentes performances en IA.

La prise en main est simple. L'application Ollama permet de discuter facilement avec ces nouveaux modèles d'IA sur votre carte graphique RTX. Il suffit d'installer l'application, de choisir un modèle dans un menu et de commencer à envoyer des messages. Ollama vous permet également de joindre des fichiers image ou texte et de régler la quantité d'informations mémorisées par le modèle lors d'une conversation. Les développeurs peuvent utiliser des outils spécifiques dans Ollama pour intégrer ces IA à d'autres logiciels.

Vous n'êtes pas limité à Ollama. Vous pouvez également utiliser les modèles gpt oss via des programmes comme llama cpp et des bibliothèques conçues pour RTX, ou avec Microsoft AI Foundry Local sous Windows. NVIDIA continue de collaborer avec les communautés open source pour garantir le bon fonctionnement et la rapidité de ces modèles sur les cartes graphiques RTX.

Grâce à ces efforts, davantage de personnes peuvent désormais tester et développer des solutions d'IA avancées sur leurs PC et stations de travail Windows. Pour en savoir plus ou obtenir de l'aide, consultez les blogs de NVIDIA, rejoignez leur communauté Discord ou suivez-les sur les réseaux sociaux pour obtenir des conseils et des mises à jour.

Article et image originaux : https://blogs.nvidia.com/blog/rtx-ai-garage-openai-oss/

Retour au blog