Les modèles locaux sont pratiques car, après le premier téléchargement, tu peux les utiliser partout — plus besoin d’internet. Tout ce que tu fais reste sur ton appareil, et aucun « Big Brother » ne voit tes données ou requêtes. Les réponses arrivent sans les délais habituels liés aux services cloud, et les coûts de calcul se réduisent à la consommation électrique, puisque tout s’exécute sur ton propre matériel.
Les modèles s’adaptent à l’appareil : Foundry Local choisit la version optimale pour le CPU, GPU ou NPU, afin d’assurer une vitesse et une efficacité maximales.
🛠 Foundry Local
Foundry Local, développé par Microsoft, simplifie l’exécution de modèles locaux.
Certaines tâches d’IA s’exécutent en local, d’autres dans le cloud lorsque c’est pertinent.
Tu peux utiliser Foundry Local via :
- CLI — des commandes simples dans le terminal ou PowerShell
- SDK — des bibliothèques familières, incluant une API REST compatible OpenAI
- Visual Studio Code AI Toolkit — des modèles directement dans ton IDE
Le catalogue de modèles contient des variantes optimisées pour l’exécution locale. Si un modèle est déjà téléchargé, il se lance instantanément depuis le cache. Le service local accepte les requêtes comme un service web, ce qui permet d’appeler des modèles depuis des scripts ou de les intégrer dans tes propres outils.
⚙️ Configuration requise
- Système d’exploitation : Windows 10/11 (x64/ARM), Windows Server 2025 ou macOS
- Mémoire et disque : au minimum 8 Go de RAM et 3 Go de disque (16 Go / 15 Go recommandés)
- Réseau : internet requis uniquement lors du premier téléchargement du modèle
- Accélération (optionnel) : NVIDIA (série 2000+), AMD (6000+), Intel iGPU, Qualcomm Snapdragon X Elite, Apple Silicon
- Droits administrateur : nécessaires pour l’installation
💾 Installation de Foundry Local
1. Via CLI
Windows :
winget install Microsoft.FoundryLocal --scope machine
Si l’installation échoue — télécharge le paquet .msix et ses dépendances, puis installe-le via PowerShell avec les droits administrateur.
macOS : suis les instructions de la documentation officielle.
2. Téléchargement de l’installateur
Trouve la dernière version dans le référentiel GitHub de Foundry Local et installe-la manuellement.
Après l’installation, vérifie l’aide :
foundry help
🚀 Lancer ton premier modèle
- Lance un modèle dans le terminal (par ex. :
phi-3.5-mini). - Lors de la première exécution, il sera téléchargé localement (quelques minutes).
- Lors des exécutions suivantes, il sera chargé depuis le cache.
Exemple :
foundry model run phi-3.5-mini
Pour exécuter GPT-OSS-20B :
foundry model run gpt-oss-20b
⚠ Nécessite un GPU NVIDIA avec au moins 16 Go de VRAM et Foundry Local 0.6.87+.
Vérifie ta version :
foundry --version
🖥 Foundry Local CLI — Référence
L’interface en ligne de commande (CLI) de Foundry Local est conçue pour gérer les modèles, le service et le cache local.
🔎 Vue d’ensemble
Voir toutes les commandes disponibles :
foundry --help
Catégories de commandes :
- Model — gestion et exécution des modèles
- Service — gestion du service Foundry Local
- Cache — gestion du cache
📦 Commandes pour les modèles
| Commande | Description |
|---|---|
foundry model --help | Aide sur les commandes liées aux modèles. |
foundry model run <model> | Exécute un modèle (le télécharge si nécessaire). |
foundry model list | Liste des modèles disponibles. |
foundry model info <model> | Informations détaillées sur un modèle. |
foundry model download <model> | Télécharge un modèle dans le cache sans l’exécuter. |
foundry model load <model> | Charge un modèle dans le service. |
foundry model unload <model> | Décharge un modèle du service. |
⚙️ Commandes pour le service
| Commande | Description |
|---|---|
foundry service --help | Aide sur les commandes du service. |
foundry service start | Démarre le service. |
foundry service stop | Arrête le service. |
foundry service restart | Redémarre le service. |
foundry service status | Vérifie l’état du service. |
foundry service ps | Liste des modèles chargés. |
foundry service logs | Affiche les journaux. |
foundry service set <options> | Configure (ex. : GPU). |
🗂 Commandes pour le cache
| Commande | Description |
|---|---|
foundry cache --help | Aide sur les commandes du cache. |
foundry cache location | Affiche le chemin du cache. |
foundry cache list | Liste des modèles en cache. |
foundry cache remove <model> | Supprime un modèle du cache. |
foundry cache cd <path> | Change le répertoire du cache. |
🚀 Exemples d’utilisation
Lancement rapide d’un modèle
# Télécharger et exécuter un modèle
foundry model run phi-4-mini
# Informations sur un modèle
foundry model info phi-4-mini
# Télécharger un modèle sans l’exécuter
foundry model download phi-4-mini
Gestion du service
foundry service status
foundry service ps
foundry service restart
Gestion du cache
foundry cache list
foundry cache remove old-model
foundry cache cd /path/to/larger/drive
🔧 Fonctions avancées
# Voir la licence du modèle
foundry model info phi-4-mini --license
# Générer des journaux de diagnostic
foundry zip-logs
# Configurer l’utilisation du GPU
foundry service set --gpu 0
📌 Tu as maintenant un document unique : aperçu des modèles locaux, exigences, installation, premiers pas et guide complet du CLI.
Veux-tu que je prépare aussi la version .md prête à l’emploi pour ton blog/référentiel ?