En une phrase
Cette vidéo présente dix projets open source de 2026 permettant de faire tourner des modèles d'IA en local sur un ordinateur portable sans GPU dédié, de Which LLM (choix du modèle adapté au matériel) jusqu'à Local Deep Research (agent de recherche approfondie entièrement local).
Points clés
- Choisir un modèle adapté au matériel : des outils comme Which LLM et LLM Fit classent les modèles selon la RAM, le CPU et le GPU, plutôt que de se fier au seul nombre de paramètres ; Which LLM est plus à jour (données en direct, simulation de GPU), tandis que LLM Fit propose un catalogue plus sélectif et une interface plus aboutie.
- Quantification : c'est la clé de l'exécution locale. Le format Q4_K_M réduit un modèle de 14 milliards de paramètres à environ 9 Go de RAM ; les modèles quantifiés sont distribués au format GGUF.
- Solutions selon la machine : Gemma 3n (2 milliards de paramètres, multimodal) est recommandé pour les machines disposant de moins de 16 Go de RAM, et Qwen 3.6 27B (dense) pour celles dotées de 32 Go, offrant un bon compromis raisonnement/code — bien qu'il soit lent sur CPU x86 lors des boucles d'agents.
- Outils d'exécution et interfaces : LM Studio (interface graphique, serveur compatible API OpenAI), Ollama (gestion simplifiée des modèles, licence MIT), llama.cpp (moteur sous-jacent très complet, sans interface graphique) et llamafile (exécutable unique, sans installation requise).
- Recherche approfondie locale : Local Deep Research interroge au moins dix sources (archives, PubMed, GitHub, documents privés) et produit une réponse sourcée ; il atteint 95,7 % de précision sur SimpleQA avec Qwen 3.6 27B sur un seul GPU grand public, et 77 % sur xbench-DeepSearch — ce qui montre que le local se rapproche du cloud sans l'égaler totalement.
Ressources
- Which LLM — classement des modèles selon le matériel local
- LLM Fit — classement des modèles selon le matériel, interface terminal écrite en Rust
- Offgrid AI Mobile — IA hors ligne sur smartphone iOS et Android
- Gemma 3n — modèle multimodal de Google adapté aux machines modestes
- Qwen — famille de modèles d'Alibaba, dont Qwen 3.6 27B
- LM Studio — interface graphique pour exécuter des modèles en local
- Ollama — outil pour exécuter des LLM en local
- llama.cpp — moteur d'inférence en C/C++ au cœur de l'écosystème local
- llamafile — exécutable unique regroupant modèle et moteur, projet Mozilla
- Hugging Face — plateforme de modèles d'IA hébergeant les modèles au format GGUF
- Local Deep Research — agent de recherche approfondie entièrement local