En une phrase
Ce tutoriel explique pas à pas comment installer sa propre IA sur un VPS Ubuntu (Docker, Ollama, Open WebUI, Caddy) pour l'utiliser depuis un navigateur ou un téléphone, avec un système RAG pour interroger ses propres documents.
Points clés
- Objectif et usages : Déployer une IA privée accessible partout, capable de discuter et d'interroger des documents internes (projet personnel, documentation d'entreprise, assistant interne).
- Choix du VPS : Hostinger, plan KVM2 (le plus populaire selon la vidéo), serveur situé à Paris, sous Ubuntu, avec une offre promotionnelle sur 24 mois (environ 7,79 €/mois, code promo mentionné dans la vidéo).
- Stack technique : Docker pour la conteneurisation, Ollama pour exécuter les modèles, Open WebUI comme interface dans le navigateur, et Caddy pour le HTTPS via reverse proxy.
- Modèles utilisés : Llama 3.2 3B pour la génération des réponses, et Nomic Embed Text pour transformer textes et questions en vecteurs afin de rechercher dans les documents. La combinaison des deux rend le RAG efficace.
- Configuration d'Open WebUI : Activation de l'interface en français, désactivation de certaines fonctionnalités du modèle (vision, génération d'images, outils intégrés) pour améliorer la rapidité, puis configuration du moteur d'embedding sur Ollama avec le modèle nomic-embed-text (taille de chunk à 1 000 et overlap à 100, laissés par défaut).
Ressources
- Hostinger — hébergeur du VPS utilisé dans ce tutoriel (lien promo dans la description de la vidéo)
- Ubuntu — système d'exploitation du serveur
- Docker — conteneurisation des applications
- Ollama — exécution de LLM en local
- Llama 3.2 3B — modèle de langage utilisé pour la génération des réponses
- Nomic Embed Text — modèle d'embedding pour la recherche dans les documents
- Open WebUI — interface web pour utiliser l'IA depuis le navigateur
- Caddy — serveur web / reverse proxy pour le HTTPS
- Hermes agent — projet annexe mentionné par l'orateur, relié à Telegram
- n8n — automatisation de workflows (mentionné comme exemple d'application installable)
- Telegram — messagerie mentionnée dans le cadre du projet Hermes agent