Présentation des outils open source utilisés dans le cadre du protocole du laboratoire de tests. Ces logiciels forment une stack locale complète permettant de déployer et d’interroger des modèles de langage sans recourir à un service cloud, sur du matériel accessible aux PME, associations et établissements scolaires.
Architecture de la stack locale
| Couche | Rôle | Détail | Outils |
|---|---|---|---|
| 5 | Utilisateur / Testeur | Interface de dialogue, soumission des questions, évaluation | Humain |
| 4 | Interface RAG / Chat | Ingestion du corpus, vectorisation, gestion du contexte, interface web | AnythingLLM · GPT4All · Open WebUI |
| 3 | Moteur d’inférence | Chargement du modèle, gestion VRAM/RAM, API locale (port 11434) | Ollama |
| 2 | Modèle GGUF | Fichier modèle quantisé chargé localement (Q4_K_M, etc.) | Ministral · Phi… |
| 1 | Matériel | CPU, GPU (VRAM), RAM. | Hardware |
Les couches 3 et 4 peuvent être combinées différemment selon l’outil : GPT4All embarque son propre moteur d’inférence en alternative à Ollama. N8N s’intègre à la couche 3 via l’API Ollama pour les workflows automatisés.
Moteur d’inférence
Ollama
| Éditeur | Ollama Inc. |
| Licence | MIT |
| Rôle | Moteur d’inférence local |
| Format modèles | GGUF (via llama.cpp) |
| API locale | HTTP · port 11434 |
| GPU supportés | NVIDIA · AMD (ROCm) |
| Accélération AMD | ROCm (RX 9060 XT testé) |
| Site officiel | ollama.com |
| Dépôt | github.com/ollama |
| Registre modèles | ollama.com/library |
| Installation | 1 commande (Linux/macOS) |
Ollama est le cœur de la stack locale du laboratoire. Il prend en charge le téléchargement, le chargement et l’exécution des modèles de langage au format GGUF, en exploitant les ressources GPU/CPU disponibles via llama.cpp. Une fois lancé, il expose une API HTTP compatible avec le format OpenAI sur le port 11434, ce qui permet aux interfaces comme AnythingLLM ou Open WebUI de s’y connecter sans configuration complexe.
Son registre public propose des centaines de modèles directement utilisables via une simple commande ollama pull nom-du-modele. Sur les machines de test AMD (Serveur IA, RX 9060 XT 16 Go VRAM), Ollama exploite l’accélération ROCm pour des vitesses d’inférence excellentes.
Rôle dans le protocole IA LAB — Ollama est présent sur toutes les machines de test (PC portable, Serveur IA Light, Serveur IA). Il constitue le backend d’inférence pour les sessions AnythingLLM et les workflows N8N. La version active au moment du test est notée dans chaque article de test.
Interfaces RAG et chat
AnythingLLM
| Éditeur | Mintplex Labs |
| Licence | MIT |
| Rôle | Interface RAG complète |
| Ingestion corpus | PDF · TXT · MD · DOCX… |
| Vectorisation | LanceDB (local, embarqué) |
| Backend LLM | Ollama · OpenAI · Anthropic… |
| Mode | Desktop app ou Docker |
| Site officiel | anythingllm.com |
| Dépôt | github.com/Mintplex-Labs |
| Données | 100% locale · aucun cloud |
AnythingLLM est l’outil RAG retenu comme référence dans le protocole de test du laboratoire. Il permet d’importer un corpus documentaire (PDF, TXT, Markdown…), de le vectoriser localement via LanceDB, puis d’interroger un modèle LLM avec ce corpus comme contexte. L’interface web accessible en localhost offre une gestion par workspaces, ce qui permet de recréer les trois niveaux de préparation du corpus (N0, N1, N2) de manière isolée pour chaque session.
La combinaison AnythingLLM + Ollama constitue la configuration de référence des tests IA LAB. Elle est reproductible sur n’importe quelle machine disposant de ressources suffisantes, sans compte ni abonnement.
Rôle dans le protocole IA LAB — AnythingLLM est utilisé pour toutes les sessions de test RAG sur différents corpus. Les paramètres de chaque test (taille des chunks, overlap, top-k) sont consignés dans le protocole de test. Les workspaces N0/N1/N2 sont créés à chaque session et supprimés après validation des scores.
GPT4All
| Éditeur | Nomic AI |
| Licence | MIT |
| Rôle | Interface desktop autonome |
| Moteur embarqué | llama.cpp intégré |
| RAG | Oui · LocalDocs |
| Vectorisation | Nomic Embed (local) |
| Formats modèles | GGUF |
| Public cible | Grand public · non-technique |
| Installation | Installeur graphique |
| Site officiel | nomic.ai/gpt4all |
| Dépôt | github.com/nomic-ai |
GPT4All est une application de bureau développée par Nomic AI qui embarque son propre moteur d’inférence basé sur llama.cpp. Contrairement à AnythingLLM, qui nécessite Ollama comme backend séparé, GPT4All fonctionne de manière entièrement autonome après installation. Son interface graphique très accessible en fait un candidat particulièrement pertinent pour des déploiements dans des contextes où la configuration technique doit rester minimale : enseignants, personnel administratif, petites structures.
GPT4All propose une fonctionnalité RAG appelée LocalDocs permettant d’interroger un corpus de documents locaux. Cette approche diffère d’AnythingLLM dans la gestion des collections et les paramètres de chunking, ce qui justifie son évaluation distincte dans le protocole.
Rôle dans le protocole IA LAB — GPT4All est testé en configuration alternative sur PC Portable, principalement pour évaluer des modèles 3-4B.
N8N
| Éditeur | N8N B.V. |
| Licence | Apache 2.0 (self-hosted) |
| Rôle | Automatisation de workflows locaux |
| Intégration LLM | Via API Ollama (HTTP · port 11434) |
| Mode | Self-hosted · npm ou Docker |
| Interface | Web (localhost) |
| Site officiel | n8n.io |
| Dépôt | github.com/n8n-io |
| Données | 100% locale · aucun cloud requis |
N8N est un outil d’automatisation de workflows open source déployable localement. Dans le cadre du laboratoire, il est utilisé pour construire des agents IA locaux connectés à Ollama : classification d’emails, génération de brouillons de réponses, traitement automatisé de données. Contrairement aux interfaces RAG, N8N permet de chaîner plusieurs appels au modèle et d’intégrer des sources de données externes (IMAP, fichiers CSV, bases de données).
Rôle dans le protocole IA LAB — N8N est utilisé pour les tests de workflows automatisés : classification et traitement d’emails, génération de rapports. Ces sessions constituent un axe de test distinct du RAG documentaire, orienté vers l’automatisation de tâches récurrentes en contexte PME et associatif.
Tableau récapitulatif
| Logiciel | Éditeur | Rôle | RAG | Backend LLM | Licence | Usage dans le protocole |
|---|---|---|---|---|---|---|
| Ollama | Ollama Inc. | Moteur d’inférence | Non | — | MIT | Toutes sessions |
| AnythingLLM | Mintplex Labs | Interface RAG | Oui · LanceDB | Ollama | MIT | Référence benchmark |
| GPT4All | Nomic AI | Interface desktop | Oui · LocalDocs | Embarqué (llama.cpp) | MIT | Alternative · PC Portable |
| N8N | N8N B.V. | Automatisation workflows | Non | Ollama (via API) | Apache 2.0 | Workflows locaux |
Critères de sélection des outils
100 % open source
Tous les logiciels utilisés sont déployables sans compte utilisateur ni abonnement.
Confidentialité garantie
Aucune donnée ne quitte la machine : la confidentialité des corpus est garantie.
Reproductibilité
Toute personne peut recréer la même stack à partir des mêmes instructions.
Matériel grand public
La stack fonctionne à partir de 8 Go RAM ; un GPU est fortement recommandé.