Quelle IA open source comprend le mieux le manuel utilisateur Nextcloud ?

Nous avons testé des modèles open source locaux sur le manuel utilisateur Nextcloud pour évaluer leur compréhension technique.

Modèles testés4Ministral 3B · 8B · 14B · phi4-mini 3.8B
Questions par test6dont 1 piège anti-hallucination
Niveaux documentaires3N0 PDF · N1 TXT · N2 Markdown
Réponses évaluées726 questions × 3 niveaux × 4 modèles

Conclusion positive : 2 modèles open source locaux, dont 1 petit modèle , gèrent efficacement l’analyse du manuel utilisateur Nextcloud.

Le modèle Ministral 3 14B s’est démarqué par des réponses particulièrement fiables et cohérentes, tandis que Ministral 3 3B s’est montré relativement pertinent sur la conversion texte du document original PDF. Pas mal pour un modèle ultra léger tournant sur un PC portable !

N0 – PDF brut N1 – TXT N2 – Markdown
#1 Ministral 3 14B (Serveur IA) : N0 4,00 – N1 3,00 – N2 3,33 | #2 Ministral 3 3B (PC Portable) : N0 2,83 – N1 3,67 – N2 2,83 | #3 Ministral 3 8B (Serveur IA Light) : N0 3,33 – N1 3,33 – N2 3,33 | #4 phi4-mini 3.8B (PC Portable) : N0 2,00 – N1 2,00 – N2 2,33

Les résultats détaillés vous attendent sur le labo de test

Les détails du protocole de test sont accessibles ici