À quoi sert Ollama
Ollama est un outil libre qui simplifie l’installation de modèles de langage sur sa propre machine. En une commande, on télécharge un modèle dont les poids sont publiés, comme Llama, Mistral, Gemma ou Qwen, puis on peut l’interroger localement, sans connexion à un service extérieur.
Il fonctionne sous macOS, Linux et Windows, et expose une interface de programmation qui permet à d’autres logiciels d’appeler le modèle. C’est l’un des moyens les plus répandus de tester une IA locale.
Ce qu’il permet
- Essayer plusieurs modèles sur ses propres documents, sans les envoyer en ligne.
- Faire tourner un modèle sur un serveur interne et le rendre disponible pour des automatisations.
- Comparer la qualité et la rapidité de modèles de tailles différentes sur une même tâche.
Ce qu’il ne fait pas
Ollama fait tourner un modèle ; il ne constitue pas, à lui seul, un outil prêt pour une équipe. Pour un usage en entreprise, il faut ajouter :
- la gestion des accès, pour que chacun ne voie que ce qu’il a le droit de voir ;
- la connexion aux logiciels métier : messagerie, comptabilité, stockage de documents ;
- un journal des actions et des sauvegardes ;
- des interfaces adaptées aux collaborateurs, qui n’ont pas à utiliser une ligne de commande.
Le choix du matériel
La rapidité dépend de la machine et de la taille du modèle. Un petit modèle tourne sur un poste récent ; un modèle plus grand demande un serveur avec une carte graphique adaptée ou beaucoup de mémoire. Le bon dimensionnement se fait à partir des tâches réelles et du volume, pas de la taille du modèle à la mode.
Chez Tesseract Studio
Des outils comme Ollama font partie des briques possibles du socle que nous installons, autour duquel nous ajoutons les accès, les connexions aux outils du client et la journalisation.