Ce qu’est un embedding
Un embedding, ou plongement vectoriel, transforme un texte en une longue liste de nombres, un vecteur. Le modèle qui calcule ces vecteurs est entraîné pour que des textes de sens proche donnent des vecteurs proches. « Facture impayée » et « relance pour retard de paiement » se retrouvent ainsi voisins, même s’ils n’ont aucun mot en commun.
À quoi ça sert
La recherche classique compare des mots. Une recherche par embeddings compare des sens. On calcule une fois l’embedding de chaque document ou de chaque passage, on le range dans une base, puis, pour chaque question, on cherche les passages dont le vecteur est le plus proche de celui de la question.
C’est la brique de base du RAG : retrouver les bons passages avant de les donner à un modèle de langage pour qu’il réponde.
Exemples dans une fiduciaire ou une PME
- Retrouver dans les archives tous les échanges liés à un même litige, quelle que soit la formulation.
- Proposer, à l’arrivée d’un e-mail, les dossiers clients qui y ressemblent.
- Interroger les procédures internes en langage courant.
Les limites
La recherche par le sens n’est pas parfaite. Elle peut manquer un document qui contient pourtant le bon numéro de facture, parce qu’un identifiant exact n’a pas de « sens » proche. Les meilleurs systèmes combinent donc recherche par mots et recherche par embeddings. Le découpage des documents compte aussi : des passages trop longs ou trop courts dégradent les résultats.
Embeddings et confidentialité
Calculer des embeddings revient à traiter le contenu des documents. Les modèles d’embedding existent en version locale : les documents n’ont donc pas besoin de quitter votre infrastructure. C’est la configuration que nous privilégions avec l’IA locale du socle.