Le sens comme proximité : la recherche sémantique
Les vecteurs servent aussi à retrouver un document par son sens, sans partager un seul mot avec la question.
ObjetivoExpliquer comment fonctionne une recherche par similarité et ce qui la distingue d’une recherche par mots-clés.
Ce qui vaut pour un mot vaut pour une phrase ou un paragraphe. Un modèle peut produire un vecteur pour un passage entier, qui résume son sens. Deux passages qui parlent de la même chose avec des mots différents obtiennent des vecteurs proches.
C’est la base de la recherche sémantique. On calcule à l’avance un vecteur pour chaque passage de vos documents. Quand vous posez une question, on calcule son vecteur et on cherche les passages les plus proches, en général par la similarité cosinus, qui mesure l’angle entre deux vecteurs.
Recherche par mots-clés : « résiliation » ne trouve pas un contrat qui parle de « fin anticipée du mandat ».
Recherche sémantique : la question sur la résiliation retrouve le passage sur la fin anticipée, parce que les deux sens sont proches.
La proximité porte sur le sens, pas sur les mots exacts.
Ses limites
- Elle peut ramener un passage proche par le thème mais faux sur le point précis, par exemple un autre article du même contrat.
- Les chiffres, les dates et les références exactes se retrouvent mieux par mots-clés. Les bons systèmes combinent les deux.
- La qualité dépend du découpage des documents en passages.
Referências
- Mikolov, Chen, Corrado et al. (2013). Efficient Estimation of Word Representations in Vector Space. Prépublication arXiv. arxiv.org/abs/1301.3781
- Devlin, Chang, Lee et al. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT 2019, p. 4171–4186. doi.org/10.18653/v1/N19-1423