Chercher avant de répondre : la recherche augmentée
Le principe qui permet à un modèle de répondre à partir de vos documents et de citer ses sources.
ZielDécrire les étapes d’une recherche augmentée et identifier où elle peut échouer.
Un modèle ne connaît ni vos contrats ni vos procédures. La recherche augmentée, ou RAG, lui apporte ces connaissances au moment de répondre. Le principe a été formalisé en 2020 : on cherche d’abord les passages pertinents, puis on les donne au modèle avec la question.
- Question« Que dit notre contrat sur la résiliation ? »
- RechercheLes passages les plus proches sont trouvés dans vos documents.
- ContexteCes passages sont placés avant la question.
- RéponseLe modèle répond en citant les passages utilisés.
Ce montage réduit les inventions, parce que la réponse s’appuie sur un texte présent dans le contexte, et il permet de citer la source. C’est ainsi que fonctionnent les réponses de Learnya sur vos documents et sur le web.
Où cela peut échouer
- La recherche ramène le mauvais passage. La réponse sera alors fidèle à un texte hors sujet.
- Le bon passage est trouvé mais mal découpé, et la phrase décisive manque.
- Le modèle mélange le passage et ses propres connaissances. Une revue de 2023 sur les hallucinations classe ce cas parmi les plus courants.
Quellen
- Lewis, Perez, Piktus et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems 33, p. 9459–9474. arxiv.org/abs/2005.11401
- Ji, Lee, Frieske et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys 55(12), p. 1–38. doi.org/10.1145/3571730