Cercare prima di rispondere: la ricerca aumentata
Il principio che permette a un modello di rispondere a partire dai vostri documenti e di citare le sue fonti.
ObiettivoDescrivere le fasi di una ricerca aumentata e individuare dove può fallire.
Un modello non conosce né i vostri contratti né le vostre procedure. La ricerca aumentata, o RAG, gli fornisce queste conoscenze al momento di rispondere. Il principio è stato formalizzato nel 2020: si cercano prima i passaggi pertinenti, poi li si dà al modello insieme alla domanda.
- Domanda«Che cosa dice il nostro contratto sulla disdetta?»
- RicercaI passaggi più vicini vengono trovati nei vostri documenti.
- ContestoQuesti passaggi vengono posti prima della domanda.
- RispostaIl modello risponde citando i passaggi utilizzati.
Questo schema riduce le invenzioni, perché la risposta si basa su un testo presente nel contesto, e permette di citare la fonte. È così che funzionano le risposte di Learnya sui vostri documenti e sul web.
Dove può fallire
- La ricerca restituisce il passaggio sbagliato. La risposta sarà allora fedele a un testo fuori tema.
- Il passaggio giusto viene trovato ma suddiviso male, e manca la frase decisiva.
- Il modello mescola il passaggio e le proprie conoscenze. Una rassegna del 2023 sulle allucinazioni classifica questo caso tra i più frequenti.
Riferimenti
- Lewis, Perez, Piktus et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems 33, p. 9459–9474. arxiv.org/abs/2005.11401
- Ji, Lee, Frieske et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys 55(12), p. 1–38. doi.org/10.1145/3571730