Learnya Academia
Lección 3 de 5 · 3 min

Buscar antes de responder: la generación aumentada por recuperación

El principio que permite a un modelo responder a partir de sus documentos y citar sus fuentes.

ObjetivoDescribir las etapas de la generación aumentada por recuperación e identificar dónde puede fallar.

Un modelo no conoce sus contratos ni sus procedimientos. La generación aumentada por recuperación, o RAG, le aporta esos conocimientos en el momento de responder. El principio se formalizó en 2020: primero se buscan los pasajes pertinentes y después se entregan al modelo junto con la pregunta.

  1. Pregunta«¿Qué dice nuestro contrato sobre la rescisión?»
  2. BúsquedaSe encuentran los pasajes más cercanos en sus documentos.
  3. ContextoEsos pasajes se colocan antes de la pregunta.
  4. RespuestaEl modelo responde citando los pasajes utilizados.
Las cuatro fases de un sistema RAG.

Este montaje reduce las invenciones, porque la respuesta se apoya en un texto presente en el contexto, y permite citar la fuente. Así funcionan las respuestas de Learnya sobre sus documentos y sobre la web.

Dónde puede fallar

  • La búsqueda devuelve el pasaje equivocado. La respuesta será entonces fiel a un texto que no viene al caso.
  • Se encuentra el pasaje correcto, pero está mal dividido y falta la frase decisiva.
  • El modelo mezcla el pasaje con sus propios conocimientos. Una revisión de 2023 sobre las alucinaciones sitúa este caso entre los más frecuentes.

Referencias

  1. Lewis, Perez, Piktus et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems 33, p. 9459–9474. arxiv.org/abs/2005.11401
  2. Ji, Lee, Frieske et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys 55(12), p. 1–38. doi.org/10.1145/3571730