Las alucinaciones
Sabe qué es una alucinación, dónde aparece con más frecuencia y cómo neutralizarla.
ObjetivoAl final de esta lección, sabrá reconocer las situaciones propicias a las alucinaciones y neutralizarlas mediante una búsqueda citada y una pregunta no sesgada.
Se llama alucinación a una afirmación falsa presentada con seguridad por un modelo: una referencia que no existe, una cifra inventada, una cita atribuida a la persona equivocada, un artículo de ley que dice otra cosa. No es una mentira. Es la consecuencia directa del mecanismo de predicción: cuando el modelo no sabe, produce de todos modos la continuación más plausible.
Dónde aparecen con más frecuencia
- Las referencias precisas: títulos de artículos, números de página, direcciones web, artículos de ley.
- Los detalles poco comunes: la fecha de fundación de una pequeña empresa, el nombre de un responsable local.
- Los temas de nicho, poco presentes en los textos de entrenamiento.
- Las preguntas que presuponen una respuesta: «¿Qué estudio ha demostrado que…?» empuja al modelo a encontrar uno.
Las alucinaciones son poco frecuentes en los temas muy documentados y en las tareas de reformulación. Se vuelven frecuentes en cuanto se pide al modelo un dato preciso que no tiene delante.
Dame cinco estudios que demuestren que la microformación es más eficaz.
Busca estudios académicos que comparen la microformación con formatos más largos. Cita cada estudio con un enlace. Si los resultados son dispares, dilo.
La búsqueda citada sustituye la memoria del modelo por fuentes verificables, y la pregunta ya no impone la conclusión.
Cómo las reduce Learnya
En cuanto está en juego una información factual, Learnya se apoya en fuentes en lugar de en la memoria del modelo. Las búsquedas en la web y en la literatura académica se citan, y un agente de verificación puede comprobar que cada fuente dice realmente lo que se le atribuye. Para sus documentos, el agente lee el archivo en lugar de recordarlo.
Estos mecanismos reducen mucho el riesgo, pero no lo eliminan. Una fuente puede estar mal resumida, o una página puede ser errónea en sí misma. Por eso abrir dos o tres fuentes sigue siendo el mejor hábito para todo lo que se vaya a publicar o transmitir.