Le allucinazioni
Sapete cos’è un’allucinazione, dove compare più spesso e come neutralizzarla.
ObiettivoAlla fine di questa lezione saprete riconoscere le situazioni favorevoli alle allucinazioni e neutralizzarle con una ricerca citata e una domanda non orientata.
Si chiama allucinazione un’affermazione falsa presentata con sicurezza da un modello: un riferimento che non esiste, una cifra inventata, una citazione attribuita alla persona sbagliata, un articolo di legge che dice altro. Non è una menzogna. È la conseguenza diretta del meccanismo di previsione: quando il modello non sa, produce comunque il seguito più plausibile.
Dove compaiono più spesso
- I riferimenti precisi: titoli di articoli, numeri di pagina, indirizzi web, articoli di legge.
- I dettagli rari: la data di fondazione di una piccola impresa, il nome di un responsabile locale.
- I temi di nicchia, poco presenti nei testi di addestramento.
- Le domande che presuppongono una risposta: «Quale studio ha dimostrato che…» spinge il modello a trovarne uno.
Le allucinazioni sono rare sui temi molto documentati e nei compiti di riformulazione. Diventano frequenti non appena si chiede al modello un fatto preciso che non ha sotto gli occhi.
Dammi cinque studi che dimostrano che la microformazione è più efficace.
Cerca studi accademici che confrontano la microformazione con formati più lunghi. Cita ogni studio con un link. Se i risultati sono contrastanti, dillo.
La ricerca citata sostituisce la memoria del modello con fonti verificabili, e la domanda non impone più la conclusione.
Come Learnya le riduce
Non appena è in gioco un’informazione fattuale, Learnya si basa su fonti piuttosto che sulla memoria del modello. Le ricerche sul web e nella letteratura accademica sono citate, e un agente di verifica può controllare che ogni fonte dica davvero ciò che le viene attribuito. Per i vostri documenti, l’agente legge il file invece di ricordarlo.
Questi meccanismi riducono fortemente il rischio, senza annullarlo. Una fonte può essere riassunta male, o una pagina può essere essa stessa errata. Per questo aprire due o tre fonti resta la migliore abitudine per tutto ciò che verrà pubblicato o trasmesso.