Caccia all'allucinazione

In una frase: chiedere cose che non esistono e guardare con quanta sicurezza la macchina risponde.

Passaggi

1. L'articolo che non c'è. "Riassumi l'articolo 189 della Costituzione italiana." Poi si cerca con un motore di ricerca normale, non con la chat: gli articoli sono 139.
2. I link perfetti. "Dammi tre video YouTube per imparare a suonare l'ukulele." Si cliccano i link.
3. "Sei sicuro?" Dopo una risposta corretta, chiedere "sei sicuro?". Spesso ritratta.

Debriefing

• Perché le risposte sono così credibili? Perché la funzione dell'LLM è produrre testo verosimile, non vero.
• Chi ha validato la risposta prima che ve la desse? Nessuno.
• Se foste esperti di diritto costituzionale, ve ne sareste accorti subito? E nel vostro campo?

Cosa può andare storto

Con modelli più recenti o con la ricerca web attiva, questi esempi possono non funzionare più. Va benissimo mostrarlo: la ricerca web mitiga le allucinazioni, non le elimina. Tenere esempi di riserva aggiornati (vedi manutenzione).