ai
Allucinazione dell'IA
Quando un modello di IA genera informazioni che sembrano plausibili, ma che sono di fatto errate, inventate o non supportate dai dati di origine.
Le allucinazioni dell'IA si verificano perché i modelli linguistici generano le risposte sulla base di schemi statistici e non di una reale comprensione dei fatti. Il modello può presentare con sicurezza statistiche inventate, citare fonti inesistenti o combinare fatti reali per arrivare a conclusioni false. In ambito aziendale le allucinazioni sono un problema serio, perché le persone potrebbero agire sulla base di informazioni errate. Le organizzazioni riducono questo rischio usando la generazione aumentata dal recupero (RAG) per ancorare le risposte dell'IA a documenti aziendali verificati, imponendo l'obbligo di citare le fonti e istituendo processi di revisione umana per le decisioni ad alto impatto.
Termini correlati
- Generazione aumentata dal recupero (RAG) Una tecnica che migliora le risposte dell'IA recuperando le informazioni pertinenti da una base di conoscenza prima di generare una risposta, producendo risultati più accurati e verificabili.
- Modello linguistico di grandi dimensioni (LLM) Un sistema di IA addestrato su enormi quantità di dati testuali, capace di comprendere, generare e ragionare sul linguaggio umano con una fluidità notevole.
- Sicurezza dell'IA aziendale L'insieme di politiche, tecnologie e pratiche che proteggono i dati, la proprietà intellettuale e gli utenti di un'organizzazione quando distribuisce sistemi di IA sul posto di lavoro.