ai
Hallucination de l'IA
Lorsqu'un modèle d'IA génère de l'information qui paraît plausible, mais qui est factuellement fausse, inventée ou non appuyée par ses données sources.
Les hallucinations de l'IA se produisent parce que les modèles de langage génèrent leurs réponses à partir de régularités statistiques plutôt que d'une véritable compréhension des faits. Le modèle peut présenter avec assurance des statistiques inventées, citer des sources inexistantes ou combiner des faits réels pour en tirer de fausses conclusions. En entreprise, les hallucinations représentent un enjeu sérieux, car les employés risquent d'agir sur la foi de renseignements erronés. Les organisations réduisent ce risque en utilisant la génération augmentée par récupération (RAG) pour ancrer les réponses de l'IA dans des documents vérifiés de l'entreprise, en imposant des exigences de citation et en mettant en place des processus de révision humaine pour les décisions à enjeux élevés.
Termes connexes
- Génération augmentée par récupération (RAG) Une technique qui améliore les réponses de l'IA en récupérant l'information pertinente dans une base de connaissances avant de générer une réponse, ce qui produit des résultats plus exacts et vérifiables.
- Grand modèle de langage (LLM) Un système d'IA entraîné sur d'énormes quantités de données textuelles, capable de comprendre, de générer et de raisonner sur le langage humain avec une fluidité remarquable.
- Sécurité de l'IA en entreprise L'ensemble des politiques, des technologies et des pratiques qui protègent les données, la propriété intellectuelle et les utilisateurs d'une organisation lorsqu'elle déploie des systèmes d'IA en milieu de travail.