ai
KI-Halluzination
Wenn ein KI-Modell Informationen erzeugt, die plausibel klingen, aber sachlich falsch, erfunden oder nicht durch die Quelldaten gedeckt sind.
KI-Halluzinationen entstehen, weil Sprachmodelle ihre Antworten auf Grundlage statistischer Muster erzeugen und nicht auf Basis eines tatsächlichen Faktenverständnisses. Das Modell kann selbstbewusst erfundene Statistiken präsentieren, nicht existierende Quellen zitieren oder reale Fakten zu falschen Schlussfolgerungen kombinieren. Im Unternehmensumfeld sind Halluzinationen ein ernstes Problem, weil Mitarbeitende auf Grundlage falscher Informationen handeln könnten. Organisationen verringern dieses Risiko, indem sie Retrieval-Augmented Generation (RAG) einsetzen, um die Antworten der KI in geprüften Unternehmensdokumenten zu verankern, Quellenangaben verpflichtend machen und Prüfprozesse durch Menschen für Entscheidungen mit hohem Risiko etablieren.
Verwandte Begriffe
- Retrieval-Augmented Generation (RAG) Eine Technik, die KI-Antworten verbessert, indem sie relevante Informationen aus einer Wissensdatenbank abruft, bevor sie eine Antwort generiert, was zu präziseren und überprüfbaren Ergebnissen führt.
- Großes Sprachmodell (LLM) Ein KI-System, das mit riesigen Mengen an Textdaten trainiert wird und menschliche Sprache mit bemerkenswerter Souveränität verstehen, erzeugen und durchdenken kann.
- KI-Sicherheit im Unternehmen Die Gesamtheit der Richtlinien, Technologien und Praktiken, die die Daten, das geistige Eigentum und die Nutzer einer Organisation schützen, wenn sie KI-Systeme am Arbeitsplatz einsetzt.