Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine überzeugend formulierte Ausgabe, die sachlich falsch, erfunden, unbelegt oder nicht aus dem verfügbaren Kontext ableitbar ist.
Halluzinationen können durch fehlende Informationen, mehrdeutige Fragen, ungeeignete Quellen oder die probabilistische Arbeitsweise von Sprachmodellen entstehen. Grounding, klare Daten und Prüfprozesse können das Risiko reduzieren, aber nicht vollständig ausschließen.
Warum relevant? Falsche Angaben zu Marken, Leistungen, Preisen oder Personen können Vertrauen und Kundenentscheidungen beeinträchtigen und sollten systematisch beobachtet werden.