Halluzination (KI)

Definition

Halluzination bezeichnet in der künstlichen Intelligenz das Phänomen, dass ein Large Language Model falsche, erfundene oder nicht belegbare Informationen generiert und diese als Fakten präsentiert. Die Ausgabe klingt dabei sprachlich korrekt und überzeugend, ist inhaltlich jedoch teilweise oder vollständig falsch. Halluzinationen sind ein systemimmanentes Problem aller LLMs.

Kontext

LLMs erzeugen Text auf Basis statistischer Wahrscheinlichkeiten – sie berechnen, welches Wort am wahrscheinlichsten als nächstes folgt. Dieses Prinzip führt dazu, dass Modelle plausibel klingende, aber faktisch falsche Aussagen produzieren können. Halluzinationen treten besonders häufig auf bei:

• Seltenen Themen: Bereiche mit wenig Trainingsdaten führen zu ungenauen oder erfundenen Antworten
• Spezifischen Fakten: Zahlen, Daten, Namen und Zitate werden häufig falsch wiedergegeben
• Quellenangaben: LLMs erfinden mitunter Studien, Artikel oder URLs, die nicht existieren
• Aktuellen Ereignissen: Informationen, die nach dem Trainingszeitraum liegen, werden konfabuliert

RAG-Systeme wie Perplexity AI reduzieren Halluzinationen, indem sie das LLM mit Echtzeit-Daten aus externen Quellen versorgen. Vollständig eliminieren lassen sich Halluzinationen jedoch nicht.

Praktische Relevanz

Für die GEO-Optimierung ist das Thema Halluzination aus zwei Perspektiven relevant. Erstens: Unternehmen müssen damit rechnen, dass KI-Systeme falsche Informationen über ihre Marke verbreiten. Konsistente, gut strukturierte Inhalte mit hoher E-E-A-T-Qualität helfen, korrekte Informationen in KI-Antworten zu verankern. Zweitens: Wer selbst KI-generierte Inhalte veröffentlicht, muss diese sorgfältig auf Halluzinationen prüfen, um die eigene Glaubwürdigkeit nicht zu gefährden.