KI-Grundlagen
Halluzination
Eine KI-Halluzination liegt vor, wenn ein Sprachmodell inhaltlich falsche Fakten oder Quellen erfindet, diese jedoch sprachlich überzeugend als gesicherte Wahrheit präsentiert.
Erklärung
Sprachmodelle wurden darauf optimiert, Sätze zu formulieren, die sich für Menschen natürlich und schlüssig lesen. Sie besitzen jedoch kein internes Bewusstsein für Fakten oder Realitätsabgleiche. Fehlen dem Modell genaue Informationen zu einer Fragestellung, generiert es das statistisch wahrscheinlichste Satzmuster – selbst wenn die darin enthaltenen Aussagen frei erfunden sind.
Ein bekanntes Phänomen sind erfundene Gerichtsurteile, fingierte wissenschaftliche Studienautoren oder falsche historische Datumsangaben. Das Tückische daran ist die Tonalität: Die KI formuliert falsche Aussagen mit demselben souveränen Tonfall wie korrekte Fakten, wodurch Fehlinformationen für Laien schwer erkennbar sind.
Halluzinationen lassen sich technisch nicht vollkommen ausschließen, aber drastisch reduzieren. Wirksame Methoden sind das Einbinden fundierter Datenquellen (Retrieval-Augmented Generation, RAG), systemische Begrenzungen (Guardrails) und die Vorgabe, bei Wissenslücken ehrlich mit „Das weiß ich nicht“ zu antworten.
In der Praxis
Im Autohaus darf ein Chatbot keine Garantiebedingungen erfinden, die Kunden rechtliche Zusagen vorgaukeln. Durch unsere Sicherheitsarchitekturen für verlässliche Chatbots und Wissensassistenten koppeln wir generative Modelle strikt an offizielle Dokumente, um Halluzinationen wirksam abzufangen.