Halluzinationen: Wenn KI überzeugend falsch antwortet
Halluzinationen, Bias, Deepfakes, Fake News und Manipulation erkennen und kontrollieren.
Sprachmodelle erzeugen ihre Antworten, indem sie auf Basis gelernter Muster das statistisch wahrscheinlichste nächste Wort vorhersagen. Sie verfügen dabei über kein echtes Verständnis von Wahrheit und keinen Zugriff auf eine verlässliche Faktenbasis, sofern sie nicht gezielt mit aktuellen Quellen verbunden sind. Das führt dazu, dass eine KI mit derselben sprachlichen Sicherheit eine korrekte wie eine völlig frei erfundene Aussage formulieren kann. Dieses Phänomen wird als Halluzination bezeichnet und ist eines der zentralen Risiken beim Einsatz von KI im Geschäftsalltag.
Typische Formen von Halluzinationen
Besonders häufig erfinden Sprachmodelle Quellenangaben, etwa Studien, Gesetzestexte oder Buchtitel, die täuschend echt klingen, aber schlicht nicht existieren. Auch bei technischen Normen und rechtlichen Vorschriften kommt es vor, dass eine KI eine plausibel wirkende, aber falsche DIN-Norm oder Paragrafennummer nennt. Ebenso werden Zahlen und Preise mit großer Selbstsicherheit genannt, obwohl sie frei erfunden oder veraltet sind. Für ein mittelständisches Unternehmen kann das gravierende Folgen haben, wenn solche Angaben ungeprüft in Angebote, Berichte oder Kundenkommunikation übernommen werden.
Sprachliche Sicherheit einer KI-Antwort ist kein Beleg für inhaltliche Richtigkeit.
- Erfundene Studien, Quellen und Literaturangaben
- Falsche oder frei erfundene Normen, Gesetze und Paragrafen
- Unzutreffende Zahlen, Preise und Statistiken
- Falsch zugeordnete Zitate oder Aussagen bekannter Personen
Ein Vertriebsmitarbeiter eines Maschinenbauunternehmens lässt sich von einer KI die geltende Sicherheitsnorm für eine neue Anlagenkomponente nennen. Die KI gibt eine plausibel klingende Normnummer aus, die tatsächlich nicht existiert. Erst die Rückfrage beim zuständigen Ingenieur deckt den Fehler auf, bevor das Angebot an den Kunden verschickt wird.
Halluzinationen treten besonders häufig bei sehr spezifischen, seltenen oder aktuellen Themen auf, zu denen das Modell wenig verlässliche Trainingsdaten hatte. Auch bei Anfragen, die eine genaue Zahl oder ein genaues Datum verlangen, neigen Modelle dazu, eine Antwort zu erfinden, statt zuzugeben, dass sie die Information nicht sicher kennen. Dieses Verhalten liegt in der Funktionsweise der Modelle begründet und lässt sich durch bessere Prompts verringern, aber nicht vollständig ausschließen.
- ✓Zahlen, Normen und Rechtsangaben immer an der Originalquelle prüfen
- ✓Bei Quellenangaben gezielt nach dem Originaldokument suchen
- ✓Bei kritischen Inhalten eine zweite, unabhängige Quelle heranziehen
- ✓KI-Tools mit Websuche oder Dokumentenanbindung bevorzugen, wenn Aktualität wichtig ist
Dieses Modul umfasst 5 Kapitel und einen abschließenden Wissens-Check. Melden Sie sich an, um es vollständig zu bearbeiten.
Kostenlos testen →