Explainable AI (XAI): Was ist erklärbare KI?

Explainable AI bezeichnet Ansätze und Methoden, die Ergebnisse oder das Verhalten künstlicher Intelligenz für Menschen nachvollziehbar machen sollen. Der vollständige Begriff lautet Explainable Artificial Intelligence, kurz XAI. Auf Deutsch spricht man von erklärbarer KI.

Eine Empfehlung oder Prognose allein reicht im Arbeitsalltag oft nicht aus. Wer sie nutzen soll, möchte auch verstehen, welche Informationen das Ergebnis beeinflusst haben. Erklärbare KI soll dabei helfen, die passende Grundlage für eine Bewertung zu schaffen.

Wie funktioniert Explainable AI?

Viele KI-Modelle lernen komplexe Muster aus Daten. Warum daraus eine bestimmte Ausgabe entsteht, ist für Menschen nicht unmittelbar erkennbar. Deshalb werden solche Modelle häufig als „Blackbox“ bezeichnet.

Erklärverfahren können beispielsweise untersuchen, welche Eingaben ein Ergebnis besonders beeinflussen. Das Fraunhofer IOSB unterscheidet globale und lokale Erklärverfahren:

• Globale Erklärungen beschreiben das allgemeine Verhalten eines Modells: Welche Merkmale spielen über viele Fälle hinweg eine wichtige Rolle?
• Lokale Erklärungen beziehen sich auf ein bestimmtes Ergebnis: Welche Merkmale haben diese einzelne Empfehlung oder Prognose beeinflusst?

Welche Perspektive nützlich ist, hängt von der Frage und dem Einsatzbereich ab.

Ein Beispiel für erklärbare KI

Ein hypothetisches Beispiel aus der Personalentwicklung: Eine KI-gestützte Lernplattform empfiehlt einer Mitarbeiterin einen Excel-Kurs. Ohne weitere Angaben bleibt offen, weshalb gerade dieses Angebot vorgeschlagen wird.

Eine ergänzende Erklärung könnte zeigen, dass die Empfehlung vor allem auf ihrer Tätigkeit im Controlling und einem dokumentierten Lernbedarf bei der Datenanalyse beruht. Die Mitarbeiterin und die Personalentwicklung können diese Angaben prüfen: Ist der Lernbedarf noch aktuell? Passt das Kursniveau? Wurden wichtige Vorkenntnisse übersehen?

Die Erklärung liefert damit einen Ansatzpunkt, um die Empfehlung einzuordnen. Sie beweist noch nicht, dass der Kurs tatsächlich die beste Wahl ist.

Für die Bewertung helfen drei Fragen:

1. Welche Informationen wurden für das Ergebnis verwendet?
2. Was zeigt die Erklärung – und was bleibt offen?
3. Wann ist eine zusätzliche fachliche Prüfung nötig?

Warum ist Explainable AI für Unternehmen wichtig?

Wenn KI Ergebnisse liefert, die in betriebliche Entscheidungen einfließen, brauchen die verantwortlichen Menschen Möglichkeiten zur Prüfung. Erklärungen können helfen, auffällige Einflussfaktoren zu erkennen und gezielter nachzufragen.

Dabei benötigen unterschiedliche Zielgruppen unterschiedliche Informationen. Für die Personalentwicklung steht etwa die fachliche Passung einer Lernempfehlung im Vordergrund. Ein technisches Team untersucht dagegen möglicherweise, wie das Modell auf veränderte Eingaben reagiert.

Nach den XAI-Prinzipien des US-amerikanischen National Institute of Standards and Technology (NIST) sollen Erklärungen für die jeweiligen Empfänger:innen verständlich sein und den tatsächlichen Systemprozess zutreffend wiedergeben. Verständlichkeit allein genügt also nicht.

Für Unternehmen folgt daraus eine Qualifizierungsaufgabe: Mitarbeitende müssen Erklärungen einordnen, Grenzen erkennen und wissen, wann sie Ergebnisse hinterfragen sollten.

Die Haufe Akademie bündelt passende Angebote zur Inhouse-Qualifizierung für den Umgang mit KI – vom gemeinsamen Grundlagenverständnis bis zur sicheren Anwendung im Arbeitsalltag.

Welche Grenzen hat erklärbare KI?

Erklärbarkeit ist keine Garantie für Richtigkeit oder Fairness. Auch ein fehlerhaftes Ergebnis kann sich nachvollziehbar erklären lassen.

Besonders wichtig ist diese Unterscheidung bei generativer KI: Eine sprachlich überzeugende Antwort auf die Frage „Warum kommst du zu diesem Ergebnis?“ belegt noch nicht den tatsächlichen Entstehungsprozess der Ausgabe.

Eine Anthropic-Studie von 2025 zu Begründungen von Sprachmodellen zeigte diese Grenze bei den untersuchten Modellen und Aufgaben. Die Modelle nutzten teilweise vorgegebene Hinweise, ohne diesen Einfluss in ihren ausgegebenen Begründungen zu nennen. Daraus folgt keine pauschale Aussage über jede KI-Begründung. Es zeigt aber, weshalb eine Selbstbeschreibung allein als Nachweis nicht ausreicht.

Erklärbare KI schafft somit zusätzliche Orientierung. Ob ein Ergebnis tragfähig ist, müssen Unternehmen weiterhin anhand von Datenqualität, fachlichen Kriterien und geeigneten Prüfverfahren beurteilen.

FAQ

Was bedeutet AI Explainability auf Deutsch?

AI Explainability bedeutet Erklärbarkeit von künstlicher Intelligenz. Der Ausdruck beschreibt, wie sich Ergebnisse oder das Verhalten eines KI-Systems für Menschen nachvollziehbar machen lassen. Explainable AI, kurz XAI, bezeichnet die damit verbundenen Ansätze und Methoden.

Ist jede KI erklärbar?

Nicht jede KI lässt sich gleichermaßen erklären. Wie gut das gelingt, hängt unter anderem vom Modell, vom Erklärverfahren und von der jeweiligen Frage ab. Eine Erklärung zu einem einzelnen Ergebnis macht nicht automatisch das gesamte System verständlich.

Verhindert Explainable AI falsche Ergebnisse?

Nein. Auch ein nachvollziehbar erklärtes Ergebnis kann falsch sein. XAI kann helfen, problematische Einflussfaktoren zu erkennen. Die Qualität der Daten, die Leistungsfähigkeit des Modells und die fachliche Prüfung bleiben entscheidend.