Explainable AI bezeichnet Ans\u00e4tze und Methoden, die Ergebnisse oder das Verhalten k\u00fcnstlicher Intelligenz f\u00fcr Menschen nachvollziehbar machen sollen. Der vollst\u00e4ndige Begriff lautet Explainable Artificial Intelligence<\/em>, kurz XAI<\/strong>. Auf Deutsch spricht man von erkl\u00e4rbarer KI<\/strong>.<\/p>\n Eine Empfehlung oder Prognose allein reicht im Arbeitsalltag oft nicht aus. Wer sie nutzen soll, m\u00f6chte auch verstehen, welche Informationen das Ergebnis beeinflusst haben. Erkl\u00e4rbare KI soll dabei helfen, die passende Grundlage f\u00fcr eine Bewertung zu schaffen.<\/p>\n Viele KI-Modelle lernen komplexe Muster aus Daten. Warum daraus eine bestimmte Ausgabe entsteht, ist f\u00fcr Menschen nicht unmittelbar erkennbar. Deshalb werden solche Modelle h\u00e4ufig als \u201eBlackbox\u201c bezeichnet.<\/p>\n Erkl\u00e4rverfahren k\u00f6nnen beispielsweise untersuchen, welche Eingaben ein Ergebnis besonders beeinflussen. Das Fraunhofer IOSB unterscheidet globale und lokale Erkl\u00e4rverfahren<\/a>:<\/p>\n Welche Perspektive n\u00fctzlich ist, h\u00e4ngt von der Frage und dem Einsatzbereich ab.<\/p>\n Ein hypothetisches Beispiel aus der Personalentwicklung: Eine KI-gest\u00fctzte Lernplattform<\/a> empfiehlt einer Mitarbeiterin einen Excel-Kurs. Ohne weitere Angaben bleibt offen, weshalb gerade dieses Angebot vorgeschlagen wird.<\/p>\n Eine erg\u00e4nzende Erkl\u00e4rung k\u00f6nnte zeigen, dass die Empfehlung vor allem auf ihrer T\u00e4tigkeit im Controlling und einem dokumentierten Lernbedarf bei der Datenanalyse beruht. Die Mitarbeiterin und die Personalentwicklung k\u00f6nnen diese Angaben pr\u00fcfen: Ist der Lernbedarf noch aktuell? Passt das Kursniveau? Wurden wichtige Vorkenntnisse \u00fcbersehen?<\/p>\n Die Erkl\u00e4rung liefert damit einen Ansatzpunkt, um die Empfehlung einzuordnen. Sie beweist noch nicht, dass der Kurs tats\u00e4chlich die beste Wahl ist.<\/p>\n F\u00fcr die Bewertung helfen drei Fragen:<\/p>\n Wenn KI Ergebnisse liefert, die in betriebliche Entscheidungen einflie\u00dfen, brauchen die verantwortlichen Menschen M\u00f6glichkeiten zur Pr\u00fcfung. Erkl\u00e4rungen k\u00f6nnen helfen, auff\u00e4llige Einflussfaktoren zu erkennen und gezielter nachzufragen.<\/p>\n Dabei ben\u00f6tigen unterschiedliche Zielgruppen unterschiedliche Informationen. F\u00fcr die Personalentwicklung steht etwa die fachliche Passung einer Lernempfehlung im Vordergrund. Ein technisches Team untersucht dagegen m\u00f6glicherweise, wie das Modell auf ver\u00e4nderte Eingaben reagiert.<\/p>\n Nach den XAI-Prinzipien des US-amerikanischen National Institute of Standards and Technology (NIST)<\/a>\u00a0sollen Erkl\u00e4rungen f\u00fcr die jeweiligen Empf\u00e4nger:innen verst\u00e4ndlich sein und den tats\u00e4chlichen Systemprozess zutreffend wiedergeben. Verst\u00e4ndlichkeit allein gen\u00fcgt also nicht.<\/p>\n F\u00fcr Unternehmen folgt daraus eine Qualifizierungsaufgabe: Mitarbeitende m\u00fcssen Erkl\u00e4rungen einordnen, Grenzen erkennen und wissen, wann sie Ergebnisse hinterfragen sollten.<\/p>\nWie funktioniert Explainable AI?<\/h2>\n
\n
Ein Beispiel f\u00fcr erkl\u00e4rbare KI<\/h2>\n
\n
Warum ist Explainable AI f\u00fcr Unternehmen wichtig?<\/h2>\n