Erklärbare KI (XAI): Definition & Erklärung — Glossar

Was ist erklärbare KI (XAI)?

Erklärbare Künstliche Intelligenz (engl. Explainable AI, XAI) umfasst Methoden und Techniken, die es ermöglichen, die Entscheidungen und Vorhersagen von KI-Modellen für Menschen verständlich zu machen. Sie adressiert das sogenannte “Black-Box-Problem” komplexer Modelle wie Deep-Learning-Netzwerke oder Gradient-Boosting-Ensembles.

Warum ist Erklärbarkeit wichtig?

In geschäftskritischen Anwendungen müssen KI-Entscheidungen nachvollziehbar sein: Warum wurde ein Kreditantrag abgelehnt? Warum flaggt das System diese Transaktion als verdächtig? Die EU-KI-Verordnung und Branchenrichtlinien (z. B. für Banken) verlangen, dass automatisierte Entscheidungen erklärbar und anfechtbar sind. Ohne Erklärbarkeit ist die regulatorische Zulassung von Hochrisiko-KI kaum möglich.

XAI-Methoden

LIME (Local Interpretable Model-agnostic Explanations) erklärt einzelne Vorhersagen durch lokale Approximation mit einfacheren Modellen. SHAP (SHapley Additive exPlanations) berechnet den Beitrag jedes Features zur Vorhersage. Attention-Visualisierungen zeigen, welche Tokens ein Sprachmodell bei seiner Antwort besonders gewichtet hat. Intrinsisch interpretierbare Modelle wie Entscheidungsbäume bieten von Natur aus Erklärbarkeit, oft auf Kosten der Genauigkeit.

Praktische Anwendung

XAI wird eingesetzt, um Modelle zu debuggen (welche Features führen zu falschen Vorhersagen?), Vertrauen bei Stakeholdern aufzubauen, regulatorische Anforderungen zu erfüllen und Bias in Modellen aufzudecken. Für Unternehmen, die KI in Entscheidungsprozessen einsetzen, ist XAI kein optionales Feature, sondern ein strategisches Qualitätsmerkmal.