SHAP

SHAP (SHapley Additive exPlanations) ist ein Python-Paket zur Erklärung von Machine-Learning-Modellen, das auf der Shapley-Value-Methode aus der Spieltheorie basiert. Es berechnet den Beitrag jedes Features zur Vorhersage eines Modells und macht damit komplexe ML-Modelle interpretierbar und nachvollziehbar. SHAP bietet einheitliche Erklärungen für nahezu alle Modelltypen – von linearen Modellen über Random Forests bis zu tiefen neuronalen Netzen – und visualisiert diese durch verschiedene Plots wie Summary Plots, Force Plots und Dependence Plots. Das Tool ermöglicht sowohl lokale Erklärungen einzelner Vorhersagen als auch globale Einblicke in das Gesamtverhalten des Modells. SHAP hat sich als Standard-Werkzeug für Explainable AI (XAI) etabliert und wird häufig eingesetzt, um die Transparenz und Vertrauenswürdigkeit von KI-Systemen zu erhöhen sowie regulatorische Anforderungen zu erfüllen.