L3S Beste Veröffentlichung des Quartals (Q3+Q4/2025)
Kategorie: Explainable AI and AutoML
HyperSHAP: Shapley Values and Interactions for Explaining Hyperparameter Optimization
Authors: Marcel Wever, Maximilian Muschalik, Fabian Fumagalli, Marius Lindauer
Presented at AAAI 2026
Welches Problem lösen Sie mit Ihrer Forschung?
Moderne KI-Systeme sind stark von sogenannten Hyperparametern abhängig: Einstellungen, die einen großen Einfluss auf die Leistungsfähigkeit eines Modells haben. Die beste Kombination dieser Einstellungen zu finden (ein Prozess, der als Hyperparameteroptimierung bekannt ist), ist für die Entwicklung genauer und zuverlässiger KI-Systeme unerlässlich. Dieser Prozess ist jedoch oft eine Black Box: Wir wissen, dass das Endergebnis gut funktioniert, verstehen aber nicht, warum.
Was ist neu an Ihrer Forschung?
Mit HyperSHAP stellen wir eine Methode vor, die diesen Prozess transparenter und erklärbarer macht. Unser Ansatz zeigt, welche Hyperparameter wirklich wichtig sind, wie sie miteinander interagieren und wie viel Verbesserung sie tatsächlich bringen. Mit anderen Worten: Wir optimieren nicht nur KI-Systeme, sondern erklären auch die Optimierung selbst. HyperSHAP basiert auf sogenannten Shapley-Werten und ermöglicht es, den Optimierungsprozess aus verschiedenen Blickwinkeln zu erklären. Im Gegensatz zu früheren Ansätzen zeigt HyperSHAP, wie viel tatsächlicher Leistungsgewinn durch Feinabstimmung möglich ist, anstatt nur zu messen, wie stark die Leistung variiert.
What is the potential impact?
Diese erhöhte Transparenz hat wichtige Auswirkungen. Sie hilft Forschern und Unternehmen, KI-Systeme effizienter zu entwickeln, reduziert kostspielige Trial-and-Error-Experimente und stärkt das Vertrauen in automatisierte Entscheidungsprozesse. In Bereichen mit hohem Risiko wie dem Gesundheitswesen, dem Finanzwesen oder der öffentlichen Verwaltung ist es genauso wichtig zu verstehen, warum ein KI-System gut funktioniert, wie eine gute Leistung zu erzielen.
Link zum vollständigen Artikel: https://arxiv.org/pdf/2502.01276
