{"id":35882,"date":"2024-10-09T12:11:59","date_gmt":"2024-10-09T10:11:59","guid":{"rendered":"https:\/\/www.l3s.de\/?p=35882"},"modified":"2024-10-09T12:14:48","modified_gmt":"2024-10-09T10:14:48","slug":"hybrid-system-detects-bias-in-ml-models","status":"publish","type":"post","link":"https:\/\/www.l3s.de\/de\/hybrid-system-detects-bias-in-ml-models\/","title":{"rendered":"Hybrides System sp\u00fcrt Verzerrungen in ML-Modellen auf"},"content":{"rendered":"

L3S Best Publication of the Quarter (Q3\/2024)\u202f\u202f\u202f<\/strong> 
Kategorie: Knowledge Graphs and Bias<\/strong> <\/p>\n\n\n\n

Employing Hybrid AI Systems to Trace and Document Bias in ML Pipelines<\/strong> <\/p>\n\n\n\n

Autoren: Mayra Russo, Yasharajsinh Chudasama, Disha Purohit, Sammy Sawischa, Maria-Esther Vidal <\/p>\n\n\n\n

<\/p>\n\n\n\n

Erschienen in IEEE<\/a>.<\/em><\/p>\n\n\n\n

<\/div>\n\n\n\n

Das Papier in K\u00fcrze<\/strong> <\/p>\n\n\n\n

Unsere Arbeit befasst sich mit der Herausforderung, interpretierbares Wissen \u00fcber messbare Verzerrungen in Daten und KI-Pipelines zu erfassen, das sowohl f\u00fcr Menschen als auch f\u00fcr Maschinen lesbar ist. <\/p>\n\n\n\n

Dazu verwenden wir eine hybride KI-Systemarchitektur, das hei\u00dft, wir nehmen Komponenten aus der symbolischen KI und der subsymbolischen KI und kombinieren sie mit dem Ziel, die Vorteile jeder einzelnen Komponente zu nutzen, um die Leistung und Erkl\u00e4rbarkeit von KI-Systemen zu verbessern. <\/p>\n\n\n\n

Anhand eines praktischen Anwendungsfalls, der auf der Erkennung von Fake News basiert, zeigen wir zwei verschiedene Implementierungen unserer hybriden KI-Architektur und demonstrieren deren F\u00e4higkeit, die zugrunde liegende KI-Pipeline zur Generierung semantischer Metadaten nachzuvollziehen, um zu kl\u00e4ren, wie sich Datenverzerrungen in der Pipeline auf das Ergebnis auswirken. <\/p>\n\n\n\n

Welches Problem l\u00f6sen Sie mit Ihrer Forschung?<\/strong> <\/p>\n\n\n\n

In unserer Forschung besch\u00e4ftigen wir uns mit dem Problem der Voreingenommenheit im Zusammenhang mit KI-Systemen. Da sich der Einsatz von KI-Systemen von scheinbar trivialen Anwendungen zu solchen mit h\u00f6heren Eins\u00e4tzen und weitreichenden Entscheidungen entwickelt, ist es wichtig, sich daran zu erinnern, dass alle diese Systeme die F\u00e4higkeit haben, unerw\u00fcnschte, verzerrte Ergebnisse zu produzieren. Aus diesem Grund muss die proaktive Ber\u00fccksichtigung von Verzerrungen w\u00e4hrend der Modellentwicklungs- und Anwendungsphase zu einer wesentlichen Aufgabe von KI-Forschern und -Entwicklern werden. <\/p>\n\n\n\n

Unsere Arbeit schl\u00e4gt eine Methodik zur Erstellung von voreingenommenen End-to-End-Dokumentationsartefakten f\u00fcr diese KI-Pipelines vor. <\/p>\n\n\n\n

Welche potenziellen Auswirkungen haben Ihre Ergebnisse?<\/strong> <\/p>\n\n\n\n

Die Ergebnisse unserer Arbeit zeigen, dass selbst unter der Pr\u00e4misse ausgeglichener Datens\u00e4tze w\u00e4hrend der Dateneingabephase die inneren Prozesse des KI-Modells eine attributfokussierte Verzerrung ausgleichen k\u00f6nnen, die die Gesamtgenauigkeit und Effektivit\u00e4t des Fake-News-Erkennungssystems erheblich beeintr\u00e4chtigt. Konkret berichten wir \u00fcber eine starke Schieflage in der Verteilung der Eingabevariablen in Richtung des Fake-News-Labels, wir decken auf, wie eine pr\u00e4diktive Variable zu mehr Einschr\u00e4nkungen im Lernprozess f\u00fchrt, und heben offene Herausforderungen beim Training von Modellen mit unausgewogenen Datens\u00e4tzen hervor. <\/p>\n\n\n\n

Was ist neu an Ihrer Forschung?<\/strong> <\/p>\n\n\n\n

Unsere Forschung schl\u00e4gt einen neuartigen Dokumentationsansatz vor, der eine hybride KI-Architektur nutzt, um KI-Systeme zu verfolgen und eine f\u00fcr Menschen und Maschinen lesbare Dokumentation zu erstellen. <\/p>\n\n\n\n

Unsere hybride KI-Architektur ist f\u00fcr eine vielseitige Implementierung geeignet.  <\/p>\n\n\n\n

In unserer Arbeit stellen wir zwei Implementierungen eines hybriden KI-Systems vor. Die eine folgt einem integrierten Ansatz und erm\u00f6glicht eine feink\u00f6rnige Verfolgung und Dokumentation des gesamten KI-Prozesses. Die andere verfolgt einen prinzipiellen Ansatz und erm\u00f6glicht die Dokumentation und den Vergleich von Verzerrungen in den Eingabedaten und den vom Modell generierten Vorhersagen. F\u00fcr weitere Informationen haben wir ein Video mit einer Zusammenfassung unserer Arbeit online gestellt: https:\/\/youtu.be\/v2GfIQPAy_4?si=BXtWOf97cLiZavyu<\/a>. <\/p>\n\n\n\n

Link zum Paper:<\/strong>\u202fhttps:\/\/ieeexplore.ieee.org\/document\/10596297<\/a><\/p>","protected":false},"excerpt":{"rendered":"

Die beste L3S-Ver\u00f6ffentlichung des Quartals in der Kategorie \"Knowledge Graphs and Bias\" stellt ein hybrides KI-System vor, das Verzerrungen in maschinellen Lernmodellen erkennt und dokumentiert.<\/p>","protected":false},"author":11,"featured_media":35900,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[161],"tags":[],"class_list":["post-35882","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-best-publications"],"acf":[],"aioseo_notices":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/posts\/35882","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/comments?post=35882"}],"version-history":[{"count":2,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/posts\/35882\/revisions"}],"predecessor-version":[{"id":35902,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/posts\/35882\/revisions\/35902"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media\/35900"}],"wp:attachment":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media?parent=35882"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/categories?post=35882"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/tags?post=35882"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}