{"id":37566,"date":"2024-12-18T14:11:15","date_gmt":"2024-12-18T13:11:15","guid":{"rendered":"https:\/\/www.l3s.de\/?page_id=37566"},"modified":"2024-12-19T14:10:53","modified_gmt":"2024-12-19T13:10:53","slug":"hybrid-systems-reveal-biases-in-learning-models","status":"publish","type":"page","link":"https:\/\/www.l3s.de\/de\/magazine\/binaire-articles\/hybrid-systems-reveal-biases-in-learning-models\/","title":{"rendered":"Hybridsysteme dokumentieren Verzerrungen in Lernmodellen\u00a0"},"content":{"rendered":"
\r\n \r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n
\r\n
\r\n
<\/div>\r\n <\/div>\r\n
\r\n
<\/div>\r\n <\/div>\r\n
\r\n
<\/div>\r\n <\/div>\r\n <\/div>\r\n \r\n
\r\n \r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

Diese fiktive Grafik auf der linken Seite illustriert ChatGPT 4.o auf die Aufforderung \u201eErstellen Sie ein Bild \u00fcber die Struktur Ihres Algorithmus\u201c. Das Vergr\u00f6\u00dferungsglas stammt von Black Forest Labs Flux Schnell mit einem echten Ausschnitt des Python-Codes<\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

Ausgabe: 02\/2024<\/p>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n
Exzellenz in der KI-Forschung<\/span><\/a>\r\n <\/span>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
Fairness<\/h6>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n \r\n

Hybridsysteme dokumentieren Verzerrungen in Lernmodellen <\/h1>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

K\u00fcnstliche Intelligenz (KI) setzt sich im t\u00e4glichen Leben immer mehr durch. Damit stellt sich die Frage: Wie k\u00f6nnen die negativen Auswirkungen dieser Technologie abgemildert werden? Ein weit verbreitetes Problem in KI-Systemen sind Verzerrungen. In einer aktuellen Studie stellt ein Forschungsteam des L3S und der Leibniz Universit\u00e4t Hannover ein hybrides KI-System vor, das Verzerrungen in Modellen des maschinellen Lernens (ML) dokumentiert. Die innovative Technik kann dazu beitragen, die Transparenz und Interpretierbarkeit dieser komplexen Systeme zu verbessern.<\/p>\r\n

Verzerrungen in KI-Modellen k\u00f6nnen aus unterschiedlichen Gr\u00fcnden auftreten, da die Systeme w\u00e4hrend des Entwicklungsprozesses anf\u00e4llig sind f\u00fcr menschliche Eingaben. Au\u00dferdem werden diese Systeme oft auf Daten trainiert, die gesellschaftliche Ungleichheiten widerspiegeln. Ihr Einsatz w\u00fcrde also bestimmte Gruppen systematisch benachteiligen.<\/p>\r\n

Kombination von KI-Paradigmen<\/h6>\r\n

Die Autoren schlagen ein hybrides KI-System vor, das Komponenten der subsymbolischen und der symbolischen KI kombiniert, um Verzerrungen auf jeder Stufe der ML-Pipeline zu dokumentieren. Das System kann mit zwei Ans\u00e4tzen implementiert werden: Der erste erm\u00f6glicht eine feink\u00f6rnige Verfolgung von Verzerrungen \u00fcber die gesamte ML-Pipeline hinweg; der zweite Ansatz bietet einen breiteren \u00dcberblick \u00fcber erkannte Verzerrungen in den Eingabedaten und Vorhersagen.<\/p>\r\n

Ein Schl\u00fcsselelement dieses Systems: Die Dokumentation ist nicht nur f\u00fcr menschliche Analytiker verst\u00e4ndlich, sondern auch maschinenlesbar. Dies bildet die Grundlage f\u00fcr eine bessere Interpretierbarkeit und ein besseres Verst\u00e4ndnis daf\u00fcr, wie sich Verzerrungen auf ML-Systeme in einem bestimmten Kontext auswirken.<\/p>\r\n

Verzerrungen bei der Klassifizierung von Fake News<\/h6>\r\n

Die Wissenschaftler haben ihren Ansatz anhand eines praktischen Beispiels evaluiert, das auf der Erkennung von Fake News basiert. Das hybride KI-System Doc-Bias beschrieb semantisch eine Pipeline zur Klassifizierung von Fake News anhand zweier Benchmark-Datens\u00e4tze, die die Verteilung von Nachrichteninhalten, Nutzerdaten und Informationen von Nachrichtenherausgebern verwendeten. Die Implementierung von Doc-Bias generierte dann Bias-Spuren, die das Innenleben des Klassifizierungssystems widerspiegeln \u2212 von der Eingabe bis zur Ausgabe. Die Autoren konnten signifikante Verzerrungen in den Datens\u00e4tzen identifizieren, die die Vorhersagen der Modelle beeinflussten.<\/p>\r\n

Herausforderungen bei unausgewogenen Datens\u00e4tzen<\/h6>\r\n

Die Ergebnisse dieser Arbeit zeigen, dass selbst unter der Voraussetzung ausgewogener Datens\u00e4tze w\u00e4hrend der Datenvorverarbeitung die internen Prozesse des KI-Modells eine attributorientierte Verzerrung ausgleichen k\u00f6nnen, die sich erheblich auf die Gesamtgenauigkeit und Wirksamkeit des Fake-News-Erkennungssystems auswirkt. Die Autoren berichten konkret \u00fcber eine starke Schieflage in der Verteilung der Eingabevariablen in Richtung des Fake-News-Labels und deckten auf, wie eine pr\u00e4diktive Variable zu mehr Einschr\u00e4nkungen im Lernprozess f\u00fchrt. Insgesamt heben sie die offenen Herausforderungen beim Training von Modellen mit unausgewogenen Datens\u00e4tzen hervor.<\/p>\r\n

Dieses Problem ist nicht auf die Erkennung von Fake News beschr\u00e4nkt. Verzerrungen in KI-Systemen k\u00f6nnen zu systematischen Fehlern in fast allen Bereichen der KI-Anwendung f\u00fchren: von der automatischen Gesichtserkennung bis hin zu Entscheidungsfindungssystemen im Bankwesen.<\/p>\r\n

Transparenz und Verantwortlichkeit sind unerl\u00e4sslich<\/h6>\r\n

Das vorgeschlagene hybride KI-System ist ein neuartiges Verfahren, das erkannte Verzerrungen in KI-Modellen systematisch dokumentiert und die menschliche Analyse bei sp\u00e4teren Bem\u00fchungen um eine Entsch\u00e4rfung der Verzerrungen unterst\u00fctzen kann. Solche Fortschritte sind entscheidend, um sicherzustellen, dass KI-Systeme nicht nur genau sind, sondern auch fairer und transparenter werden.<\/p>\r\n

Die Autoren betonen, dass die Dokumentation von Voreingenommenheit kein Allheilmittel ist, sondern nur einer von vielen Schritten, um Verantwortlichkeit bei KI-Entwicklern und -Nutzern zu schaffen. Zu einer sozial verantwortlichen KI geh\u00f6rt auch Transparenz im gesamten Entwicklungsprozess. Die Erstellung einer gr\u00fcndlichen Dokumentation kann dazu beitragen.<\/p>\r\n

Mayra Russo, Yasharajsinh Chudasama, Disha Purohit, Sammy Sawischa, Maria-Esther Vidal: \nEmploying Hybrid AI Systems to Trace and Document Bias in ML Pipelines. IEEE Access 12: 96821-96847 (2024) <\/em>\r\n ieeexplore.ieee.org\/document\/10596297<\/em><\/a>\r\n <\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n <\/span><\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
Kontakt<\/h6>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n \r\n
<\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n

Mayra Russo, M. Sc. <\/h4>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
mrusso@L3S.de <\/span><\/a>\r\n <\/span>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n \r\n
\r\n

Mayra Russo ist L3S-Doktorandin im Projekt NoBias. Sie besch\u00e4ftigt sich mit der Entwicklung computergest\u00fctzter Methoden zur Dokumentation von Verzerrungen in KI-Systemen, die semantische Datenmodelle verwenden. Au\u00dferdem interessiert sie sich f\u00fcr die Untersuchung der sozialen Implikationen der Datafizierung. <\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n

\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n \r\n
<\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n

Prof. Dr. Maria-Esther Vidal <\/h4>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
vidal@L3S.de <\/span><\/a>\r\n <\/span>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n \r\n
\r\n

L3S-Mitglied Maria-Esther Vidal ist ordentliche Professorin an der Leibniz Universit\u00e4t Hannover und leitet die Arbeitsgruppe Wissenschaftliches Datenmanagement (SDM) an der TIB \u2212 Leibniz-Informationszentrum f\u00fcr Technik und Naturwissenschaften. Sie forscht in den Bereichen Datenmanagement, semantische Datenintegration und maschinelles Lernen \u00fcber Wissensgraphen. <\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n<\/div>","protected":false},"excerpt":{"rendered":"

This fictional graphic on the left illustrated ChatGPT 4.o to the prompt “create an image about the structure of your algorithm”. The magnifying glass comes from Black Forest Lab’s Flux Schnell with a real snippet of the Python code Issue: 02\/2024 Excellence in AI research Fairness Hybrid Systems Reveal Biases In Learning Models Artificial intelligence […]<\/p>","protected":false},"author":11,"featured_media":37567,"parent":2750,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"page-templates\/full-width-page.php","meta":{"_acf_changed":false,"footnotes":""},"categories":[],"tags":[28,191],"class_list":["post-37566","page","type-page","status-publish","has-post-thumbnail","hentry","tag-binaire","tag-binaire-2024-02"],"acf":[],"aioseo_notices":[],"publishpress_future_action":{"enabled":false,"date":"2026-05-05 04:10:25","action":"category","newStatus":"draft","terms":[75],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37566","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/comments?post=37566"}],"version-history":[{"count":4,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37566\/revisions"}],"predecessor-version":[{"id":37843,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37566\/revisions\/37843"}],"up":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/2750"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media\/37567"}],"wp:attachment":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media?parent=37566"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/categories?post=37566"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/tags?post=37566"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}