{"id":37578,"date":"2024-12-18T14:34:04","date_gmt":"2024-12-18T13:34:04","guid":{"rendered":"https:\/\/www.l3s.de\/?page_id=37578"},"modified":"2024-12-19T14:12:44","modified_gmt":"2024-12-19T13:12:44","slug":"equal-opportunities-in-federated-learning","status":"publish","type":"page","link":"https:\/\/www.l3s.de\/de\/magazine\/binaire-articles\/equal-opportunities-in-federated-learning\/","title":{"rendered":"Chancengleichheit beim f\u00f6derierten Lernen"},"content":{"rendered":"
\r\n \r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n
\r\n
\r\n
<\/div>\r\n <\/div>\r\n
\r\n
<\/div>\r\n <\/div>\r\n
\r\n
<\/div>\r\n <\/div>\r\n <\/div>\r\n \r\n
\r\n \r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

Das Bild wurde von Midjourney f\u00fcr den Prompt erstellt: \u201eFoto einer Gruppe von Studenten, die l\u00e4ssig in einem Raum mit einem gro\u00dfen Computer sitzen, alle halten Smartphones und Tablets, helle Linien zeigen die digitale Vernetzung, Schlosssymbole verweisen auf die Sicherheit.\u201c<\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

Ausgabe: 02\/2024<\/p>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n
Exzellenz in der KI-Forschung<\/span><\/a>\r\n <\/span>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
Fairness<\/h6>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n \r\n

Chancengleichheit beim f\u00f6derierten Lernen <\/h1>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

Modelle der k\u00fcnstlichen Intelligenz werden traditionell mit zentral gespeicherten Datens\u00e4tzen trainiert. Dieser Ansatz birgt jedoch erhebliche Herausforderungen im Umgang mit sensiblen Daten, insbesondere im Hinblick auf den Datenschutz und die Datensicherheit. F\u00f6deriertes Lernen (FL) bietet eine sichere Alternative, indem Modelle auf dezentralisierten Daten trainiert werden, wodurch sichergestellt wird, dass sensible Informationen lokalisiert bleiben. Trotz seiner Vorteile besteht eine der gr\u00f6\u00dften Herausforderungen bei FL darin, ein optimales Gleichgewicht zwischen Fairness und Genauigkeit der Modellleistung zu erreichen. Wissenschaftler des Forschungszentrums L3S haben sich in einer aktuellen Studie mit dieser Herausforderung befasst und eine innovative L\u00f6sung namens FairTrade vorgestellt. Dieser Ansatz verbessert die Fairness bei gleichzeitiger Aufrechterhaltung eines hohen Genauigkeitsniveaus in f\u00f6derierten Lernanwendungen und ebnet so den Weg f\u00fcr gerechtere und zuverl\u00e4ssigere KI-Systeme. <\/p>\r\n

Genauigkeit und Gerechtigkeit im Einklang <\/h6>\r\n

F\u00f6deriertes Lernen erm\u00f6glicht das Training eines gemeinsamen KI-Modells mit Daten mehrerer Ger\u00e4te, zum Beispiel Smartphones oder Tablets, ohne dass die Daten von den Ger\u00e4ten \u00fcbertragen werden. Dieser Ansatz verbessert den Datenschutz und die Datensicherheit. Er bringt jedoch auch Herausforderungen mit sich, da unterschiedliche Daten auf den verschiedenen Ger\u00e4ten zu Unterschieden in der Leistung des Modells f\u00fchren k\u00f6nnen. So k\u00f6nnen beispielsweise unterrepr\u00e4sentierte Datens\u00e4tze zu verzerrten oder ungerechten Vorhersagen des KI-Modells f\u00fchren. \u201eFairTrade zielt darauf ab, diese Diskriminierung bei Vorhersagen zu minimieren\u201c, sagt Maryam Badar, Hauptautorin der Studie. \u201eDurch den Einsatz von Mehrzieloptimierung versucht es, einen optimalen Kompromiss zwischen Modellgenauigkeit und Fairness zu erreichen.\u201c Der Rahmen l\u00e4sst sich je nach den Anforderungen der Anwendung an verschiedene Fairness-Konzepte anpassen, darunter statistische und kausale Fairness. <\/p>\r\n

Experimente mit realen Datens\u00e4tzen aus Bereichen wie Bank-, Personal- und Gesundheitswesen haben bemerkenswerte Ergebnisse gezeigt. FairTrade verbesserte die Fairness in allen Szenarien, ohne die Genauigkeit zu beeintr\u00e4chtigen. Selbst bei stark unausgewogenen Datens\u00e4tzen erwies es sich als zuverl\u00e4ssige Alternative zu bestehenden Methoden. <\/p>\r\n

Viele Anwendungsbereiche <\/h6>\r\n

FairTrade hat das Potenzial f\u00fcr eine breite Anwendung in unterschiedlichen Bereichen. In jedem Kontext, in dem KI-Systeme personalisierte Entscheidungen treffen, kann dieser Ansatz dazu beitragen, gerechtere und ausgewogenere Ergebnisse zu erzielen. <\/p>\r\n

In der medizinischen Diagnostik k\u00f6nnte FairTrade beispielsweise Verzerrungen ausgleichen, die sich aus dem Training von Modellen mit ungleichm\u00e4\u00dfig verteilten Patientendaten ergeben. Durch die Abschw\u00e4chung dieser Verzerrungen kann die Methode die Diskriminierung von Minderheitengruppen im Gesundheitswesen verringern, was letztlich zu genaueren Diagnosen und besseren Behandlungsergebnissen f\u00fchrt. <\/p>\r\n

\u00c4hnlich verh\u00e4lt es sich bei der Kreditvergabe, wo sich die Banken zunehmend auf KI st\u00fctzen, um die Kreditw\u00fcrdigkeit ihrer Kunden zu bewerten. FairTrade kann dazu beitragen, eine voreingenommene Entscheidungsfindung zu verhindern, die bestimmte Gemeinschaften ungerechtfertigt benachteiligt. Dies gew\u00e4hrleistet ein integrativeres und gerechteres Finanzsystem. <\/p>\r\n

Die Forscher betonen, dass Fairness von Anfang an in KI-Systeme integriert werden muss. Post-hoc-Anpassungen der Ergebnisse reichen nicht aus, um Fairness umfassend zu ber\u00fccksichtigen. \u201eUnsere Ergebnisse zeigen, dass es m\u00f6glich ist, Fairness w\u00e4hrend des Trainingsprozesses einzubauen, ohne die Leistung des Modells zu beeintr\u00e4chtigen\u201c, so Badar. Dies ist ein bedeutender Schritt in Richtung eines ethischen und fairen Einsatzes von KI-Technologien. <\/p>\r\n

Maryam Badar, Sandipan Sikdar, Wolfgang Nejdl, Marco Fisichella: FairTrade: Achieving Pareto-Optimal Trade-Offs between Balanced Accuracy and Fairness in Federated Learning. AAAI 2024: 10962-10970 <\/em>\r\n ojs.aaai.org\/index.php\/AAAI\/article\/view\/28971<\/em><\/a>\r\n <\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n <\/span><\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
Kontakt<\/h6>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n \r\n
<\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n

Maryam Badar, M. Sc. <\/h4>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
badar@L3S.de <\/span><\/a>\r\n <\/span>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n \r\n
\r\n

Maryam Badar ist Doktorandin am L3S. Sie forscht zu Fairness von KI-Technologien. <\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n<\/div>","protected":false},"excerpt":{"rendered":"

The picture is created by Midjourney for the prompt: “photo of a group of students sitting casually in a room with a large computer, all holding smartphones and tablets, bright lines show digital networking, lock symbols refer to security.” Issue: 02\/2024 Excellence in AI research Fairness Equal Opportunities In Federated Learning Artificial intelligence models are […]<\/p>","protected":false},"author":11,"featured_media":37579,"parent":2750,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"page-templates\/full-width-page.php","meta":{"_acf_changed":false,"footnotes":""},"categories":[],"tags":[28,191],"class_list":["post-37578","page","type-page","status-publish","has-post-thumbnail","hentry","tag-binaire","tag-binaire-2024-02"],"acf":[],"aioseo_notices":[],"publishpress_future_action":{"enabled":false,"date":"2026-05-27 00:23:10","action":"category","newStatus":"draft","terms":[75],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37578","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/comments?post=37578"}],"version-history":[{"count":4,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37578\/revisions"}],"predecessor-version":[{"id":37817,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37578\/revisions\/37817"}],"up":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/2750"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media\/37579"}],"wp:attachment":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media?parent=37578"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/categories?post=37578"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/tags?post=37578"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}