{"id":6459,"date":"2021-10-06T15:25:43","date_gmt":"2021-10-06T13:25:43","guid":{"rendered":"https:\/\/www.l3s.de\/?page_id=6459"},"modified":"2023-01-18T14:25:14","modified_gmt":"2023-01-18T13:25:14","slug":"fairness-instead-of-prejudice","status":"publish","type":"page","link":"https:\/\/www.l3s.de\/de\/magazine\/binaire-articles\/fairness-instead-of-prejudice\/","title":{"rendered":"Fairness statt Vorurteile"},"content":{"rendered":"
\n \n
\n \n \n
\n \n
\n
\n
\n
<\/div>\n <\/div>\n
\n
<\/div>\n <\/div>\n
\n
<\/div>\n <\/div>\n <\/div>\n
\n \n
\n
\n \n \n
\n \n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Foto: \u00a9<\/span>Erwin Wodicka – stock.adobe.com<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Ausgabe: 03\/2021<\/p>\n <\/div>\n <\/div>\n

\n \n
Digital Innovation Hub KI & Cybersicherheit<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n
\n \n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n
\n \n \n
\n \n
\n \n
\n \n \n

Fairness statt Vorurteile<\/h1>\n <\/div>\n <\/div>\n
\n \n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Rechtsrahmen f\u00fcr KI-Anwendungen<\/strong><\/p>\n

K\u00fcnstliche Intelligenz (KI) bietet f\u00fcr viele Wirtschafts- und Lebensbereiche ein enormes Optimierungspotential. Dabei treffen KI-basierte Systeme Entscheidungen, die weitreichende Auswirkungen auf jeden Einzelnen und auf die Gesellschaft als Ganzes haben k\u00f6nnen. KI-Entscheidungen er\u00f6ffnen zwar viele Chancen, k\u00f6nnen aber auch Diskriminierungen erzeugen, etwa bei der Vergabe von Arbeitspl\u00e4tzen oder Krediten. Der Grund kann in problematischen Trainingsdaten liegen, die in der Gesellschaft vorhandene Vorurteile widerspiegeln. Verzerrungen k\u00f6nnen aber auch erst auftreten, wenn Algorithmen Daten in Entscheidungen umwandeln oder wenn die Ergebnisse in Anwendungen genutzt werden. Der Einsatz von KI wirft damit auch rechtliche und ethische Fragen auf. Die Wissenschaft steht also nicht nur vor der Aufgabe, die Vorhersageleistung der KI-Algorithmen zu optimieren, sondern auch ethische und rechtliche Prinzipien in ihr Design, ihr Training und ihren Einsatz einzubeziehen.  <\/p>\n <\/div>\n <\/div>\n

\n \n \n
\n

Bestandsaufnahme der Befangenheit <\/strong> <\/span><\/p>\n

Eine Reihe von Projekten am L3S verfolgt das Ziel, die rechtlichen, gesellschaftlichen und technischen Herausforderungen dieser Verzerrungen zu verstehen \u2013 und zu vermeiden. Auch das europ\u00e4ische Graduiertenkolleg Artificial Intelligence without Bias (NoBIAS)<\/a> befasst sich mit dieser Thematik. Die beteiligten Wissenschaftler haben dabei die gesamte Entscheidungspipeline im Blick. Das \u00fcbergeordnete Ziel: verstehen, wo die unterschiedlichen Ursachen f\u00fcr Vorurteile liegen, erkennen, wenn sie in Erscheinung treten, und ihre Auswirkungen auf Anwendungsergebnisse entsch\u00e4rfen. F\u00fcnfzehn Doktoranden an acht Institutionen in f\u00fcnf L\u00e4ndern gehen das Problem gemeinsam an: mit multidisziplin\u00e4rer Forschung in Informatik, Datenwissenschaft, maschinellem Lernen sowie Rechts- und Sozialwissenschaften. Das L3S ist mit den Professoren Maria-Esther Vidal, Christian Heinze, Eirini Ntoutsi, Wolfgang Nejdl und weiteren Wissenschaftlern an NoBIAS beteiligt. In einer ersten Studie haben sie zusammen mit Professoren anderer Institutionen eine breite multidisziplin\u00e4re Bestandsaufnahme der Befangenheit in KI-Systemen durchgef\u00fchrt. Die Studie konzentriert sich auf technische Herausforderungen und L\u00f6sungen des Problems und schl\u00e4gt vor, neue Forschungswege einzuschlagen, deren Ans\u00e4tze in einem rechtlichen Rahmen verankert sind.<\/p>\n <\/div>\n <\/div>\n

\n \n \n
\n

Interdisziplin\u00e4re Zusammenarbeit   <\/strong><\/p>\n

Wie greift man in die algorithmischen Komponenten KI-basierter Entscheidungssysteme ein, um faire und gerechte Systeme zu schaffen? Eine Antwort zu finden, wird durch die kontextabh\u00e4ngige Natur von Fairness und Diskriminierung erheblich erschwert. Moderne Entscheidungsfindungssysteme, bei denen es um die Zuteilung von Ressourcen oder Informationen an Personen geht - wie bei der Kreditvergabe, in der Werbung oder bei der Online-Suche - beziehen maschinell erlernte Vorhersagen in ihre Pipelines ein. Dabei kommen durchaus Bedenken auf: etwa hinsichtlich eines m\u00f6glichen strategischen Verhaltens oder Einschr\u00e4nkungen bei der Zuteilung. Normalerweise befassen sich damit die Wirtschaftswissenschaften und die Spieltheorie. Gourab K. Patro vom Forschungszentrum L3S hat zusammen mit anderen Forschern aus aller Welt Probleme hinsichtlich Fairness und Diskriminierung in automatisierten Entscheidungsfindungssystemen aus der Perspektive des statistischen maschinellen Lernens, der Wirtschaftswissenschaften, der Spieltheorie und des Mechanismus-Designs untersucht. Die Wissenschaftler wollen gemeinsam ein umfassendes System schaffen, das die einzelnen Rahmenbedingungen der verschiedenen Disziplinen vereint. <\/p>\n <\/div>\n <\/div>\n

\n \n \n
\n

Fairness-bewusstes Lernen  <\/strong> <\/span><\/p>\n

Datengesteuerte Algorithmen kommen in vielen Anwendungen zum Einsatz, in denen Daten in einer fortlaufenden Reihenfolge verf\u00fcgbar werden. Die Modelle m\u00fcssen daher regelm\u00e4\u00dfig aktualisiert werden. In solchen dynamischen Umgebungen, in denen sich die zugrundeliegenden Datenverteilungen mit der Zeit ver\u00e4ndern, k\u00f6nnen einfache statische Lernans\u00e4tze versagen. Fairness-bewusstes Lernen ist hier also keine einmalige Anforderung, sondern sollte kontinuierlich den gesamten Datenstrom umfassen. Professor Eirini Ntoutsi und Vasileios Iosifidis haben sich am L3S mit diesem Problem besch\u00e4ftigt und einen Online-Boosting-Ansatz vorgeschlagen, der Fairness bei der Klassifizierung von Daten \u00fcber den gesamten Datenstrom aufrechterh\u00e4lt. Dazu haben sie umfangreiche Experimente durchgef\u00fchrt, die m\u00f6gliche Anwendungen aufzeigen - etwa im Bankenwesen oder bei der Polizei.   <\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n \n \n
\n \n
\n \n
\n \n
\n
\n \n \n
\n \n
\n <\/span><\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Vorgestellte Projekte<\/h6>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/a>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/a>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Kontakt<\/h6>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Prof. Dr. techn. Wolfgang Nejdl <\/h6>\n <\/div>\n <\/div>\n
\n \n
nejdl@l3s.de <\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n \n
\n

Wolfgang Nejdl ist Direktor des L3S und Projektkoordinator von NoBIAS.<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n
\n \n \n
\n \n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Gourab K. Patro <\/h6>\n <\/div>\n <\/div>\n
\n \n
patro@l3s.de<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n \n
\n

Gourab Patro ist Wissenschaftlicher Mitarbeiter am L3S und Projektleiter von NoBIAS.<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n<\/div>","protected":false},"excerpt":{"rendered":"

Foto: \u00a9Erwin Wodicka – stock.adobe.com Issue: 03\/2021 Digital Innovation Hub KI & Cybersicherheit Fairness instead of prejudice Legal Framework for AI Artificial intelligence (AI) offers enormous optimisation potential for many areas of business and life. In the process, AI-based systems make decisions that can have far-reaching effects on each individual and on society as a whole. While […]<\/p>","protected":false},"author":7,"featured_media":6468,"parent":2750,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"page-templates\/full-width-page.php","meta":{"_acf_changed":false,"footnotes":""},"categories":[],"tags":[28,81],"class_list":["post-6459","page","type-page","status-publish","has-post-thumbnail","hentry","tag-binaire","tag-binaire-2021-03"],"acf":[],"aioseo_notices":[],"publishpress_future_action":{"enabled":false,"date":"2026-05-18 00:55:51","action":"category","newStatus":"draft","terms":[75],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/6459","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/comments?post=6459"}],"version-history":[{"count":0,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/6459\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/2750"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media\/6468"}],"wp:attachment":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media?parent=6459"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/categories?post=6459"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/tags?post=6459"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}