{"id":7216,"date":"2020-12-01T15:14:26","date_gmt":"2020-12-01T14:14:26","guid":{"rendered":"https:\/\/www.l3s.de\/?page_id=7216"},"modified":"2023-01-11T16:40:51","modified_gmt":"2023-01-11T15:40:51","slug":"ethical-and-legal-standards-for-artificial-intelligence","status":"publish","type":"page","link":"https:\/\/www.l3s.de\/de\/magazine\/binaire-articles\/ethical-and-legal-standards-for-artificial-intelligence\/","title":{"rendered":"Ethische und rechtliche Standards f\u00fcr k\u00fcnstliche Intelligenz"},"content":{"rendered":"
\n \n
\n \n \n
\n \n
\n
\n
\n
<\/div>\n <\/div>\n
\n
<\/div>\n <\/div>\n
\n
<\/div>\n <\/div>\n <\/div>\n
\n \n
\n
\n \n \n
\n \n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Foto: \u00a9<\/span>PhonlamaiPhoto – stock.adobe.com<\/span><\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Ausgabe: 03\/2020<\/p>\n <\/div>\n <\/div>\n

\n \n
Sicherheit, Datenschutz, Ethik<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n
\n \n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n
\n \n \n
\n \n
\n \n
\n \n \n

Ethische und rechtliche Standards f\u00fcr k\u00fcnstliche Intelligenz<\/h1>\n <\/div>\n <\/div>\n
\n \n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Auf k\u00fcnstlicher Intelligenz (KI) basierende Systeme treffen schon jetzt in vielen Bereichen Entscheidungen, die jeden Einzelnen \u00fcberall und jederzeit betreffen k\u00f6nnen \u2013 mit weitreichenden Auswirkungen auch auf die Gesellschaft als Ganzes. Suchmaschinen, Internet-Empfehlungssysteme und Social-Media-Bots verwenden KI-Systeme und beeinflussen damit unsere Wahrnehmung politischer Entwicklungen und sogar wissenschaftlicher Erkenntnisse. Unternehmen nutzen KI in Einstellungsverfahren, Banken f\u00fcr die Kreditvergabe. Wenn aber k\u00fcnstliche Intelligenz Entscheidungen trifft, bringt das Risiken mit sich: zum Beispiel Diskriminierung. Denn auch das maschinelle Gehirn ist nicht frei von Vorurteilen. KI-Systeme \u00fcbernehmen beim Lernen aus Datens\u00e4tzen auch die darin enthaltenen Stereotypen. So k\u00f6nnten Unternehmen Chancen verpassen, weil Voreingenommenheit dazu f\u00fchrt, dass KI-getriebene Entscheidungen unterdurchschnittliche Leistungen erbringen; viel schlimmer noch: sie k\u00f6nnten gegen Menschenrechte versto\u00dfen. Eine Frage, mit der sich Wissenschaftlerinnen und Wissenschaftler am L3S befassen, lautet daher: Wie k\u00f6nnen Standards f\u00fcr unvoreingenommene Einstellungen und nichtdiskriminierende Praktiken bei der Analyse gro\u00dfer Datenmengen und algorithmusbasierter Entscheidungsfindung eingehalten werden?<\/p>\n <\/div>\n <\/div>\n

\n \n \n
\n

Diskriminierung erkennen und beheben<\/strong><\/p>\n

Tats\u00e4chlich gibt es wachsende Bedenken, was die normative Qualit\u00e4t der KI-basierten Entscheidungen und Vorhersagen betrifft. Insbesondere mehren sich Hinweise, dass Algorithmen manchmal bestehende Verzerrungen und Diskriminierungen eher verst\u00e4rken als beseitigen - mit m\u00f6glichen negativen Auswirkungen auf den sozialen Zusammenhalt und auf demokratische Institutionen. Welche Rolle spielt also die Ethik bei solch einflussreichen Entscheidungsfindungssystemen?<\/p>\n

Im Projekt \n BIAS <\/em>Forschungsgruppe<\/a>f\u00fchren Expertinnen und Experten der Leibniz Universit\u00e4t Hannover die erkenntnistheoretischen sowie ethischen, rechtlichen und technischen Perspektiven zusammen. Die Volkswagen-Stiftung f\u00f6rdert die fakult\u00e4ts\u00fcbergreifende Forschungsinitiative im Rahmen der Ausschreibung \u201eK\u00fcnstliche Intelligenz \u2013 Ihre Auswirkungen auf die Gesellschaft von morgen\u201c. Die Kernidee: Philosophen analysieren die ethische Dimension von Konzepten und Prinzipien im Kontext der KI (Voreingenommenheit, Diskriminierung, Fairness). Juristen untersuchen, ob sich die Prinzipien ad\u00e4quat in den einschl\u00e4gigen rechtlichen Rahmenbedingungen wiederfinden (Datenschutz, Verbraucher-, Wettbewerbs-, Antidiskriminierungsrecht). Und Informatiker entwickeln konkrete technische L\u00f6sungen, um Diskriminierung zu erkennen und mit Debiasing-Strategien zu beheben.<\/p>\n

Neben Wissenschaftlern des Instituts f\u00fcr Philosophie ist das L3S an BIAS beteiligt - mit den Professoren Tina Kr\u00fcgel, Eirini Ntoutsi, Wolfgang Nejdl, Christian Heinze und Bodo Rosenhahn als leitenden Forschern. Sie alle eint das Verst\u00e4ndnis, dass nicht nur die Algorithmen, sondern das gesamte System von Computerprognosen und menschlichen Entscheidungen unvoreingenommen und nichtdiskriminierend sein sollte. Sie nehmen daher den gesamten Entscheidungsprozess und nicht nur einzelne Komponenten ins Visier.<\/p>\n <\/div>\n <\/div>\n

\n \n \n
\n

KI mit Verantwortung<\/strong><\/p>\n

Wie auf KI basierende Entscheidungen verantwortungsvoll gestaltet werden k\u00f6nnen, ist auch Thema des europ\u00e4ischen Promotionsprogramms \n NoBias – Artificial Intelligence without Bias<\/em><\/a>. F\u00fcnfzehn Doktorandinnen und Doktoranden an acht Institutionen in f\u00fcnf L\u00e4ndern gehen das Problem gemeinsam an: mit multidisziplin\u00e4rer Forschung in Informatik, Datenwissenschaften, maschinellem Lernen sowie den Rechts- und Sozialwissenschaften. Das L3S ist mit den Professoren Eirini Ntoutsi, Maria-Esther Vidal, Christian Heinze, Tina Kr\u00fcgel, S\u00f6ren Auer und Wolfgang Nejdl an NoBias <\/em>beteiligt.<\/p>\n

Voreingenommenheit kann in allen Phasen von KI-basierten Entscheidungsprozessen auftreten: wenn Daten gesammelt werden, wenn Algorithmen Daten in Entscheidungsfindungskapazität umwandeln und wenn die Ergebnisse angewendet werden. Um Diskriminierung zu vermeiden, reichen die üblichen KI-Methoden nicht aus. Die Nachwuchswissenschaftler entwickeln daher technische Lösungen, die ethische und rechtliche Prinzipien in das Training, das Design und den Einsatz der Algorithmen einbetten. Dafür müssen sie zunächst die rechtlichen, sozialen und technischen Herausforderungen verstehen. Neben der Entwicklung fairer Algorithmen für eine unvoreingenommene Entscheidungsfindung gehört zu den Zielen von NoBias<\/em>, KI-Ergebnisse automatisch zu erklären und den gesamten Prozess der Datenherkunft transparent zu dokumentieren.<\/p><\/p>\n

Praxisn\u00e4he stellt NoBias durch die Kooperation mit mehr als zehn assoziierten Partnerunternehmen aus den Bereichen Telekommunikation, Finanzen, Marketing, Medien, Software und Rechtsberatung her, die mit dem Know-how der Forscher KI-Innovationen rechtskonform vorantreiben k\u00f6nnen.<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n \n \n
\n \n
\n \n
\n \n
\n
\n \n \n
\n \n
\n <\/span><\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Vorgestellte Projekte<\/h6>\n <\/div>\n <\/div>\n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Kontakt<\/h6>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Prof. Dr. Eirini Ntoutsi<\/h6>\n <\/div>\n <\/div>\n
\n \n
ntoutsi@l3s.de<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n \n
\n

L3S-Mitglied Eirini Ntoutsi ist Projektkoordinatorin von NoBIAS und leitende Forscherin im Projekt BIAS.<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n
\n \n \n
\n \n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Dr. Vasileios Iosifidis<\/h6>\n <\/div>\n <\/div>\n
\n \n
iosifidis@l3s.de<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n \n
\n

Vasileios Iosifidis ist wissenschaftlicher Mitarbeiter am L3S und Projektleiter von NoBIAS.<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n
\n \n \n
\n \n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Arjun Roy<\/h6>\n <\/div>\n <\/div>\n
\n \n
roy@l3s.de<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n \n
\n

Arjun Roy ist Doktorand am L3S und wissenschaftlicher Mitarbeiter im Projekt BIAS.<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n<\/div>","protected":false},"excerpt":{"rendered":"

Foto: \u00a9PhonlamaiPhoto – stock.adobe.com Issue: 03\/2020 Sicherheit, Datenschutz, Ethik Ethical and legal standards for artificial intelligence Artificial intelligence (AI)-based systems are already making decisions in many areas that can affect any individual, anywhere, at any time – with far-reaching effects on society as a whole as well. Search engines, Internet recommendation systems, and social media bots […]<\/p>","protected":false},"author":7,"featured_media":7217,"parent":2750,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"page-templates\/full-width-page.php","meta":{"_acf_changed":false,"footnotes":""},"categories":[],"tags":[28,85],"class_list":["post-7216","page","type-page","status-publish","has-post-thumbnail","hentry","tag-binaire","tag-binaire-2020-03"],"acf":[],"aioseo_notices":[],"publishpress_future_action":{"enabled":false,"date":"2026-05-05 04:22:35","action":"category","newStatus":"draft","terms":[75],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/7216","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/comments?post=7216"}],"version-history":[{"count":0,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/7216\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/2750"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media\/7217"}],"wp:attachment":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media?parent=7216"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/categories?post=7216"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/tags?post=7216"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}