Direkt zum Inhalt
Big Data

BIAS: VolkswagenStiftung fördert interdisziplinäre Forschung zu Entscheidungsfindung mit KI

Date
2019-01-09

"Bias and Discrimination in Big Data and Algorithmic Processing. Philosophical Assessments, Legal Dimensions, and Technical Solutions — BIAS"

Ob Bewerberauswahl oder Kreditvergabe - immer mehr Entscheidungen werden mit Hilfe künstlicher Intelligenz (KI) getroffen. Die Grundlage dafür sind riesige Datenmengen (Big Data) und deren Verarbeitung durch Algorithmen. Über Suchmaschinen, Internet-Empfehlungsdienste und Social-Media-Bots beeinflussen KI-Techniken zudem unsere Wahrnehmung politischer Entwicklungen und sogar wissenschaftlicher Erkenntnisse. Allerdings wächst die Besorgnis hinsichtlich der Qualität von KI-Bewertungen und -Vorhersagen. Insbesondere gibt es starke Hinweise darauf, dass Algorithmen Voreingenommenheit und Diskriminierung in den Daten oftmals nicht beseitigen, sondern sogar verstärken und hierdurch negative Effekte auf den sozialen Zusammenhalt und die demokratische Öffentlichkeit ausüben können.

In der von der VolkswagenStiftung geförderten Forschungsgruppe „BIAS“ werden sich Philosophen, Juristen und Informatiker gemeinsam der Frage widmen, wie die Normen unvoreingenommenen Zugangs und nichtdiskriminierender Praxis in Big-Data-Analysen und Algorithmen-basierter Entscheidungsfindung eingehalten werden können. Die Wissenschaftler werden philosophische Analysen zu den relevanten Begriffen und Prinzipien im Kontext von KI liefern (“bias”, “discrimination”, “fairness”), ihre angemessene Rezeption in einschlägigen Rechtsregelungen untersuchen (Datenschutz-, Verbraucherschutz-, Wettbewerbs-, Antidiskriminierungsgesetzgebung) sowie konkrete Lösungsansätze zu ihrer technischen Behandlung erarbeiten (debiasing strategies, discrimination detection procedures etc.). Interdisziplinäre Synergien werden durch enge Zusammenarbeit an geteilten Fragestellungen und unmittelbare Bezugnahme auf Ansätze und Ergebnisse der jeweils anderen Disziplinen erzielt. Zudem wird die Forschungsgruppe konkrete Maßnahmen intensiver Kooperation etablieren, darunter regelmäßige Meetings, gemeinsame Workshops, eine interdisziplinäre Abschlusskonferenz sowie gruppenübergreifende Veröffentlichungen.