{"id":29757,"date":"2023-12-13T10:31:31","date_gmt":"2023-12-13T09:31:31","guid":{"rendered":"https:\/\/www.l3s.de\/?page_id=29757"},"modified":"2023-12-13T10:55:20","modified_gmt":"2023-12-13T09:55:20","slug":"disinformation-opportunities-and-dangers-of-artificial-intelligence","status":"publish","type":"page","link":"https:\/\/www.l3s.de\/de\/magazine\/binaire-articles\/disinformation-opportunities-and-dangers-of-artificial-intelligence\/","title":{"rendered":"Desinformation: Chancen und Gefahren der k\u00fcnstlichen Intelligenz\u00a0"},"content":{"rendered":"
\n \n
\n \n \n
\n \n
\n \n
\n \n
\n
\n
\n
\n
<\/div>\n <\/div>\n
\n
<\/div>\n <\/div>\n
\n
<\/div>\n <\/div>\n <\/div>\n \n
\n \n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Das Werkzeug Kl als Schutzschild gegen den Missbrauch von Kl. Die Bilder erstellte Stable Diffusion XL zu dem Prompt: \"A protective shield made of binary code fends off threatening fake news, expressive painting in blue and turquoiser\".<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Ausgabe: 03\/2023<\/p>\n <\/div>\n <\/div>\n

\n \n
Gesellschaft und Medien<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n
\n \n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Soziale Medien und Gesellschaft <\/h6>\n <\/div>\n <\/div>\n
\n \n
\n \n \n

Desinformation: Chancen und Gefahren der k\u00fcnstlichen Intelligenz <\/h1>\n <\/div>\n <\/div>\n
\n \n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n \n
\n

Im Zeitalter von Web und Social Media hat sich die Verbreitung von falschen und irref\u00fchrenden Informationen (Fake News) und von herabw\u00fcrdigenden und hasserf\u00fcllten Beitr\u00e4gen (Hatespeech) zu einem Problem f\u00fcr die Demokratie entwickelt. Desinformation und Deep Fakes k\u00f6nnen selbst von Experten und Fact-Checking-Organisationen wie\n Snopes<\/a> oder\n PolitiFact h\u00e4ufig nur mit hohem Aufwand identifiziert werden.<\/a>M\u00f6gliche Folgen solcher Beitr\u00e4ge: Manipulation von Meinungen, ein Vertrauensverlust in Nachrichtenkan\u00e4le, die Spaltung der Gesellschaft. K\u00fcnstliche Intelligenz (KI) kann Experten dabei unterst\u00fctzen, Beitr\u00e4ge auf Falsch- und Desinformation zu \u00fcberpr\u00fcfen. Allerdings hat KI in diesem Zusammenhang auch Missbrauchspotenzial.<\/p>\n

Vielf\u00e4ltige Verbreitungsmethoden<\/h6>\n

Eine erhebliche Herausforderung bei der Erkennung von Fake News sind die vielf\u00e4ltigen Methoden, mit denen irref\u00fchrende oder sch\u00e4dliche Inhalte erstellt werden k\u00f6nnen. Sie reichen von der Verbreitung falscher \u201eFakten\u201c in Texten \u00fcber die Manipulation oder Erstellung (Deep Fakes) von Bildern, Grafiken oder Videos bis hin zu Beitr\u00e4gen, die einzelne Personen oder Gruppen bedrohen, beleidigen oder diffamieren. Auch \u00fcber die Art der Nachrichtenvermittlung lassen sich Falsch- oder Desinformationen verbreiten. In Videos k\u00f6nnen Ereignisse schon durch das Ver\u00e4ndern der Reihenfolge oder das bewusste Vorenthalten einzelner Szenen verzerrt dargestellt werden. Die zweite Herausforderung: Fakten lassen sich oft nur sehr schwer verifizieren, zum Beispiel, wenn nur subtile Ver\u00e4nderungen vorgenommen werden oder die Faktenlage noch nicht eindeutig ist, so wie bei sehr aktuellen Ereignissen. In vielen F\u00e4llen k\u00f6nnen deshalb falsche Informationen erst dann widerlegt werden, wenn sie sich bereits viral verbreitet haben.<\/p>\n

Missbrauch von KI<\/h6>\n

Methoden der k\u00fcnstlichen Intelligenz sind ein wichtiges Werkzeug im Kampf gegen Fake News. Aber generative KI-Modelle k\u00f6nnen auch das Gegenteil bewirken: Zum Beispiel, indem b\u00f6swillige Akteure sie missbrauchen, um \u00fcberzeugende Fake-News-Inhalte zu produzieren, also real wirkende Nachrichtenartikel, Tweets oder Videos. So werden etwa Generative Adversarial Networks (GANs) eingesetzt, um Deep Fakes zu generieren. Der Trainingsprozess dieser GANs ist dadurch charakterisiert, dass solche Inhalte nicht nur erzeugt, sondern auch klassifiziert werden, zum Beispiel als real oder falsch. Durch diese gleichzeitige und gegenseitige Optimierung werden sowohl Generator als auch Detektor im Trainingsverlauf immer besser.<\/p>\n

Es entstehen zum Teil t\u00e4uschend echte Deep Fakes, die in Verbindung mit Methoden der Sprachsynthese Videos mit falschen Aussagen von \u00f6ffentlichen Personen erstellen k\u00f6nnen. Einige Beispiele sind medial publik geworden: So wurde im Jahr 2022 Berlins damalige Regierende B\u00fcrgermeisterin Franziska Giffey Opfer eines Videoanrufs. Der Anrufer war angeblich Kiews B\u00fcrgermeister Vitali Klitschko.\n the victim of a video call<\/a>. The caller was allegedly Kiev’s mayor, Vitali Klitschko.<\/p>\n <\/div>\n <\/div>\n

\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n \n
\n

Deep Fake von Barack Obama zur Einleitung in die Deep-Learning-Vorlesung des MIT (Massachusetts Institute of Technology). \u00a9Alexander Amini und Ava Amini, \u201cMIT Introduction to Deep Learning\u201d, Quelle: <\/em>\n http:\/\/introtodeeplearning.com\/<\/em><\/a> <\/em><\/p>\n

Link zum <\/em>\n kompletten Video<\/em><\/a> <\/em><\/p>\n <\/div>\n <\/div>\n

\n \n \n
\n

Methoden der generativen KI sind sp\u00e4testens nach der Ver\u00f6ffentlichung von Chat-GPT allgemein bekannt geworden. Generative KI-Modelle sind in der Lage, nat\u00fcrliche Texte zu erzeugen, und werden f\u00fcr diverse Aufgabenstellungen genutzt, etwa f\u00fcr Zusammenfassungen oder \u00dcbersetzungen. Ein Risiko besteht darin, dass der generierte Text nicht ganz der Wahrheit entspricht. Dieses Verhalten kann gezielt ausgenutzt werden, aber auch unabsichtlich dazu f\u00fchren, dass vermeintlich glaubw\u00fcrdige Falschnachrichten verbreitet werden.<\/p>\n

Medien, KI und Fake News<\/h6>\n

Im Kampf gegen Fake News sind KI-Ans\u00e4tze notwendig, die Text-, Bild-, Audio- und Videoinformationen unimodal und multimodal analysieren. Die meisten kommen aus dem Bereich Deep Learning. Methoden der nat\u00fcrlichen Sprachverarbeitung in Verbindung mit Wissensgraphen oder anderen Informationsquellen dienen dazu, Behauptungen zu \u00fcberpr\u00fcfen und Beitr\u00e4ge mit hasserf\u00fcllten Inhalten oder polarisierenden Standpunkten zu erkennen. Im Projekt Social Media and Climate Change nutzen Wissenschaftler des L3S solche Methoden, um Posts in den sozialen Medien hinsichtlich ihrer Haltung zum Klimawandel zu kategorisieren und Desinformation zu identifizieren.<\/p>\n

Ans\u00e4tze des maschinellen Sehens (Computer Vision) sind in der Lage, Bildmanipulationen zu erkennen und \u2013 unter anderem in Verbindung mit Audioanalyse \u2212 selbst Deep Fakes. Mithilfe multimodaler KI-Methoden k\u00f6nnen auch Nachrichten aus Bild und Text sowie aus Video und Audio untersucht werden, zum Beispiel hinsichtlich bestimmter narrativer Muster oder \u00fcbereinstimmender Informationen in Bild und Text. Im Projekt FakeNarratives werden maschinelle Lernverfahren mit Methoden aus den digitalen Geisteswissenschaften und der Diskursanalyse verkn\u00fcpft, um Narrative der Desinformationen in Nachrichtenvideos zu untersuchen.<\/p>\n

Neben der Entwicklung innovativer KI-Methoden ist es notwendig, die Bev\u00f6lkerung f\u00fcr alle Formen von Fake News und den Umgang mit KI zu sensibilisieren. Der am L3S koordinierte europ\u00e4ische Dateninnovations-Hub MediaFutures hat Start-ups, Unternehmen und K\u00fcnstler bei der Entwicklung digitaler Produkte, Dienstleistungen und Kunstwerke gef\u00f6rdert, um Desinformation entgegenzuwirken und die Medienkompetenz der Bev\u00f6lkerung zu st\u00e4rken.<\/p>\n

Arbeit in der digitalen Gesellschaft<\/h6>\n

Nicht nur die sozialen Medien und digitalen Plattformen \u00fcben einen starken Einfluss auf die gesellschaftliche Entwicklung aus. Die Digitalisierung ver\u00e4ndert auch die Arbeitswelt enorm. Mit den Folgen, den Wirkungen und den M\u00f6glichkeiten der Gestaltung befasst sich das Zukunftslabor Gesellschaft & Arbeit. Im Mittelpunkt steht dabei der verantwortungsvolle Umgang mit den digitalen Technologien. Das L3S besch\u00e4ftigt sich hier vor allem mit der Robustheit und Fairness von KI-Modellen. Ebenfalls ein wichtiges Forschungsthema: Partizipation bei IT-Projekten als zentraler Faktor f\u00fcr langfristig erfolgreiche IT-Projekte und damit f\u00fcr eine nachhaltige Digitalisierung. <\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n \n \n
\n \n
\n \n
\n \n
\n
\n \n \n
\n \n
\n <\/span><\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n
Kontakt<\/h6>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n

Prof. Dr. Ralph Ewerth <\/h4>\n <\/div>\n <\/div>\n
\n \n
ralph.ewerth@L3S.de<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n \n
\n

Ralph Ewerth ist Leiter der Forschungsgruppe Visual Analytics des Joint Labs von L3S und TIB (Leibniz-Informationszentrum Technik und Naturwissenschaften) und Professor f\u00fcr Visual Analytics an der LUH. \u2003<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n

\n
\n \n \n
\n \n
\n \n
\n
\n \n \n \"\"\n
<\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n
\n \n
\n
\n \n \n
\n \n
\n \n
\n \n \n

Dr.-Ing. Eric M\u00fcller-Budack <\/h4>\n <\/div>\n <\/div>\n
\n \n
eric.mueller@tib.eu<\/span><\/a>\n <\/span>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n \n \n
\n

Eric M\u00fcller-Budack ist Postdoktorand in der Forschungsgruppe Visual Analytics des Joint Labs von L3S und TIB (Leibniz-Informationszentrum Technik und Naturwissenschaften). Seine Forschungsschwerpunkte liegen in den Bereichen Computer Vision und Multimedia Information Retrieval.<\/p>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n<\/div>","protected":false},"excerpt":{"rendered":"

The tool Kl as a protective shield against the misuse of Kl. Stable Diffusion XL for the prompt: “A protective shield made of binary code fends off threatening fake news, expressive painting in blue and turquoiser. Issue: 03\/2023 Gesellschaft und Medien Social Media and Society Disinformation: Opportunities and Dangers of Artificial Intelligence In the era […]<\/p>","protected":false},"author":7,"featured_media":29759,"parent":2750,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"page-templates\/full-width-page.php","meta":{"_acf_changed":false,"footnotes":""},"categories":[],"tags":[28,141],"class_list":["post-29757","page","type-page","status-publish","has-post-thumbnail","hentry","tag-binaire","tag-binaire-2023-03"],"acf":[],"aioseo_notices":[],"publishpress_future_action":{"enabled":false,"date":"2026-05-27 00:24:28","action":"category","newStatus":"draft","terms":[75],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/29757","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/comments?post=29757"}],"version-history":[{"count":0,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/29757\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/2750"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media\/29759"}],"wp:attachment":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media?parent=29757"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/categories?post=29757"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/tags?post=29757"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}