{"id":37866,"date":"2024-12-18T16:00:14","date_gmt":"2024-12-18T15:00:14","guid":{"rendered":"https:\/\/www.l3s.de\/?page_id=37866"},"modified":"2024-12-19T14:45:35","modified_gmt":"2024-12-19T13:45:35","slug":"polite-with-ai","status":"publish","type":"page","link":"https:\/\/www.l3s.de\/de\/magazine\/binaire-articles\/polite-with-ai\/","title":{"rendered":"H\u00f6flicher mit KI\u00a0"},"content":{"rendered":"
\r\n \r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n
\r\n
\r\n
<\/div>\r\n <\/div>\r\n
\r\n
<\/div>\r\n <\/div>\r\n
\r\n
<\/div>\r\n <\/div>\r\n <\/div>\r\n \r\n
\r\n \r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

Vier verschiedene KI-Bildgeneratoren wurden jeweils gebeten, das Thema mit dieser Aufforderung zu illustrieren (ohne weitere Angaben zum spezifischen Bildinhalt oder Stil usw.): 'Bild einer giftigen Diskussion auf einer Internetplattform mit einem emp\u00f6rten Nutzer an seinem Schreibtisch, Blick von der Seite'. Von links nach rechts sind die - eher klischeehaften - Ergebnisse von: Stabile Diffusion XL, DALL-E 3, Flux Schnell und Midjourney.<\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

Ausgabe: 02\/2024<\/p>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n
Exzellenz in der KI-Forschung<\/span><\/a>\r\n <\/span>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
Soziale Medien<\/h6>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n \r\n

H\u00f6flicher mit KI <\/h1>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
\r\n

Diskussionen im Internet sind oft ein hei\u00dfes Pflaster. Anonymit\u00e4t und emotionale Bindungen f\u00fchren schnell zu toxischen Kommentaren, die den Diskurs ersticken. Ein Forscherteam des L3S zeigt in einer aktuellen Studie, wie k\u00fcnstliche Intelligenz (KI) und Natural Language Processing (NLP) helfen k\u00f6nnen, solche Argumente umzuformulieren \u2013 und zwar so, dass die urspr\u00fcnglichen Gedanken erhalten bleiben, aber unpassende \u00c4u\u00dferungen entfernt werden. Doch wie gelingt dieser Balanceakt?<\/p>\r\n

Entsch\u00e4rfen durch Umformulieren<\/h6>\r\n

Bisher verlassen sich Plattformen auf ihre Nutzer oder automatische Erkennungstools, um unangemessene Inhalte zu kennzeichnen, die anschlie\u00dfend noch von Moderatoren gepr\u00fcft und gegebenenfalls entfernt werden. Doch dieser Ansatz ist nicht nur zeitaufwendig und teuer, sondern f\u00fcr die Moderatoren auch belastend. Die L\u00f6sung k\u00f6nnte in einer neuen Technologie liegen: K\u00fcnstliche Intelligenz, die in der Lage ist, unangemessene Argumente automatisch umzuformulieren. \u201eUnser Ziel ist es, nicht einfach nur zu l\u00f6schen, sondern den Diskurs zu retten, indem wir Argumente entsch\u00e4rfen und gleichzeitig ihre Aussage erhalten\u201c, sagt Timon Ziegenbein, Erstautor der Studie.<\/p>\r\n

KI lernt dazu<\/h6>\r\n

Das Herzst\u00fcck des Ansatzes ist ein Large Language Model (LLM), das durch Reinforcement Learning (verst\u00e4rkendes Lernen) trainiert wird. Dabei wird das Modell darauf getrimmt, die Angemessenheit zu steigern und au\u00dferdem den urspr\u00fcnglichen Inhalt eines Arguments zu bewahren. Die KI \u201elernt\u201c also, unangemessene Argumente so umzuformulieren, dass sie respektvoller und sachlicher werden. \u201eAnders als bei einfachen Stil\u00fcbertragungsaufgaben, die nur den Tonfall eines Textes \u00e4ndern, erfordert das Umschreiben unangemessener Argumente auch inhaltliche \u00c4nderungen auf Dokumentenebene, nicht nur auf Satzebene\u201c, sagt Ziegenbein. Dies erm\u00f6glicht es, Inhalte hinzuzuf\u00fcgen oder zu entfernen, um die Sachlichkeit und H\u00f6flichkeit zu erh\u00f6hen. Ein Beispiel aus der Studie zeigt die Wirksamkeit: Ein aggressives und emotional aufgeladenes Argument wurde in eine ruhigere, nachdenklichere Version umformuliert \u2013 ohne den Kern der Aussage zu verf\u00e4lschen.<\/p>\r\n

Doch wie gut funktioniert dieser Ansatz in der Praxis? Um das herauszufinden, verglichen die Forscher die KI-generierten Umschreibungen mit denen von Menschen. Die Ergebnisse waren vielversprechend: \u201eUnser Modell erreicht eine signifikante Verbesserung der Angemessenheit und bleibt dabei \u00fcberraschend nah an der urspr\u00fcnglichen Aussage\u201c, so Ziegenbein.<\/p>\r\n

Grenzen und ethische Fragen<\/h6>\r\n

Trotz der Erfolge st\u00f6\u00dft die KI auch an ihre Grenzen, vor allem bei sehr kurzen oder stark unangemessenen Argumenten. \u201eIn solchen F\u00e4llen k\u00f6nnte es sinnvoller sein, den gesamten Text zu entfernen, anstatt ihn umzuformulieren\u201c, schreiben die Autoren. Zudem werfen solche Technologien ethische Fragen auf: Darf eine Plattform Inhalte einfach umformulieren, ohne die Zustimmung des Autors? Hier sehen die Wissenschaftler weiteren Forschungsbedarf.<\/p>\r\n

Die Ergebnisse der Studie zeigen jedoch, dass KI ein wertvolles Werkzeug sein k\u00f6nnte, um Online-Diskussionen zivilisierter zu gestalten und Moderatoren zu entlasten. Der n\u00e4chste Schritt besteht darin, die Technologie weiter zu verfeinern und ethische Richtlinien f\u00fcr den Einsatz solcher Tools zu entwickeln. \u201eUnser Ansatz ist ein erster Schritt\u201c, so die Forscher, \u201eaber es bleibt noch viel zu tun, um die Technologie in der Praxis sicher und effektiv einzusetzen.\u201c Fest steht: Der Ansatz, toxische Inhalte durch Umschreibungen zu entsch\u00e4rfen, hat Potenzial \u2013 sowohl f\u00fcr Plattformen als auch f\u00fcr die Nutzer.<\/p>\r\n

Timon Ziegenbein, Gabriella Skitalinskaya, Alireza Bayat Makou, Henning Wachsmuth: LLM-based Rewriting of Inappropriate Argumentation using Reinforcement Learning from Machine Feedback. ACL (1) 2024: 4455-4476 <\/em>\r\n aclanthology.org\/2024.acl-long.244.pdf<\/em><\/a>\r\n <\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n

\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n <\/span><\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n
Kontakt<\/h6>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n \r\n
<\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n

Timon Ziegenbein <\/h4>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
t.ziegenbein@ai.uni-hannover.de <\/span><\/a>\r\n <\/span>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n \r\n
\r\n

Timon Ziegenbein ist wissenschaftlicher Mitarbeiter und Promotionsstudent im L3S-Projekt \"OASiS: Objective Argument Summarization for Search\" <\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n

\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n \r\n
<\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
\r\n \r\n
\r\n
\r\n \r\n \r\n
\r\n \r\n
\r\n \r\n
\r\n \r\n \r\n

Prof. Dr. Henning Wachsmuth <\/h4>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n
henning.wachsmuth@L3S.de <\/span><\/a>\r\n <\/span>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n
\r\n \r\n \r\n
\r\n

L3S-Mitglied Henning Wachsmuth leitet das Fachgebiet Natural Language Processing am Institut f\u00fcr K\u00fcnstliche Intelligenz der Leibniz Universit\u00e4t Hannover. <\/p>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n <\/div>\r\n<\/div>","protected":false},"excerpt":{"rendered":"

Four different AI image generators were each asked to illustrate the topic with this prompt (without further details on specific image content or style etc.): \u2018Picture of a toxic discussion on an internet platform with an indignant user at his desk, view from the side\u2019. From left to right are the – rather stereotypical – […]<\/p>","protected":false},"author":11,"featured_media":37867,"parent":2750,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"page-templates\/full-width-page.php","meta":{"_acf_changed":false,"footnotes":""},"categories":[],"tags":[28,191],"class_list":["post-37866","page","type-page","status-publish","has-post-thumbnail","hentry","tag-binaire","tag-binaire-2024-02"],"acf":[],"aioseo_notices":[],"publishpress_future_action":{"enabled":false,"date":"2026-05-17 08:24:48","action":"category","newStatus":"draft","terms":[75],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37866","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/comments?post=37866"}],"version-history":[{"count":4,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37866\/revisions"}],"predecessor-version":[{"id":37906,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/37866\/revisions\/37906"}],"up":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/pages\/2750"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media\/37867"}],"wp:attachment":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media?parent=37866"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/categories?post=37866"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/tags?post=37866"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}