{"id":39615,"date":"2025-04-24T12:18:59","date_gmt":"2025-04-24T10:18:59","guid":{"rendered":"https:\/\/www.l3s.de\/?p=39615"},"modified":"2025-04-24T12:19:01","modified_gmt":"2025-04-24T10:19:01","slug":"making-ai-image-recognition-transparent","status":"publish","type":"post","link":"https:\/\/www.l3s.de\/de\/making-ai-image-recognition-transparent\/","title":{"rendered":"Mehr Transparenz in der KI-Bilderkennung"},"content":{"rendered":"<p><strong>L3S Beste Ver\u00f6ffentlichung des Quartals <strong>(Q4\/2024 \u2013 Q1\/2025)\u202f<\/strong><br>Kategorie: <strong>Explainable AI<\/strong><\/strong><\/p>\n\n\n\n<p style=\"font-size:23px\"><strong>QPM: Discrete Optimization for Globally Interpretable Image Classification<\/strong><\/p>\n\n\n\n<p>Autoren: Thomas Norrenbrock, Timo Kaiser, Sovan Biswas, Ramesh Manuvinakurike, Bodo Rosenhahn\u00a0<\/p>\n\n\n\n<p><em>Vorgestellt auf: The Thirteenth International Conference on Learning Representations (ICLR) 2025\u00a0<\/em><\/p>\n\n\n\n<div style=\"height:28px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<p><strong>Die Ver\u00f6ffentlichung in K\u00fcrze:<\/strong>&nbsp;<\/p>\n\n\n\n<p>Unsere Arbeit stellt QPM vor, einen neuen Ansatz, der KI-Bilderkennung transparenter und vorhersagbarer macht. QPM hebt die gelernten Unterschiede zwischen Bildkategorien hervor und zeigt die Schl\u00fcsselmerkmale, die sie unterscheiden, sogar bis hin zur Augenfarbe eines Vogels. Dies erm\u00f6glicht ein tieferes Verst\u00e4ndnis, wie das System zu seinen Klassifizierungen gelangt, und verbessert die Vorhersagbarkeit seines Verhaltens, w\u00e4hrend das Modell gleichzeitig genau und zuverl\u00e4ssig bleibt.&nbsp;<\/p>\n\n\n\n<p><strong>Welches Problem l\u00f6sen Sie mit Ihrer Forschung?<\/strong>&nbsp;<\/p>\n\n\n\n<p>W\u00e4hrend existierende Methoden einzelne KI-Entscheidungen erkl\u00e4ren k\u00f6nnen, ist das Verst\u00e4ndnis der grundlegenden Funktionsweise und die Vorhersage des Verhaltens eines KI-Bilderkennungssystems eine Herausforderung. QPM geht dieses Problem an, indem es globale Erkl\u00e4rungen bietet, wodurch das Verhalten der KI vorhersagbarer wird und potenzielle Probleme vor dem Einsatz identifiziert und behoben werden k\u00f6nnen, was zu sichereren Anwendungen f\u00fchrt.&nbsp;<\/p>\n\n\n\n<p><strong>Was ist neu an Ihrer Forschung?<\/strong>&nbsp;<\/p>\n\n\n\n<p>QPM f\u00fchrt einen neuen Ansatz zur globalen Interpretierbarkeit in der KI-Bilderkennung ein. Es geht \u00fcber die Erkl\u00e4rung einzelner Entscheidungen hinaus und zeigt, wie verschiedene Bildkategorien durch die KI in Beziehung gesetzt und unterschieden werden, basierend auf einem pr\u00e4gnanten Satz gelernter Merkmale.&nbsp;<\/p>\n\n\n\n<p><strong>Welche potenziellen Auswirkungen haben Ihre Ergebnisse?<\/strong>&nbsp;<\/p>\n\n\n\n<p>Die potenziellen Auswirkungen umfassen erh\u00f6htes Vertrauen, verbesserte Sicherheit und erweiterte Anwendungen f\u00fcr die KI-Bilderkennung. Dar\u00fcber hinaus steht unsere Arbeit im Einklang mit neuen Vorschriften wie dem EU AI Act, der m\u00f6glicherweise mehr Transparenz in der KI vorschreibt. QPM eignet sich besonders gut f\u00fcr Probleme mit verwandten Kategorien, ein h\u00e4ufiges Szenario in vielen realen Anwendungen.\u00a0<\/p>\n\n\n\n<p><strong>Link zum Paper: <\/strong><a href=\"https:\/\/arxiv.org\/abs\/2502.20130\" target=\"_blank\" rel=\"noreferrer noopener\"><strong>arxiv.org\/abs\/2502.20130<\/strong><\/a>\u00a0<\/p>","protected":false},"excerpt":{"rendered":"<p>QPM verbessert die Erkl\u00e4rbarkeit und Vorhersagbarkeit von Modellen und erm\u00f6glicht eine sicherere und transparentere KI-Bilderkennung.<\/p>","protected":false},"author":11,"featured_media":39622,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[161],"tags":[],"class_list":["post-39615","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-best-publications"],"acf":[],"aioseo_notices":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/posts\/39615","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/comments?post=39615"}],"version-history":[{"count":1,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/posts\/39615\/revisions"}],"predecessor-version":[{"id":39617,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/posts\/39615\/revisions\/39617"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media\/39622"}],"wp:attachment":[{"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/media?parent=39615"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/categories?post=39615"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.l3s.de\/de\/wp-json\/wp\/v2\/tags?post=39615"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}