Transparente KI gibt Entscheidungswege preis
<html> <p class=„printversionmasterbild“><img src=„https://heise.cloudimg.io/bound/712x480/q60.png-lossy-60.webp-lossy-60.foil1/_www-heise-de_/imgs/18/4/3/2/9/6/4/9/ct2723erklarbar_126780_agr_jnac_online-7f14e3babbb12f3e.jpeg“ alt=„“ class=„img-responsive“ referrerpolicy=„no-referrer“ /></p><p><strong>Ein neues Verfahren entlockt leistungsfähigen KIs ihre Beurteilungskriterien. Mit verständlichen Denkkonzepten lassen sich Entscheidungen besser nachvollziehen.</strong></p><p>Wie schätzt eine künstliche Intelligenz das Alter einer Person auf einem Foto? Woran erkennt sie ein Rotkehlchen, ein Zebra oder in der dermatologischen Praxis Hautkrebssymptome? Gerade das medizinische Beispiel zeigt, wie wichtig es wäre, die Konzepte genau zu verstehen, die hinter einer KI-Entscheidung stecken. Doch die komplexen Modelle, die in automatisierten Machine-Learning-Prozessen entstehen und sich in Netzen aus Zigtausenden miteinander vernetzten Neuronen manifestieren, offenbaren ihre internen Prozesse nicht so einfach.</p><p>Eine Hilfe stellt bislang das LRP-Verfahren (Layer-wise Relevance Propagation). Mit dieser Methode lassen sich die Prozesse im neuronalen Netz zurückverfolgen, schichtweise von der Klassifikation am Ende bis zu den Eingangsdaten auf der Input-Ebene.</p><p>Bei einem Bilderkenner beispielsweise berechnet das LRP-Verfahren nach einer Entscheidung („es ist ein Zebra“) eine Heatmap. Die hebt genau die Bildpixel hervor, die sich im individuellen Fall am stärksten auf die getroffene Klassifikation auswirkten. In diesem Fall würde die Heatmap wahrscheinlich Bildbereiche hervorheben, die Streifen im Fell und den pferdeähnlichen Kopf des Tieres zeigen.</p><hr /><p><strong>URL dieses Artikels:</strong><br /><small><code>https://www.heise.de/-9355142</code></small></p><p><strong>Links in diesem Artikel:</strong><br /><small><code><strong>[1]</strong> https://www.heise.de/hintergrund/Transparenz-in-der-KI-Wie-Entscheidungen-verstaendlich-werden-9355142.html</code></small><br /><small><code><strong>[2]</strong> https://www.heise.de/ratgeber/Die-eigene-Sprach-KI-Mit-offenen-Sprachmodellen-experimentieren-9316405.html</code></small><br /><small><code><strong>[3]</strong> https://www.heise.de/ratgeber/Ohne-Cloud-Die-eigene-Sprach-KI-lokal-betreiben-9318689.html</code></small><br /><small><code><strong>[4]</strong> https://www.heise.de/ratgeber/Kuenstliche-Intelligenz-Wo-man-das-eigene-generative-Sprachmodell-betreiben-kann-9317415.html</code></small><br /><small><code><strong>[5]</strong> https://www.heise.de/ratgeber/Gruende-fuer-Fehler-in-KI-Sprachmodellen-Auswirkungen-auf-den-produktiven-Einsatz-9283340.html</code></small><br /><small><code><strong>[6]</strong> https://www.heise.de/ratgeber/KI-Wie-Benchmarks-die-Leistung-grosser-Sprachmodelle-messen-und-vergleichen-9288453.html</code></small><br /><small><code><strong>[7]</strong> https://www.heise.de/ratgeber/KI-Sprachmodelle-Tipps-und-Tools-fuer-den-produktiven-Einsatz-9287624.html</code></small><br /><small><code><strong>[8]</strong> https://www.heise.de/ratgeber/Interview-Das-knifflige-Benchmarking-grosser-Sprachmodelle-9248097.html</code></small><br /><small><code><strong>[9]</strong> https://www.heise.de/hintergrund/Neuling-in-der-Klasse-ChatGPT-und-Co-kommen-in-die-Schule-9237002.html</code></small><br /><small><code><strong>[10]</strong> https://www.heise.de/tests/Webdienste-zur-KI-gestuetzten-Erstellung-von-Praesentationen-im-Test-9231459.html</code></small><br /></p><p class=„printversioncopyright“><em>Copyright © 2023 Heise Medien</em></p> </html>
Falls nicht anders bezeichnet, ist der Inhalt dieses Wikis unter der folgenden Lizenz veröffentlicht: CC Attribution-Noncommercial-Share Alike 4.0 International