Diskussionen zwischen KI-Systemen sollen Entscheidungen nachvollziehbar machen
<html> <p class=„printversionback-to-article printversion–hide“><a href=„https://www.heise.de/newsticker/meldung/Diskussionen-zwischen-KI-Systemen-sollen-Entscheidungen-nachvollziehbar-machen-4052268.html“>zurück zum Artikel</a></p><figure class=„printversionlogo“><img src=„https://1.f.ix.de/icons/svg/logos/svg/heiseonline.svg“ alt=„heise online“ width=„180“ heigth=„40“/></figure><figure class=„aufmacherbild“><img src=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/4/2/8/0/2/8/Argumentative_AI_-_700-b338a83b4e8418c9.png“ alt=„Diskussionen zwischen KI-Systemen sollen Entscheidungen für Menschen nachvollziehbar machen“/><figcaption class=„akwa-caption“><p class=„caption akwa-captiontext“>Ist das wirklich ein Hund? KIs debattieren.</p> <p class=„source akwa-captionsource“>(Bild: OpenAI)</p> </figcaption></figure><p><strong>Viele Menschen treibt die Sorge um, die Schlussfolgerungen von KI-Systemen bald nicht mehr verstehen zu können. Forscher bei OpenAI schlagen deshalb vor, Computer in natürlicher Sprache darüber diskutieren zu lassen.</strong></p> <p>Forscher der Nonprofit-Organisation OpenAI haben ein Konzept vorgestellt, das dafür sorgen soll, dass Entscheidungen von hoch entwickelten künstlichen Intelligenzen für Menschen nachvollziehbar bleiben und ihren Werten entsprechen: Sie regen an, jeweils zwei KI-Systeme in natürlicher Sprache über ein bestimmtes Ziel diskutieren zu lassen. Menschen sollen diese Diskussion verfolgen und sich auf diese Weise eine Meinung darüber bilden können. Das berichtet <em>Technology Review</em> online in „<strong>Wenn Computer streiten[1]</strong>“.</p> <div class=„a-inline-textbox a-u-inline-right“> <h4>Lesen Sie dazu auch:</h4> <h4><strong>Virtuelle Schnitzeljagd soll KIs smarter machen[2]</strong></h4> <h4><strong>Schlaue Maschinen: Asiatische Weisheit[3]</strong></h4> <h4><strong>Wenn KI von Tieren lernt[4]</strong></h4> <h4><strong>Finde den Fehler[5]</strong></h4> </div> <p>Um KI-Programme miteinander diskutieren zu lassen, ist jedoch Technik erforderlich, die es heute noch nicht gibt. Bislang haben die OpenAI-Forscher die Idee nur mit ein paar extrem einfachen Beispielen untersucht. Bei einem davon sollten zwei KI-Systeme einen Beobachter von der Existenz eines verborgenen Zeichens überzeugen, indem sie schrittweise einzelne Pixel davon enthüllen. Auf einer <strong>Website[6]</strong> können zwei Menschen zur Demonstration die Rolle der streitenden KIs einnehmen, ein dritter tritt als der Richter auf.</p> <p>„Ich halte die Idee, über Diskussionen zu einer Orientierung an Werten zu kommen, für sehr interessant und potenziell nützlich“, sagt <strong>Ariel Procaccia[7]</strong>, der sich als Professor für Informatik an der Carnegie Mellon University mit Entscheidungsfindung bei autonomen Systemen beschäftigt. Allerdings merkt er an, dass die Arbeit noch sehr vorläufig ist. Möglicherweise enthalte das Konzept sogar einen grundlegenden Widerspruch: „Um Diskussionen über Werte so zu führen, dass ein menschlicher Richter sie verstehen kann, müssten die KI-Agenten erst einmal sehr genaues Wissen über menschliche Werte haben“, erklärt er. „Also könnte man finden, dass das Pferd bei diesem Ansatz von hinten aufgezäumt wird.“</p> <p><em>Mehr dazu bei Technology Review online:</em></p> <ul class=„rtelist rtelist–unordered“><li><strong>Wenn Computer streiten[8]</strong></li> </ul> (<strong>sma[9]</strong>)<br class=„clear“/><hr/><p><strong>URL dieses Artikels:</strong><br/><small>
http://www.heise.de/-4052268
</small></p> <p><strong>Links in diesem Artikel:</strong><br/><small>
<strong>[1]</strong> https://www.heise.de/tr/artikel/Wenn-Computer-streiten-4052254.html
</small><br/><small>
<strong>[2]</strong> https://www.heise.de/tr/artikel/Virtuelle-Schnitzeljagd-soll-KIs-smarter-machen-4038210.html
</small><br/><small>
<strong>[3]</strong> https://www.heise.de/tr/artikel/Schlaue-Maschinen-Asiatische-Weisheit-4038084.html
</small><br/><small>
<strong>[4]</strong> https://www.heise.de/tr/artikel/Wenn-KI-von-Tieren-lernt-4025890.html
</small><br/><small>
<strong>[5]</strong> https://www.heise.de/tr/artikel/Finde-den-Fehler-4022371.html
</small><br/><small>
<strong>[6]</strong> https://debate-game.openai.com/
</small><br/><small>
<strong>[7]</strong> http://procaccia.info/
</small><br/><small>
<strong>[8]</strong> https://www.heise.de/tr/artikel/Wenn-Computer-streiten-4052254.html
</small><br/><small>
<strong>[9]</strong> mailto:s.mattke@gmail.com
</small><br/></p> <p class=„printversion__copyright“><em>Copyright © 2018 Heise Medien</em></p> </html>
Falls nicht anders bezeichnet, ist der Inhalt dieses Wikis unter der folgenden Lizenz veröffentlicht: CC Attribution-Noncommercial-Share Alike 4.0 International