Qgelm

Kommentar: Wes Geistes KI? Große Sprachmodelle und das Machtgefüge dahinter

<html> <header class=„article-header“><h1 class=„articleheading“>Kommentar: Wes Geistes KI? Große Sprachmodelle und das Machtgefüge dahinter</h1><div class=„publish-info“> Silke Hahn</div></header><figure class=„aufmacherbild“><img src=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/5/8/6/1/8/8/shutterstock_1080564179.jpg-627133ae2140216f.jpeg“ srcset=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/5/8/6/1/8/8/shutterstock_1080564179.jpg-627133ae2140216f.jpeg 700w, https://heise.cloudimg.io/width/1050/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/5/8/6/1/8/8/shutterstock_1080564179.jpg-627133ae2140216f.jpeg 1050w, https://heise.cloudimg.io/width/1500/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/5/8/6/1/8/8/shutterstock_1080564179.jpg-627133ae2140216f.jpeg 1500w, https://heise.cloudimg.io/width/2300/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/5/8/6/1/8/8/shutterstock_1080564179.jpg-627133ae2140216f.jpeg 2300w“ alt=„Viele Menschenhände strecken sich nach einer vom Himmer herabgestreckten Robotorhand“ class=„img-responsive“ referrerpolicy=„no-referrer“ /><figcaption class=„akwa-caption“>(Bild: Photobank gallery / Shutterstock.com)</figcaption></figure><p><strong>Große KI-Modelle enthalten Weltwissen, aber auch Hassrede und Anstößiges. Zensur findet statt: Mit welchen Folgen – und wer bestimmt, was KI (nicht) sagen darf?</strong></p><p>Als OpenAI im Sommer 2020 GPT-3 vorstellte, war die Welt vom Kontextverständnis beeindruckt: Es kann auf Knopfdruck sinnvolle Texte produzieren. Das Entwicklungsteam hatte ein komplexes neuronales Netz mit Unmengen an Text aus dem Internet, aus Büchern und Archiven trainiert.</p><h3 class=„subheading“ id=„nav_value_targeting0“>Value-Targeting: das Dilemma der Beeinflussung</h3><p>Neben Bewunderung erntete GPT-3 Kritik, da es aus dem Internet auch Fehlinformationen, Vorurteile und Extremismen aufgesogen hatte, was mitunter obskuren Output zur Folge hat. Große Sprachmodelle enthalten neben enzyklopädischem Weltwissen auch das Spektrum menschlicher Niederungen. Ein Gegensteuern muss offenbar sein – doch an der <a href=„https://openai.com/blog/instruction-following/“ rel=„external noopener“ target=„_blank“><strong>Art und Weise des wertegeleiteten Beeinflussens (Value-Targeting) [1]</strong></a> scheiden sich die Geister.</p><div class=„a-boxtarget a-boxcontent a-inline-textboxcontent a-inline-textboxcontent–horizontal-layout“ data-collapse-target=„“><figure class=„a-inline-textboximage-container“><img alt=„“ src=„https://heise.cloudimg.io/width/3000/q50.png-lossy-50.webp-lossy-50.foil1/_www-heise-de_/imgs/71/3/5/8/6/4/9/2/Silke_Hahn-ccdb0294567f9233.jpg“ srcset=„https://heise.cloudimg.io/width/6000/q30.png-lossy-30.webp-lossy-30.foil1/_www-heise-de_/imgs/71/3/5/8/6/4/9/2/Silke_Hahn-ccdb0294567f9233.jpg 2x“ class=„c1“ referrerpolicy=„no-referrer“ /><figcaption class=„a-caption a-caption–textbox“>Silke Hahn, Redakteurin bei Heise(Bild: <a href=„https://steffenkoerber.de/“ rel=„external noopener“ target=„_blank“><strong>Steffen Körber [2]</strong></a>)</figcaption></figure><div class=„a-inline-textboxcontent-container“><p class=„a-inline-textboxsynopsis“>Silke Hahn ist Redakteurin bei heise Developer und dem iX Magazin. Sie schreibt über Themen der Softwareentwicklung und interessiert sich für moderne Programmiersprachen wie Rust. Mit ihrem historischen Hintergrund (Silke studierte Alte Geschichte und tote Sprachen) schlägt sie eine Brücke zwischen Antike und Moderne. Künstliche Intelligenz hält sie für das wohl brisanteste Thema unserer Zeit und verfolgt die laufenden Debatten rund um generalisierende KI mit Aufmerksamkeit.</p></div></div><p>Ende 2021 hat OpenAI Programmierschnittstellen (API) zu GPT-3 kommerziell geöffnet, nun finden Kunden dahinter als Default eine mit menschlichem Input modifizierte Version: <a href=„https://www.heise.de/news/OpenAI-Feinjustierte-Version-von-GPT-3-soll-Nutzer-Anweisungen-besser-umsetzen-6343674.html“><strong>InstructGPT, das die bekannten Probleme adressieren und „folgsamer“ sein soll [3]</strong></a>. Der gezähmte Ableger sei nützlicher als die Vollversion, jubelt das Forschungsteam im eigenen Blog. Alignment, also das In-Einklang-Bringen von KI mit menschlichen Werten und Zielen, ist angesichts zunehmender Fähigkeiten der mächtiger werdenden Modelle notwendig.</p><h3 class=„subheading“ id=„nav_ki_knigge_mit1“>KI-Knigge mit übergriffigen Ausschlusskriterien</h3><p>Ein Knigge für die KI, damit die Unflätigkeiten des World Wild Web außen vor bleiben? Klingt erst mal gut. Einige der Ausschlusskriterien dürften kulturübergreifend unstrittig sein, doch in der Gesamtschau kommt man ins Grübeln. 40 Labeler haben als Testpersonen GPT-3 nachjustiert. Antworten zu kreativen Testaufgaben werteten sie nach Vorgaben auf oder ab: Faktische Fehler, Grobheiten im Kundendienst, schädliche Ratschläge, Verhetzung und Gewalt waren unten durch. Sexualität allgemein, aber auch Meinungen und Moralvorstellungen gelten als tabu.</p><p>Es sind vor allem <a href=„https://www.newscientist.com/article/2329690-ai-art-tool-dall-e-2-adds-black-or-female-to-some-image-prompts/“ rel=„external noopener“ target=„_blank“><strong>Werte der US-amerikanischen Westküste [4]</strong></a>, die GPT-3 hier eingepflanzt werden. Was dabei herauskommt, wenn man die dem Rest der Welt überstülpt: Facebook <a href=„https://www.heise.de/meldung/Proteste-gegen-Sperrung-von-Fotos-stillender-Muetter-auf-Facebook-192904.html“><strong>entfernte Fotos stillender Mütter [5]</strong></a>, die <a href=„https://www.heise.de/news/Satiremagazin-Titanic-App-im-Google-Play-Store-gesperrt-nach-Zensurforderung-5054933.html“><strong>App des Satiremagazins Titanic flog aus dem App-Store [6]</strong></a>, da ein Algorithmus sie als pornografisch eingestuft hatte, und der chinesische Anbieter <a href=„https://www.heise.de/meldung/Videoplattform-TikTok-blockiert-Inhalte-mit-Bezug-zu-Homosexualitaet-4542800.html“><strong>TikTok blockierte Inhalte mit Bezug zu Homosexualität und Nacktheit [7]</strong></a>.</p><h3 class=„subheading“ id=„nav_scheuklappen2“>Scheuklappen: Wieviel Wirklichkeit ist dem Menschen zumutbar?</h3><p>Solche Einschränkungen sind keineswegs harmlos. Der Fokus auf den kleinsten gemeinsamen Nenner ist zweifelhaft: Wer seine KI maximal anpasst, entfernt neben Profanität auch Minderheitsmeinungen, Inhalte und Kultur. Wer keine Meinung zulässt, lässt auch keine Gegenmeinung zu. Der Diskurs verarmt, und die Wirklichkeit wird nicht mehr wahrheitsgetreu dargestellt.</p><p>Oft sind die wesentlichen Erneuerungen in unserer Gesellschaft zu Beginn umstritten, grenzverletzend und tabu gewesen. Daher wäre es fahrlässig, dem Modell innewohnendes Weltwissen einzuebnen auf einen mittelmäßigen Output ohne Ecken, Kanten und Anstößiges. Wobei die Deutungshoheit in der Hand einiger Labeler läge, die irgendwann einmal im Westen der USA ihre Moralvorstellungen auf ein mächtiges KI-Modell übertrugen. Überlegen wir uns für wesentliche Zeiten der Vergangenheit: Welche Werte hätte eine solche Technologie damals aufgenommen und welche zensiert?</p><h3 class=„subheading“ id=„nav_fortschritt3“>Fortschritt braucht Reibung – auch Tabubrüche</h3><p>Das Beispiel, wie man einem Kind die Mondlandung altersgerecht erklärt, oder der Auftrag, ein lustiges Gedicht über einen klugen Frosch zu schreiben, wirken sympathisch. Hier stößt man sicher nicht an die Grenzen einer weichgespülten KI. Wäre das Weichgespülte aber sinnstiftend? Wäre es noch wahr? Wer Meinungen unterdrückt, unterdrückt Vielfalt. Ich jedenfalls möchte nicht in einer Welt leben, in der Silicon Valley allen Alltagsanwendungen, in denen KI steckt, seinen Stempel aufgedrückt hat.</p><p><em>Dieser Kommentar ist zuerst</em> <em>im März 2022</em> <em>als Editorial der iX 3/2022 erschienen. Die Welt hat sich weitergedreht, die Kerngedanken bleiben aktuell: So schuf moralisch-wertegetriebene Politik in den USA durch Abtreibungsverbote neue Tatsachen, und <a href=„https://www.heise.de/news/540-Milliarden-Parameter-Googles-KI-System-kann-Arithmetik-und-erkennt-Humor-6664503.html“><strong>im Bereich KI findet seit dem Frühjahr ein Space Race großer Anbieter statt [8]</strong></a>. D</em><em>ie Frage nach technologischer Souveränität in Europa drängt, meint die Autorin.</em></p><p>() </p><p><strong>URL dieses Artikels:</strong><small>

https://www.heise.de/-7201697

</small></p><p><strong>Links in diesem Artikel:</strong><small>

<strong>[1]</strong>&#160;https://openai.com/blog/instruction-following/

</small><small>

<strong>[2]</strong>&#160;https://steffenkoerber.de/

</small><small>

<strong>[3]</strong>&#160;https://www.heise.de/news/OpenAI-Feinjustierte-Version-von-GPT-3-soll-Nutzer-Anweisungen-besser-umsetzen-6343674.html

</small><small>

<strong>[4]</strong>&#160;https://www.newscientist.com/article/2329690-ai-art-tool-dall-e-2-adds-black-or-female-to-some-image-prompts/

</small><small>

<strong>[5]</strong>&#160;https://www.heise.de/meldung/Proteste-gegen-Sperrung-von-Fotos-stillender-Muetter-auf-Facebook-192904.html

</small><small>

<strong>[6]</strong>&#160;https://www.heise.de/news/Satiremagazin-Titanic-App-im-Google-Play-Store-gesperrt-nach-Zensurforderung-5054933.html

</small><small>

<strong>[7]</strong>&#160;https://www.heise.de/meldung/Videoplattform-TikTok-blockiert-Inhalte-mit-Bezug-zu-Homosexualitaet-4542800.html

</small><small>

<strong>[8]</strong>&#160;https://www.heise.de/news/540-Milliarden-Parameter-Googles-KI-System-kann-Arithmetik-und-erkennt-Humor-6664503.html

</small><small>

<strong>[9]</strong>&#160;mailto:sih@ix.de

Qgelm

Seiten-Werkzeuge

Webseiten-Werkzeuge

Benutzer-Werkzeuge

Kommentar: Wes Geistes KI? Große Sprachmodelle und das Machtgefüge dahinter