Qgelm

Ethik und Künstliche Intelligenz: ein neuer Umgang mit KI-Systemen

<html> <header class=„article-header“><h1 class=„articleheading“>Ethik und Künstliche Intelligenz: ein neuer Umgang mit KI-Systemen</h1><div class=„publish-info“> Isabel Bär</div></header><figure class=„aufmacherbild“><img src=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/1/1/2/1/4/3/shutterstock_1161966886-d9d2c906cf464dd5.jpeg“ srcset=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/1/1/2/1/4/3/shutterstock_1161966886-d9d2c906cf464dd5.jpeg 700w, https://heise.cloudimg.io/width/1050/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/1/1/2/1/4/3/shutterstock_1161966886-d9d2c906cf464dd5.jpeg 1050w, https://heise.cloudimg.io/width/1500/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/1/1/2/1/4/3/shutterstock_1161966886-d9d2c906cf464dd5.jpeg 1500w, https://heise.cloudimg.io/width/2300/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/1/1/2/1/4/3/shutterstock_1161966886-d9d2c906cf464dd5.jpeg 2300w“ alt=„“ class=„img-responsive“ referrerpolicy=„no-referrer“ /><figcaption class=„akwa-caption“>(Bild: Black Jack/Shutterstock.com)</figcaption></figure>Unregulierte KI-Systeme bergen gesellschaftliche Risiken. Doch wie könnten geeignete Regulierungsmaßnahmen aussehen? Ein Weg heißt Model Governance.Da KI sich den Weg in viele Anwendungsbereiche bahnt, ist es nun wichtig, dass KI-Systeme auf verantwortungsvolle, sichere und transparente Weise funktionieren. Die Risiken eines unregulierten Einsatzes von KI-Technologie diskutiert die im April 2021 veröffentlichte „Regulation on a European Approach for Artificial Intelligence“ auch auf EU-Ebene. Die Regulierung von KI-Systemen ist ein rechtliches, gesellschaftliches und technisches Thema, das ein breites Bewusstsein erfordert und in den nächsten Jahren weiter an Relevanz gewinnen wird. Der erste Teil dieser aus zwei Teilen bestehenden Artikelserie beschreibt die gesellschaftlichen Herausforderungen, die mit KI einhergehen. Der zweite Teil vertieft die technische Seite des Themas.<header class=„a-boxheader“ data-collapse-trigger=„“>Young Professionals schreiben für Young Professionals</header><div class=„a-boxtarget a-boxcontent a-inline-textboxcontent a-inline-textboxcontent–horizontal-layout“ data-collapse-target=„“><figure class=„a-inline-textboximage-container“><img alt=„“ src=„https://heise.cloudimg.io/width/4000/q50.png-lossy-50.webp-lossy-50.foil1/_www-heise-de_/imgs/71/2/8/9/8/5/2/3/shutterstock_1161966886-c893e738e55765fb.jpeg“ srcset=„https://heise.cloudimg.io/width/8000/q30.png-lossy-30.webp-lossy-30.foil1/_www-heise-de_/imgs/71/2/8/9/8/5/2/3/shutterstock_1161966886-c893e738e55765fb.jpeg 2x“ class=„c1“ referrerpolicy=„no-referrer“ /></figure><div class=„a-inline-textboxcontent-container“>Dieser Beitrag ist Teil einer Artikelserie, zu der heise Developer junge Entwickler:innen einlädt – um über aktuelle Trends, Entwicklungen und persönliche Erfahrungen zu informieren. Die Reihe „Young Professionals“ erscheint im monatlichen Rhythmus. [br] Bist du selbst ein „Young Professional“ und willst einen (ersten) Artikel schreiben? Schicke deinen Vorschlag an die Redaktion: developer@heise.de. Wir stehen dir beim Schreiben zur Seite.<ul class=„a-inline-textboxlist“><li class=„a-inline-textboxitem“><a class=„a-inline-textboxtext“ href=„https://www.heise.de/hintergrund/Alpine-js-Das-Schweizer-Taschenmesser-fuer-dynamische-Weboberflaechen-6177628.html“ title=„Alpine.js: Das Schweizer Taschenmesser für dynamische Weboberflächen“>Alpine.js: Das Schweizer Taschenmesser für dynamische Weboberflächen [1]</a></li><li class=„a-inline-textboxitem“><a class=„a-inline-textboxtext“ href=„https://www.heise.de/hintergrund/Developer-Experience-Glueckliche-Entwickler-schreiben-besseren-Code-6150890.html“ title=„Developer Experience: Glückliche Entwickler schreiben besseren Code“>Developer Experience: Glückliche Entwickler schreiben besseren Code [2]</a></li><li class=„a-inline-textboxitem“><a class=„a-inline-textboxtext“ href=„https://www.heise.de/hintergrund/Ethik-und-Kuenstliche-Intelligenz-ein-neuer-Umgang-mit-KI-Systemen-6056059.html“ title=„Ethik und Künstliche Intelligenz: Ein neuer Umgang mit KI-Systemen“>Ethik und Künstliche Intelligenz: Ein neuer Umgang mit KI-Systemen [3]</a></li><li class=„a-inline-textboxitem“><a class=„a-inline-textboxtext“ href=„https://www.heise.de/developer/young-professionals-6065678.html“ title=„Alle Beiträge der Serie finden sich in der Rubrik“>Alle Beiträge der Serie finden sich in der Rubrik „Young Professionals“ [4]</a></li></ul></div></div><h3 class=„subheading“ id=„nav_ki_modelle_sind0“>KI-Modelle sind nicht inhärent neutral</h3>Wenn man ehrlich über die Herausforderungen sprechen möchte, denen eine demokratische Gesellschaft gegenübersteht, kann man es sich nicht leisten, die Risiken unregulierter KI-Software zu ignorieren. Machine Learning beziehungsweise Künstliche Intelligenz mag eine technische Methode sein – die Probleme, die sich damit lösen lassen, müssen allerdings nicht technischer Natur sein.KI ist im Grunde die Anwendung von Algorithmen auf ein bestimmtes Problem. Um dieses zu lösen, werden sie mit Daten trainiert. Algorithmen gehören in den Bereich der Mathematik, die weithin als neutrale Instanz gilt. Lässt sich daraus ableiten, dass die Neutralität der Mathematik auch auf ihre Anwendung zutrifft? Nein, denn KI-Systeme und die ihnen zugrunde liegende Anwendung mathematischer Algorithmen sind nicht inhärent neutral. Es sind Menschen, die KI-Systemen die Daten bereit stellen, aus denen Algorithmen wiederum lernen. Damit sind es also Menschen, die in die Richtung weisen, in die sich KI verselbständigen soll, und der Mensch taugt nun mal nicht als objektiver Wegweiser.<h3 class=„subheading“ id=„nav_risiken1“>Risiken unregulierter KI-Bias in Gesichtserkennungssystemen</h3>2018 veröffentlichten die ghanaisch-amerikanische Informatikerin Joy Buolamwini und Timnit Gebru, eine ehemalige Ethical-AI-Forscherin bei Google, <a href=„http://gendershades.org/“ rel=„external noopener“ target=„_blank“>die Studie „Gender Shades“, in der sie die Gesichtserkennungssysteme von Microsoft, IBM und Megvii analysierten [5]</a>. Sie wies nach, dass die Gesichtserkennung bei der Identifizierung von Menschen dunklerer Hautfarbe weniger akkurat entscheidet als bei Menschen hellerer Hautfarbe. Unterschiede in der Genauigkeit des Algorithmus gab es auch zwischen Männern und Frauen: Alle getesteten Face-Recognition-Systeme funktionierten für Männer besser als für Frauen. IBM führte dabei den Negativrekord an: Das System hatte eine um rund 34 Prozent reduzierte Accuracy für dunkelhäutige Frauen als für hellhäutige Männer. Woraus resultierte der Bias?Damit Gesichtserkennungssysteme die gewünschte Leistung erbringen, muss die Verteilung der Bilder in den Trainingsdaten der Verteilung der Merkmale von Gesichtern entsprechen, die man in der realen Welt erwarten würde. Nur durch eine hohe Vielfältigkeit und breite Abdeckung der Trainingsdaten <a href=„https://www.ibm.com/blogs/research/2019/01/diversity-in-faces/“ rel=„external noopener“ target=„_blank“>kann ein Modell unterschiedliche Ausprägungen von Merkmalen lernen [6]</a>. Enthalten Trainingsdaten dagegen Verzerrungen, die soziale Ungleichheiten in den Trainingsdaten widerspiegeln, gehen diese Verzerrungen in die erstellten Modelle ein.Vor dem Hintergrund, dass <a href=„https://www.airportfacescans.com“ rel=„external noopener“ target=„_blank“>Gesichtserkennung in den USA an Flughäfen zur Überprüfung der Identität der Reisenden [7]</a> oder <a href=„https://www.perpetuallineup.org“ rel=„external noopener“ target=„_blank“>von der Polizei zur Strafverfolgung [8]</a> eingesetzt wird, entpuppten sich die Ergebnisse der Studie als Initialzündung für eine Bürgerrechtsbewegung, die Maßnahmen forderte, um dem Problem des algorithmischen Bias Rechnung zu tragen. Als Konsequenz aus dieser öffentlichen Empörung <a href=„https://www.technologyreview.com/2020/06/09/1002947/ibm-says-it-is-no-longer-working-on-face-recognition-because-its-used-for-racial-profiling/“ rel=„external noopener“ target=„_blank“>beschloss IBM, sein Gesichtserkennungssystem vorerst nicht mehr einzusetzen [9]</a>. Zusätzlich zum Rückzug ihres Systems ging IBM noch einen Schritt weiter und stellte „Diversity in Faces“ vor, einen Datensatz mit einer Million annotierter menschlicher Gesichter.Die Daten waren unter sorgfältiger Berücksichtigung wissenschaftlicher Gesichtskodierungsschemata generiert worden und zielten darauf ab, zu vielfältigen Datensätzen beizutragen, die schließlich zu einer ausgewogeneren und fairen algorithmischen Entscheidungslogik führen sollten. Es stellte sich jedoch heraus, dass die im Datensatz enthaltenen Fotos ohne Zustimmung der Nutzer von der Foto-Hosting-Seite Flickr übernommen worden waren. In dem Versuch, das Fairness-Problem zu kitten, tat sich das Problem der Privacy auf.<h3 class=„subheading“ id=„nav_sprachmodelle2“>Sprachmodelle gewinnen an Bedeutung</h3>Trainingsdaten spielen auch für Sprachmodelle eine zentrale Rolle. Language Models (LM) sind unüberwachte KI-Systeme, die <a href=„https://www.aclweb.org/anthology/2020.acl-main.463/“ rel=„external noopener“ target=„_blank“>für die Vorhersage der Wahrscheinlichkeit eines Tokens [10]</a> (Zeichen, Wort oder Zeichenkette) trainiert werden, <a href=„https://dl.acm.org/doi/10.1145/3442188.3445922“ rel=„external noopener“ target=„_blank“>wenn entweder der vorangehende Kontext oder der umgebende Kontext gegeben ist [11]</a>. Viele Menschen verwenden direkt oder indirekt große LM, auch wenn sie sich dessen vielleicht nicht bewusst sind. Ob Suchmaschinen, Textgenerierung oder Konversationstools – die Bedeutung von LM ist fest etabliert und wird im Alltag weiter an Bedeutung zunehmen. Um den Datenhunger der Sprachmodelle zu stillen, gilt es, große Datenmengen als Trainingsdaten aus dem gesamten Internet zu sammeln.Das Internet als Datenbezugsquelle birgt das Risiko, <a href=„https://faculty.washington.edu/ebender/papers/Stochastic_Parrots.pdf“ rel=„external noopener“ target=„_blank“>„hegemonische Weltansichten von den Trainingsdaten zu absorbieren“, wie ein Paper von der Universität Washington erklärt [12]</a>, und dem Algorithmus von Anfang an eine Sprache beizubringen, die von Bias geprägt ist. Daraus resultieren <a href=„https://www.aclweb.org/anthology/W19-3805/“ rel=„external noopener“ target=„_blank“>Modelle, die stereotypische und abwertende Assoziationen bezüglich Geschlecht, Rasse, Ethnie und Behinderungsstatus enthalten [13]</a>. Wenn diese Modelle ausgerollt werden, entweder als Teil eines Klassifizierungssystems oder als Spachgenerator, verstärkt sich dieser Bias in der Anwendung.Darüber hinaus beginnt mit dem Deployment des Modells ein neuer Kreislauf: Der von LM produzierte Text wird sich mit dem in ihm enthaltenen Bias weiterverbreiten und im Zuge dessen nicht nur Stereotype verstärken, sondern selbst wieder in Trainingsdaten für neue Modelle enthalten sein. Das Risiko eines subtilen Bias oder das einer von Language Models generierten offen beleidigenden Sprache wird für Menschen, gegen die es sich richtet, ein gravierendes Problem. Dazu gehört zum einen der individuelle psychologische Schaden, zum anderen hat das Thema mit der Verstärkung sexistischer, rassistischer und anderer Vorurteile eine gesamtgesellschaftliche Tragweite. Verstärkte Ideologien <a href=„https://faculty.washington.edu/ebender/papers/Stochastic_Parrots.pdf“ rel=„external noopener“ target=„_blank“>können im schlimmsten Fall zu Gewalt führen [14]</a>.<h3 class=„subheading“ id=„nav_notwendigkeit3“>Notwendigkeit von Regulierungen und geeigneten Frameworks</h3>Gender Shades und die möglichen Risiken großer Sprachmodelle führen vor Augen, wie schwierig es ist, vor der Bereitstellung der Software zu erkennen, ob und welches schädliche Potenzial einem System innewohnt. Entfaltet sich dieses Potenzial nach Bereitstellung, <a href=„https://dl.acm.org/doi/abs/10.1145/3351095.3372873“ rel=„external noopener“ target=„_blank“>ist das Auffinden der Fehlerquelle mitunter unmöglich und kann massive Konsequenzen haben [15]</a>. Selbstverständlich gibt es eine Vielzahl weiterer Anwendungsfälle von KI in einem breiten gesellschaftlichen Kontext. Beispielsweise kann KI eingesetzt werden, um <a href=„https://www.forbes.com/sites/parmyolson/2011/03/15/the-algorithm-that-beats-your-bank-manager/“ rel=„external noopener“ target=„_blank“>Kreditentscheidungen [16]</a> oder <a href=„https://www.nytimes.com/2015/06/26/upshot/can-an-algorithm-hire-better-than-a-human.html“ rel=„external noopener“ target=„_blank“>den Einstellungsprozess neuer Mitarbeiter zu unterstützen [17]</a>.Mit der zunehmenden Integration von KI in die Gesellschaft sind Chancenverlust, wirtschaftlicher Schaden und soziale Stigmatisierung die <a href=„http://gendershades.org/“ rel=„external noopener“ target=„_blank“>Hauptrisiken einer unethischen Anwendung von KI-Technologie [18]</a>. Es ist klar, dass Algorithmen selbst nicht zur Rechenschaft gezogen werden können – wohl aber Unternehmen, die KI-Software entwickeln. Um zu verhindern, dass deren Umgang mit ethischen Leitlinien lediglich eine Reaktion auf externen Druck wie drohenden Reputationsschäden darstellt, <a href=„https://sloanreview.mit.edu/article/putting-responsible-ai-into-practice/“ rel=„external noopener“ target=„_blank“>braucht es verbindliche gesetzliche Vorgaben zur Regulierung von KI-Software [19]</a> und eine Neujustierung der Unternehmens-Policy.<h3 class=„subheading“ id=„nav_ethical4“>Ethical Guidelines: „lauwarm, kurzsichtig und vorsätzlich vage“?</h3>Diese Notwendigkeit hat auch die EU erkannt. Im April 2021 erschien die „<a href=„https://drive.google.com/file/d/1ZaBPsfor_aHKNeeyXxk9uJfTru747EOn/view“ rel=„external noopener“ target=„_blank“>Regulation on a European Approach for Artificial Intelligence [20]</a>“ als erster Rechtsrahmen für KI, der die Risiken Künstlicher Intelligenz adressiert. Das Dokument erkennt an, dass der Einsatz biometrischer Identifikationssysteme „besondere Herausforderungen für den Schutz der Grundrechte und -freiheiten„ mit sich bringt. Außerdem hält das Dokument fest, dass „technische Ungenauigkeiten zu verzerrten Ergebnissen führen und diskriminierende Wirkungen nach sich ziehen“ (Sektion 70). Dies sei besonders bei Alter, ethnischer Zugehörigkeit, dem Geschlecht oder Behinderungen relevant.Auch die zentrale Bedeutung der Trainingsdaten für die Leistung des KI-Systems wird hervorgehoben (Sektion 45). Diese sollten „ausreichend relevant, repräsentativ, fehlerfrei und vollständig im Hinblick auf den beabsichtigen Zweck sein“, damit gewährleistet ist, dass Risiken für die Sicherheit und Grundrechte minimiert werden. Da dieser Rechtsrahmen nicht nur für in der EU ansässige Unternehmen und Einzelpersonen gelten soll, sondern auch für jedes Unternehmen, das KI-Leistungen innerhalb der EU anbietet, <a href=„https://fortune.com/2021/04/21/europe-artificial-intelligence-regulation-global-impact-google-facebook-ibm/“ rel=„external noopener“ target=„_blank“>hätte das Gesetz einen der DSGVO entsprechenden Geltungsbereich und würde weltweit auf die KI-Entwicklung Einfluss nehmen [21]</a>.Die Auseinandersetzung mit der Regulierung von KI-Software ist für die EU nicht neu. 2019 gab eine von der Europäischen Kommission beauftragte Expertengruppe Ethik-Leitlinien für die Entwicklung von KI-Software heraus. Die <a href=„https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai“ rel=„external noopener“ target=„_blank“>„Requirements for Trustworthy AI“ beschreiben die geforderten Hauptmerkmale von KI-Systemen [22]</a>, nach denen Künstliche Intelligenz rechtmäßig, ethisch und robust sein sollte. Aus diesen Eigenschaften wurden sieben präzise Schlüsselanforderungen abgeleitet: menschliches Handeln und Aufsicht (KI sollte den Menschen befähigen, informierte Entscheidungen zu treffen), technische Robustheit und Sicherheit, Datenschutz und Data Governance, Transparenz, Vielfältigkeit, gesellschaftliches und ökologisches Wohlbefinden sowie die Rechenschaftspflicht.Obwohl diese Leitlinien sicherlich ein Schritt in die richtige Richtung waren, gab es Kritik an ihrem Inhalt, <a href=„https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe“ rel=„external noopener“ target=„_blank“>den ein Mitglied der Expertengruppe als „lauwarm, kurzsichtig und vorsätzlich vage“ bezeichnete [23]</a>. Ohne eine praktische Anleitung zur tatsächlichen Umsetzung und Operationalisierung ethischer Prinzipien fehlt eine wichtige <a href=„https://link.springer.com/article/10.1007/s11023-020-09517-8“ rel=„external noopener“ target=„_blank“>Voraussetzung, um die Einhaltung eigener normativen Forderungen durchsetzen zu können [24]</a>. Ob die frisch veröffentlichte Regulierung genau das bewirken kann, bleibt zum Stand der Artikelveröffentlichung noch offen.<h3 class=„subheading“ id=„nav_model5“>Model Governance – eine neue Unternehmenspolitik zur Regulierung von KI-Software</h3>Klar ist es aber, dass das europäische Anziehen regulatorischer Zügel Unternehmen, die KI-Software entwickeln, rechenschaftspflichtig macht. Um dieser Rechenschaftspflicht nachzukommen, brauchen Firmen eine Unternehmens-Policy (Model Governance), die ein klares Framework zum Umgang mit KI-Software festlegt. Als “<a href=„https://committee.iso.org/sites/tc309/home/projects/ongoing/ongoing-1.html“ rel=„external noopener“ target=„_blank“>System, durch das die gesamte Organisation geleitet, kontrolliert und zur Rechenschaft gezogen wird [25]</a>„, macht Model Governance Unternehmen rechenschaftsfähig und mindert die Risiken, die der Einsatz von KI-Software birgt.Das Prinzip von Model Governance ist nicht neu: Es gibt etliche Bereiche mit einer Tradition überprüfbarer Prozesse und Kontrollmechanismen, die zwar nicht fehlerlos funktionieren, aber ohne die das Erreichen eines Sicherheitsstandards unmöglich wäre. Dazu gehören sicherheitskritische und regulierte Branchen wie die <a href=„https://dl.acm.org/doi/pdf/10.1145/3351095.3372873“ rel=„external noopener“ target=„_blank“>Medizin, aber auch Luft- und Raumfahrt oder das Finanzwesen [26]</a>.Im Bereich der KI muss Model Governance die Zugriffskontrolle sowie Prüfungs- und Validierungsprozesse definieren – diese Prüfungsprozesse sind wichtig, um zu überprüfen, ob KI-Systeme ethischen Anforderungen entsprechen. Rollen und Verantwortlichkeiten gilt es ebenso festzulegen wie standardisierte Änderungs- und Auditprotokolle, die jede Änderung von Daten, Modell oder Systemen protokollieren. Die Protokollierung schafft nicht nur Transparenz nach außen, sie erleichtert auch die Fehlerbehebung und hilft beim Erfüllen gesetzlicher und regulatorischer Anforderungen.Dazu gehören auch nachvollziehbare Modellergebnisse: Modelle sind dynamisch. Dennoch muss es möglich sein, jedes Modellergebnis der Modellversion zuzuordnen, die es erzeugt hat – das kann wichtig werden, wenn Nutzer beispielsweise gegen eine bestimmte algorithmische Entscheidung klagen. Die klare Festlegung von Rollen, Verfahren und Protokollen ermöglicht einen konsistenteren <a href=„https://www.datarobot.com/wiki/production-model-governance/“ rel=„external noopener“ target=„_blank“>Produktionsprozess, der für Unternehmen das betriebliche, regulatorische und rechtliche Risiko vermindert [27]</a>.Damit ist Model Governance die Basis, auf der zu regulierende Aspekte wie Ethik, Fairness und <a href=„http://ds-wordpress.haverford.edu/psych2015/projects/chapter/overgeneralization-of-results/“ rel=„external noopener“ target=„_blank“>Bias (übergeneralisierte Annahme über eine bestimmte Personengruppe) [28]</a>, Interpretierbarkeit und Erklärbarkeit sowie Robustheit und Sicherheit von KI-Systemen aufbauen. Diese <a href=„https://www.pwc.com/gx/en/issues/data-and-analytics/artificial-intelligence/what-is-responsible-ai/responsible-ai-practical-guide.pdf“ rel=„external noopener“ target=„_blank“>Kernaspekte werden unter dem Begriff Responsible AI zusammengefasst [29]</a>.<h3 class=„subheading“ id=„nav_mangel_an_best6“>Mangel an Best Practices und Neuheit des Feldes</h3>An dieser Stelle ist es wichtig anzumerken, dass Begriffe wie Model Governance oder Responsible AI bisher nicht konsensbasiert definiert sind, weil es sich hier um ein noch neues Feld ohne etablierte Frameworks oder Best Practices handelt. Zwar gibt es Einigkeit darüber, dass KI ethisch sein sollte. Was das aber konkret heißt, was ethische KI ausmacht und welche Anforderungen für ihre Umsetzung notwendig sind, ist noch fragmentiert.Das Neuheit des Feldes mag erst einmal überraschen: Schließlich hat KI im Bereich von Data Science in den letzten Jahren einen Hype erlebt. Während KI selbst keine neue Wissenschaft ist, sind aber <a href=„https://www.heise.de/news/KI-Regeln-EU-Abgeordnete-und-Forscher-fordern-Aus-fuer-Massenueberwachung-6018633.html“>die Anwendungen und ihre Marktdurchdringung noch nicht ausgereift [30]</a>. Es gibt also einen Unterschied zwischen der Entwicklung eines KI-Modells in einem lokalen Python-Programm oder Jupyter-Notebook und dem Deployment dieses Modells in eine Produktivumgebung. Hier liegt ein Problem: Nur etwa <a href=„https://venturebeat.com/2019/07/19/why-do-87-of-data-science-projects-never-make-it-into-production/“ rel=„external noopener“ target=„_blank“>13 Prozent aller Data-Science-Projekte werden erfolgreich in eine Produktivumgebung gebracht [31]</a>.<h3 class=„subheading“ id=„nav_ki_systeme_als7“>KI-Systeme als neue und fortlaufende Herausforderung</h3>Worin unterscheidet sich KI-Software von „klassischer“ Software ohneKI? Im Gegensatz zu klassischer Software mit Code als Hauptkomponente setzt sich KI-Software aus den Daten, dem Modell und dem Code zusammen. Diese drei Komponenten bedingen sich gegenseitig: Beispielsweise bewirkt eine Änderung der Daten eine Änderung des Modells (<a href=„https://papers.nips.cc/paper/2015/file/86df7dcfd896fcaf2674f757a2463eba-Paper.pdf“ rel=„external noopener“ target=„_blank“>Change-Anything-Change-Everything-Prinzip [32]</a>). Wird ein Modell nach dem Deployment in eine Produktivumgebung mit Daten konfrontiert, die sich stark von den Trainingsdaten unterscheiden, kann sich das Modell ändern.Potenzielle <a href=„https://venturebeat.com/2021/07/01/study-finds-that-few-major-ai-research-papers-consider-negative-impacts/“ rel=„external noopener“ target=„_blank“>Risiken von KI-Systemen können also über die Zeit entstehen [33]</a>. Aufgrund der Dynamik der Wechselbeziehung zwischen Daten, Modell und Code ist es unmöglich, diese Risiken vor dem Deployment präventiv zu unterbinden. Aus diesem Grund fordert die „Regulation on a European Approach for Artificial Intelligence“ ein besonderes Augenmerk auf KI-Systeme, die in der Produktivumgebung „weiterlernen“ und beschreibt die Notwendigkeit eines „Post-Market-Monitoring-System“ (Sektion 83). Dieses Monitoring-System sollte als Prüfungs- und Validierungsprozess im Model-Governance-Framework eingebettet sein.<h3 class=„subheading“ id=„nav_gibt_es_einen8“>Gibt es einen Konsens für ethische Prinzipien?</h3>Wenn es bisher schon an etablierten Praktiken zur langfristig erfolgreichen Entwicklung von KI-Software gemangelt hat, ist es nicht überraschend, dass diese auch bei der Umsetzung ethischer Richtlinien in KI-Systemen fehlen. Trotz des bislang nur schwach verbindlichen und allgemeingültigen Charakters der Richtlinien sind sie in Abwesenheit universaler Standards eine <a href=„https://dl.acm.org/doi/pdf/10.1145/3351095.3372873“ rel=„external noopener“ target=„_blank“>Orientierungshilfe, die bei der KI-Entwicklung als „Nordstern“ genutzt werden sollte [34]</a>. Gibt es hier einen mehrheitlich festgelegten Kurs?Eine <a href=„https://www.nature.com/articles/s42256-019-0088-2“ rel=„external noopener“ target=„_blank“>Studie der ETH Zürich (Eidgenössisch-Technische Hochschule), die in der Fachzeitschrift „Nature Machine Intelligence“ erschienen ist [35]</a>, geht dieser Frage nach und untersucht, ob ethische Prinzipien um wenige zentrale Konzepte konvergieren. Zu diesem Zweck wurden 84 ethische Richtlinien, die entweder private Unternehmen, der öffentlichen Sektor oder akademische Institutionen veröffentlicht hatten, untersucht und auf Ähnlichkeiten hin gescannt. Während kein ethisches Prinzip in allen 84 Publikationen auftauchte, fand die Arbeit Konvergenzen für Transparenz (87 %), Gerechtigkeit und Fairness (81 %), Nicht-Schädlichkeit (71 %), Verantwortung (71 %) und Datenschutz (56 %).<h3 class=„subheading“ id=„nav_responsible_ai9“>Responsible AI geht alle etwas an</h3>Neben der Notwendigkeit eines rechtlichen und unternehmensinternen Rahmens wird klar: Die Verantwortung ist nicht nur auf Entwickler beschränkt. Domänenwissen war schon immer ein Schlüssel für das Erstellen wertvoller Softwareprodukte. Das gilt besonders auch für KI-Software, für die neben Entwicklern und Domainexperten auch Rechts- und Compliance-Experten benötigt werden. Und schließlich braucht es eine Öffentlichkeit, die sich reflektiert mit dem Einsatz von KI auseinanderzusetzt.Daher richtet sich dieser Artikel an ein breites Publikum und versucht sich damit an einem Spagat zwischen verschiedenen Lesergruppen: Einerseits war eine nichttechnische, gesellschaftliche Einordung des Themas in diesem Artikel notwendig. Andererseits kommt man nicht ohne technische Grundlagen aus, wenn man verstehen möchte, wie KI-Systeme auf die Einhaltung ethischer Prinzipien geprüft werden und wie standardisierte Prüfprozesse innerhalb von Model Governance aussehen können. Letztlich zeigt aber gerade die Notwendigkeit dieses Spagats auf den engen Zusammenhang zwischen KI auf der einen und der Gesellschaft auf der anderen Seite hin. Im zweiten Teil wird es zur technischen Vertiefung um Definitionen von Fairness und Testtrategien gehen.<header class=„a-boxheader“ data-collapse-trigger=“„>Young Professionals schreiben für Young Professionals</header><div class=„a-boxtarget a-boxcontent a-inline-textboxcontent“ data-collapse-target=“„><figure class=„a-inline-textboximage-container“><img alt=“„ class=„float-center c1“ src=„https://heise.cloudimg.io/width/1600/q50.png-lossy-50.webp-lossy-50.foil1/_www-heise-de_/imgs/18/3/1/1/2/1/4/3/Heise-889fef1723a0a973.jpg“ srcset=„https://heise.cloudimg.io/width/3200/q30.png-lossy-30.webp-lossy-30.foil1/_www-heise-de_/imgs/18/3/1/1/2/1/4/3/Heise-889fef1723a0a973.jpg 2x“ referrerpolicy=„no-referrer“ /></figure><div class=„a-inline-textboxcontent-container“>Isabel Bärstudiert am <a href=„https://hpi.de/“ rel=„external noopener“ target=„_blank“>Hasso-Plattner-Institut [36]</a> im Masterstudiengang Data Engineering und ist <a href=„https://www.innoq.com/de/“ rel=„external noopener“ target=„_blank“>Werkstudentin bei INNOQ [37]</a>. Im Studium setzt sie sich mit der Erhebung, Verknüpfung und Analyse großer Datenmengen auseinander, in ihrer Tätigkeit als Werkstudentin liegt ihr Fokus auf Themen rund um den Einsatz von KI (Fairness, Interpretierbarkeit, Sicherheit und Datenschutz).</div></div>() <hr />URL dieses Artikels:

https://www.heise.de/-6056059

Links in diesem Artikel:

<strong>[1]</strong>&#160;https://www.heise.de/hintergrund/Alpine-js-Das-Schweizer-Taschenmesser-fuer-dynamische-Weboberflaechen-6177628.html

<strong>[2]</strong>&#160;https://www.heise.de/hintergrund/Developer-Experience-Glueckliche-Entwickler-schreiben-besseren-Code-6150890.html

<strong>[3]</strong>&#160;https://www.heise.de/hintergrund/Ethik-und-Kuenstliche-Intelligenz-ein-neuer-Umgang-mit-KI-Systemen-6056059.html

<strong>[4]</strong>&#160;https://www.heise.de/developer/young-professionals-6065678.html

<strong>[5]</strong>&#160;http://gendershades.org/

<strong>[6]</strong>&#160;https://www.ibm.com/blogs/research/2019/01/diversity-in-faces/

<strong>[7]</strong>&#160;https://www.airportfacescans.com

<strong>[8]</strong>&#160;https://www.perpetuallineup.org

<strong>[9]</strong>&#160;https://www.technologyreview.com/2020/06/09/1002947/ibm-says-it-is-no-longer-working-on-face-recognition-because-its-used-for-racial-profiling/

<strong>[10]</strong>&#160;https://www.aclweb.org/anthology/2020.acl-main.463/

<strong>[11]</strong>&#160;https://dl.acm.org/doi/10.1145/3442188.3445922

<strong>[12]</strong>&#160;https://faculty.washington.edu/ebender/papers/Stochastic_Parrots.pdf

<strong>[13]</strong>&#160;https://www.aclweb.org/anthology/W19-3805/

<strong>[14]</strong>&#160;https://faculty.washington.edu/ebender/papers/Stochastic_Parrots.pdf

<strong>[15]</strong>&#160;https://dl.acm.org/doi/abs/10.1145/3351095.3372873

<strong>[16]</strong>&#160;https://www.forbes.com/sites/parmyolson/2011/03/15/the-algorithm-that-beats-your-bank-manager/

<strong>[17]</strong>&#160;https://www.nytimes.com/2015/06/26/upshot/can-an-algorithm-hire-better-than-a-human.html

<strong>[18]</strong>&#160;http://gendershades.org/

<strong>[19]</strong>&#160;https://sloanreview.mit.edu/article/putting-responsible-ai-into-practice/

<strong>[20]</strong>&#160;https://drive.google.com/file/d/1ZaBPsfor_aHKNeeyXxk9uJfTru747EOn/view

<strong>[21]</strong>&#160;https://fortune.com/2021/04/21/europe-artificial-intelligence-regulation-global-impact-google-facebook-ibm/

<strong>[22]</strong>&#160;https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

<strong>[23]</strong>&#160;https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe

<strong>[24]</strong>&#160;https://link.springer.com/article/10.1007/s11023-020-09517-8

<strong>[25]</strong>&#160;https://committee.iso.org/sites/tc309/home/projects/ongoing/ongoing-1.html

<strong>[26]</strong>&#160;https://dl.acm.org/doi/pdf/10.1145/3351095.3372873

<strong>[27]</strong>&#160;https://www.datarobot.com/wiki/production-model-governance/

<strong>[28]</strong>&#160;http://ds-wordpress.haverford.edu/psych2015/projects/chapter/overgeneralization-of-results/

<strong>[29]</strong>&#160;https://www.pwc.com/gx/en/issues/data-and-analytics/artificial-intelligence/what-is-responsible-ai/responsible-ai-practical-guide.pdf

<strong>[30]</strong>&#160;https://www.heise.de/news/KI-Regeln-EU-Abgeordnete-und-Forscher-fordern-Aus-fuer-Massenueberwachung-6018633.html

<strong>[31]</strong>&#160;https://venturebeat.com/2019/07/19/why-do-87-of-data-science-projects-never-make-it-into-production/

<strong>[32]</strong>&#160;https://papers.nips.cc/paper/2015/file/86df7dcfd896fcaf2674f757a2463eba-Paper.pdf

<strong>[33]</strong>&#160;https://venturebeat.com/2021/07/01/study-finds-that-few-major-ai-research-papers-consider-negative-impacts/

<strong>[34]</strong>&#160;https://dl.acm.org/doi/pdf/10.1145/3351095.3372873

<strong>[35]</strong>&#160;https://www.nature.com/articles/s42256-019-0088-2

<strong>[36]</strong>&#160;https://hpi.de/

<strong>[37]</strong>&#160;https://www.innoq.com/de/

<strong>[38]</strong>&#160;mailto:sih@ix.de

Qgelm

Seiten-Werkzeuge

Webseiten-Werkzeuge

Benutzer-Werkzeuge

Ethik und Künstliche Intelligenz: ein neuer Umgang mit KI-Systemen