wallabag:justizministerin_-automaten-knnen-objektiver-sein-als-menschen

Justizministerin: Automaten können objektiver sein als Menschen

<html> <a href=„https://www.heise.de/newsticker/meldung/Justizministerin-Automatisierte-Entscheidungen-koennen-objektiver-sein-als-menschliche-4374761.html“>zurück zum Artikel</a><figure class=„printversionlogo“><img src=„https://1.f.ix.de/icons/svg/logos/svg/heiseonline.svg“ alt=„heise online“ width=„180“ heigth=„40“/></figure><figure class=„aufmacherbild“><img src=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/6/4/7/1/8/0/bitkom-5d8e7699a6b6c41b.jpeg“ srcset=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/6/4/7/1/8/0/bitkom-5d8e7699a6b6c41b.jpeg 700w, https://heise.cloudimg.io/width/1033/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/6/4/7/1/8/0/bitkom-5d8e7699a6b6c41b.jpeg 1033w“ sizes=„(min-width: 80em) 43.75em, (min-width: 64em) 66.66vw, 100vw“ alt=„Justizministerin: Automatisierte Entscheidungen können objektiver sein als menschliche“ class=„img-responsive“/><figcaption class=„akwa-caption“>Katarina Barley (Bild: hub.berlin) </figcaption></figure>Justizministerin Katarina Barley hat sich für ein Prüfverfahren für Algorithmen und KI ausgesprochen. Pseudonymisierungssysteme müssten zuverlässiger werden. Ein hohes gesellschaftliches Potenzial misst Bundesjustizministerin Katarina Barley Systemen zur automatisierten Entscheidungsfindung bei. Algorithmen „können objektiver sein“ als vergleichbare menschliche Verfahren, erklärte die SPD-Spitzenkandidatin zur Europawahl am Mittwoch auf der Hub-Konferenz des IT-Branchenverbands Bitkom. Dies sei etwa im Bankensystem oder bei der Bewerberauswahl feststellbar. Bei letzterer etwa hätten Arbeitgeber viele Vorurteile: Schon die Hautfarbe oder Nachnamen könnten sich negativ auswirken. „Automated Decision-Making“ (ADM) sieht Barley so durchaus als „Chance“ für fairere Verfahren. Dafür müssten die Entwickler aber sicherstellen, dass die Programmierweise beziehungsweise die Trainingsdaten nicht selbst wieder Vorurteile in sich trügen, sonst drohe eine „unechte Objektivität“. Für <a href=„https://www.heise.de/meldung/Algorithmische-Entscheidungsfindung-Erster-deutscher-ADM-Atlas-zeigt-Diskriminierungspotenzial-4358576.html“>maschinelle Diskriminierungen gebe es schon zahlreiche Beispiele [1]</a>. Da die meisten IT-Spezialisten männlich seien, würden sie auch in automatischen Auswahlverfahren bevorzugt. Es sei auch vorgekommen, dass ADM-Systeme weiblichen Bewerbern weniger Gehalt angeboten hätten. <h3 class=„subheading“ id=„nav_grundrechtseingr0“>Grundrechtseingriffe, Verantwortung und Haftung</h3> Barley plädierte daher für <a href=„https://www.heise.de/meldung/Algorithmen-und-Scoring-Maas-fordert-digitales-Anti-Diskriminierungsgesetz-3761722.html“>Prüfverfahren für Algorithmen [2]</a> und vor allem für lernende Maschinen sowie andere Spielarten der Künstlichen Intelligenz (KI), die zumindest teilweise durch eine öffentliche Einrichtung kontrolliert werden sollten. Als wichtige Regel müsse gelten: Je größer der Grundrechtseingriff und die Auswirkungen eines Systems seien, desto höher müssten auch die Standards gesetzt werden. <div class=„inread“/> Wenn ein Algorithmus eine Prognose anstelle, ob jemand künftig ein Verbrechen begehen könnte, sei dies ganz anders zu bewerten als eine gezielte Anzeigenplatzierung. Zudem müssten die Verantwortlichkeiten geklärt sein, wobei Parallelen zur analogen Welt helfen könnten: Wenn ein Mitarbeiter einen Schaden verursache, hafte der Unternehmer dafür nur, wenn er etwa Fehler bei dessen Einstellung oder Kontrolle gemacht habe. <h3 class=„subheading“ id=„navquot_menschen1“>„Menschen sind nicht zu unterschätzen“</h3> Ihre frühere Einschätzung, dass es wohl keine globalen Regeln für KI-Systeme geben werde, revidierte Barley zum Teil wieder. Die Datenschutz-Grundverordnung (<a href=„https://www.heise.de/thema/DSGVO#liste“ rel=„external noopener“ target=„_blank“>DSGVO [3]</a>) zeige gerade, dass es doch möglich sei, von Europa aus Rahmenwerke mit internationaler Beachtung zu schaffen. Die Menschen seien nicht zu unterschätzen: Wenn sie wirklich Datenschutz einforderten, seien Übereinkünfte möglich in Gesellschaften, die auf Vertrauen und Kapital beruhen. Mit Blick auf China zeigte sich Barley aber skeptisch, da die Regierung in Peking zu sehr auf die Kontrolle der eigenen Bevölkerung aus sei und eine übergreifende Übereinkunft höchstens auf einer „oberflächlichen, offiziellen Basis“ unterstützen dürfte. In China drohten Möglichkeiten, selbstbestimmt zu leben, mit dem <a href=„https://www.heise.de/meldung/Chinas-Plan-fuer-Kuenstliche-Intelligenz-Orwell-live-erleben-4211515.html“>geplanten Social-Scoring-System [4]</a> weiter zu schwinden. () <hr/>URL dieses Artikels: <code>http://www.heise.de/-4374761</code> Links in diesem Artikel: <code>[1] https://www.heise.de/meldung/Algorithmische-Entscheidungsfindung-Erster-deutscher-ADM-Atlas-zeigt-Diskriminierungspotenzial-4358576.html</code> <code>[2] https://www.heise.de/meldung/Algorithmen-und-Scoring-Maas-fordert-digitales-Anti-Diskriminierungsgesetz-3761722.html</code> <code>[3] https://www.heise.de/thema/DSGVO#liste</code> <code>[4] https://www.heise.de/meldung/Chinas-Plan-fuer-Kuenstliche-Intelligenz-Orwell-live-erleben-4211515.html</code> <code>[5] mailto:anw@ct.de</code> Copyright © 2019 Heise Medien </html>