wallabag:eu-ratsspitze-warnt-vor-massenberwachung-durch-knstliche-intelligenz

EU-Ratsspitze warnt vor Massenüberwachung durch Künstliche Intelligenz

<html> <a href=„https://www.heise.de/newsticker/meldung/EU-Ratsspitze-warnt-vor-Massenueberwachung-durch-KI-4483753.html“>zurück zum Artikel</a><figure class=„printversionlogo“><img src=„https://1.f.ix.de/icons/svg/logos/svg/heiseonline.svg“ alt=„heise online“ width=„180“ heigth=„40“/></figure><figure class=„aufmacherbild“><img src=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/7/2/2/7/3/0/Ueberwachung2-07d48cd06baba2a2.jpeg“ srcset=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/7/2/2/7/3/0/Ueberwachung2-07d48cd06baba2a2.jpeg 700w, https://heise.cloudimg.io/width/1050/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/7/2/2/7/3/0/Ueberwachung2-07d48cd06baba2a2.jpeg 1050w, https://heise.cloudimg.io/width/1500/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/7/2/2/7/3/0/Ueberwachung2-07d48cd06baba2a2.jpeg 1500w, https://heise.cloudimg.io/width/1920/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/7/2/2/7/3/0/Ueberwachung2-07d48cd06baba2a2.jpeg 1920w“ sizes=„(min-width: 80em) 43.75em, (min-width: 64em) 66.66vw, 100vw“ alt=„Überwachung, Kamera“ class=„img-responsive“/></figure>Finnland malt beim Einsatz von KI in der Strafverfolgung düstere Szenarien aus, skizziert aber auch einen „digitalen Assistenten“ für die Polizei. Die seit Anfang Juli amtierende finnische Präsidentschaft des EU-Rates hat in einem Papier für ein informelles Treffen der Justiz- und Innenminister der Gemeinschaft Chancen und Risiken für den Einsatz von Künstlicher Intelligenz (KI) im Bereich Strafverfolgung ausgelotet. Sie macht sich darin etwa Sorgen, dass „die Massenüberwachung, die in einigen Teilen der Welt bereits existiert, eine schwerwiegende Bedrohung für die Privatsphäre darstellt“. Künftig könne diese Gefahr durch die digitale Schlüsseltechnik KI noch deutlich größer werden. Große und repräsentative Datensets seien zwar nötig für Forschungs- und Trainingsverfahren in diesem Bereich. Es werde voraussichtlich aber etwa bald möglich sein, sensible personenbezogene Informationen wie medizinische und psychologische Details aus Überwachungsdaten automatisch herauszuziehen und zu analysieren, schreiben die Finnen in dem von „Statewatch“ veröffentlichten <a href=„http://www.statewatch.org/news/2019/jul/eu-council-informal-JHA-AI-and-Law-Enforcement.pdf“ rel=„external noopener“ target=„_blank“>Beitrag [1]</a>. Biometrische Identifikationsmöglichkeiten <a href=„https://www.heise.de/meldung/Kameras-und-KI-US-Buergerrechtler-warnen-vor-Rundum-Ueberwachung-4448769.html“>beispielsweise per Gesichtserkennung [2]</a> könnten die Tür öffnen für „KI-gestützten Identitätsdiebstahl“, prognostizieren sie. Denkbar sei auch, dass autonome Miniaturdrohnen mit dieser Technik bestückt und für „Mordanschläge oder Spionage“ genutzt würden. <h3 class=„subheading“ id=„nav_gefahren_der0“>Gefahren der Digitalisierung</h3> Die Ratsspitze skizziert neben sozialen Herausforderungen etwa durch zunehmende, durch die Automatisierung bedingte Arbeitslosigkeit diverse direkte Sicherheitsbedrohungen durch Künstliche Intelligenz. „Botnetze und Maschinenlernen ermöglichen es feindlichen Akteuren, <a href=„https://www.heise.de/meldung/IT-Sicherheitskongress-BSI-warnt-vor-KI-als-Angriffswaffe-4427741.html“>massive und maßgeschneiderte Cyberangriffe [3]</a> auszuführen und Operationen ohne signifikante Ressourcen, ausgefeilte Fähigkeiten oder eine große Anzahl an Gefolgsleuten zu beeinflussen“, heißt es in dem Dokument. Nutzer sozialer Netzwerke könnten einfach und massenhaft durchleuchtet werden, was derlei Kampagnen noch schlagkräftiger mache. Gefälschte Fotos, Audiosequenzen oder Videos seien bereits sehr einfach zu produzieren. Daraus entstehende „<a href=„https://www.heise.de/meldung/Deep-Fakes-erkennen-anhand-von-charakteristischen-Kopfbewegungen-4457224.html“>Deep Fakes [4]</a>“ und anderes künstlich erstelltes, aber realitätsgetreu wirkendes digitales Material untergraben laut der finnischen Regierung das Vertrauen in Beweise. Dies könnte sich gerade für Polizei und Justiz als „extrem schädlich“ erweisen, sodass die Entwicklung von Instrumenten zum Aufspüren gefälschter Medieninhalte Priorität genießen sollte. Zudem müssten Mindestsicherheitsstandards für Produkte mit KI und Roboter eingeführt werden, die militärisch sowie zivil genutzt werden. Für gewisse Kategorien solcher Techniken sollte zumindest eine Registrierung vorgeschrieben werden. <h3 class=„subheading“ id=„nav_bann_für1“>Bann für Killer-Roboter</h3> Auch einen Bann tödlicher autonomer Waffensysteme bringen die Finnen ins Spiel. Generell gibt ihnen zu bedenken, dass eine „von KI durchdrungene Gesellschaft“ zu komplex und intransparent werden könnte, um sie überhaupt noch zu verstehen. Voreingenommenheit in den Trainingsdaten wirke sich vielfach auf automatisiert gefällte Entscheidungen selbst aus. Nötig seien daher eine Ethikprüfung sowie klare Richtlinien für den Einsatz von KI-Technologien bei der Polizeiarbeit. <div class=„inread“/> Künstliche Intelligenz sieht die Präsidentschaft aber auch als Mittel gegen die wachsende „Informationsüberlastung“ von Ermittlern im <a href=„https://www.heise.de/ct/artikel/EU-Innenpolitiker-ruesten-sich-fuer-den-digitalen-Tsunami-301452.html“>ständig anschwellenden „Daten-Tsunami“ [5]</a>. Ein an den jeweiligen Nutzer angepasster „digitaler Assistenz“ könnte ihr zufolge nicht nur intelligente Suchfunktionen ausführen, sondern auch Anweisungen über eine Schnittstelle für natürliche Sprache entgegennehmen und diese an verschiedene Anwendungen weitergeben. Die gleiche Technologie bringen die Autoren ins Spiel für „Kundendienst-Bots“ bei Strafverfolgungsbehörden, die Fragen von Bürgern beantworten. Selbst Polizeistreifen könne ein solcher digitaler Helfer in so manchem Einsatz den Rücken freihalten, meinen sie. Parallel müsse aber auch hier sichergestellt sein, dass derlei Systeme für die Nutzer transparent bleiben. Auf das sonst oft beackerte Feld der „vorausschauenden Polizeiarbeit“ durch „<a href=„https://www.heise.de/meldung/Missing-Link-Predictive-Policing-die-Kunst-Verbrechen-vorherzusagen-4425204.html“>Predictive Policing [6]</a>“ gehen die Verfasser nicht ein. () <hr/>URL dieses Artikels:

http://www.heise.de/-4483753

Links in diesem Artikel:

<strong>[1]</strong>&#160;http://www.statewatch.org/news/2019/jul/eu-council-informal-JHA-AI-and-Law-Enforcement.pdf

<strong>[2]</strong>&#160;https://www.heise.de/meldung/Kameras-und-KI-US-Buergerrechtler-warnen-vor-Rundum-Ueberwachung-4448769.html

<strong>[3]</strong>&#160;https://www.heise.de/meldung/IT-Sicherheitskongress-BSI-warnt-vor-KI-als-Angriffswaffe-4427741.html

<strong>[4]</strong>&#160;https://www.heise.de/meldung/Deep-Fakes-erkennen-anhand-von-charakteristischen-Kopfbewegungen-4457224.html

<strong>[5]</strong>&#160;https://www.heise.de/ct/artikel/EU-Innenpolitiker-ruesten-sich-fuer-den-digitalen-Tsunami-301452.html

<strong>[6]</strong>&#160;https://www.heise.de/meldung/Missing-Link-Predictive-Policing-die-Kunst-Verbrechen-vorherzusagen-4425204.html

<strong>[7]</strong>&#160;mailto:jk@ct.de