Qgelm

Exposing.AI: Projekt enthüllt Missbrauch von Flickr-Fotos für Gesichtserkennung

<html> <header class=„article-header“><h1 class=„articleheading“>Exposing.AI: Projekt enthüllt Missbrauch von Flickr-Fotos für Gesichtserkennung</h1><div class=„publish-info“> Stefan Krempl</div></header><figure class=„aufmacherbild“><img src=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/0/4/8/7/8/8/Exposing_AI-4cc3dd4618614eec.jpeg“ srcset=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/0/4/8/7/8/8/Exposing_AI-4cc3dd4618614eec.jpeg 700w, https://heise.cloudimg.io/width/1050/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/0/4/8/7/8/8/Exposing_AI-4cc3dd4618614eec.jpeg 1050w, https://heise.cloudimg.io/width/1500/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/0/4/8/7/8/8/Exposing_AI-4cc3dd4618614eec.jpeg 1500w, https://heise.cloudimg.io/width/1600/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/0/4/8/7/8/8/Exposing_AI-4cc3dd4618614eec.jpeg 1600w“ alt=„“ class=„img-responsive“ referrerpolicy=„no-referrer“ /><figcaption class=„akwa-caption“>(Bild: Exposing.AI (Screenshot))</figcaption></figure>Forscher haben eine Suchmaschine entwickelt, mit der sich prüfen lässt, ob Flickr-Bilder fürs Training von Gesichtserkennungs-Systemen zweckentfremdet wurden.Seit Jahren bauen Firmen und Wissenschaftler ihre Sets mit Trainingsdaten für Systeme zur biometrischen Gesichtserkennung häufig „wild“ ohne Einwilligung der Betroffenen auf. Adam Harvey und Jules LaPlace, die als Forscher und Künstler in Berlin leben, machen dieses Treiben in ethischen und rechtlichen Grauzonen nun zumindest etwas transparenter. Sie haben mit „Exposing.AI“ eine Suchmaschine entwickelt, mit der Nutzer prüfen können, ob ihre Flickr-Bilder für solche Zwecke missbraucht wurden.Das vor Kurzem <a href=„https://exposing.ai/“ rel=„external noopener“ target=„_blank“>online gegangene Projekt [1]</a> erlaubt eine Suche mit Flickr-Kennungen wie dem Benutzernamen, der von der Bilderplattform vergebenen NSID oder einer Foto-ID. Nur wenn eine exakte Übereinstimmung mit entsprechenden Daten in den einbezogenen Überwachungsdatenbanken gefunden wird, werden Ergebnisse angezeigt. Die Betreiber der Plattform speichern selbst keine Suchdaten und geben diese auch nicht weiter. Die angezeigten Fotos werden dann direkt von Flickr.com geladen, Kopien davon nicht aufbewahrt.Interessierte können auch nach Fotos von sich selbst suchen, die Dritte aufgenommen und auf Flickr gestellt haben, indem sie einen Hashtag verwenden. Denkbar ist dabei etwa an ein Kürzel für besuchte Veranstaltungen oder private Feiern wie „#mybirthdayparty“. Die Macher geben hier aber zu bedenken, dass diese Form der Suche etwas länger dauere: „Jedes Foto kann Dutzende von Tags enthalten, was zu Millionen weiterer Datensätze für die Suche führt.“<h3 class=„subheading“ id=„nav_hohes0“>Hohes Missbrauchs- und Schadenspotenzial</h3>„Die Menschen müssen erkennen, dass einige ihrer intimsten Momente zu Waffen gemacht wurden“, <a href=„https://www.nytimes.com/2021/01/31/technology/facial-recognition-photo-tool.html“ rel=„external noopener“ target=„_blank“>erläuterte Liz O'Sullivan [2]</a>, Technologie-Direktorin bei der Bürgerrechtsorganisation Surveillance Technology Oversight Project (STOP), die Initiative gegenüber der New York Times. Die Aktivistin hat am Design von Exposing.AI mitgearbeitet. Ursprünglich war ihr zufolge geplant, für die Suchmaschine ebenfalls automatisierte Gesichtserkennung einzusetzen. Davon habe das Team aber wieder Abstand genommen: Das Missbrauch- und Schadenspotenzial sei zu hoch gewesen.Harvey hatte jüngst auf einer Konferenz anhand von Erkenntnissen aus seinem <a href=„https://megapixels.cc/“ rel=„external noopener“ target=„_blank“>Vorläuferprojekt „Megapixels“ [3]</a> über das <a href=„https://www.heise.de/meldung/Datenforscherin-Kuenstliche-Intelligenz-ist-kaputt-4447500.html“>Vorgehen der Jäger nach Gesichtsaufnahmen berichtet [4]</a>, um die teils noch hohen Fehlerraten der Technik auszumerzen. Microsoft etwa habe sich für die Datenbank Celeb einfach bei Bildern von Promis sowie weniger bekannten Personen im Web bedient, die Duke University für das „Multi-Tracking-Register“ DukeMTMC Aufnahmen von Studenten mit Teleobjektiv von einem Fenster des Instituts aus gemacht. Für „Brainwash“ hätten die Verursacher sogar Bilddaten eines Video-Livestreams aus einem Café in San Francisco abgezweigt.Diese Datenbanken seien zwar <a href=„https://www.heise.de/meldung/Microsoft-schaltet-Datenbank-fuer-Gesichtserkennungs-Training-ab-4442919.html“>inzwischen größtenteils offiziell abgeschaltet worden [5]</a>, weiß der Künstler: „Aber man kann sie nicht wirklich aus dem Netz bekommen.“ So kursierten die Inhalte nach wie vor in „akademischen Torrents“ in Peer-to-Peer-Netzwerken „rund um die Welt“. Es sei erwiesen, dass Teile davon etwa von der chinesischen Armee übernommen und nun auch für die Unterdrückung der muslimischen Minderheit in der autonomen Region Xinjiang verwendet würden. <a href=„https://www.heise.de/meldung/Missing-Link-Nothing-to-Hide-oder-Wie-mit-Social-Scoring-die-Privatsphaere-abgeschafft-wird-4102845.html“>Beteiligte Firmen [6]</a> <a href=„https://www.heise.de/meldung/Ueberwachung-US-Regierung-setzt-chinesische-KI-und-IT-Firmen-auf-schwarze-Liste-4550618.html“>wie Megvii [7]</a> und Hochschulen müssten dafür haften, forderte der Aktivist.<h3 class=„subheading“ id=„nav_fotos_löschen_1“>Fotos löschen</h3>Neben <a href=„https://exposing.ai/datasets/“ rel=„external noopener“ target=„_blank“>den genannten Datensets [8]</a> ermöglicht das von der Gruppe „Künstliche Intelligenz und Medienphilosophie“ der Hochschule für Gestaltung Karlsruhe sowie dem Weizenbaum-Institut unterstützte Projekt eine Suche etwa auch in MegaFace mit über 3,5 Millionen Fotos, DiveFace mit über 115.000 Aufnahmen von Flickr, VGG Face, Pipa, IJB-C, FaceScrub, TownCentre, UCCS und Wildtrack. Obwohl Exposing.AI so Millionen von Datensätzen durchsucht, gibt es den Machern zufolge „unzählige weitere Trainingsdatensätze für Gesichtserkennung, die laufend aus sozialen Medien sowie Nachrichten- und Unterhaltungsseiten zusammengetragen werden“. Künftige Versionen des Projekts würden möglicherweise entsprechend erweitert.Ein nachträgliches Löschen von Bildern aus bereits kursierenden Kopien von Datensets sei nicht möglich, heißt es auf der Webseite. Für noch aktuell gepflegte Trainingsdatenbanken arbeite man an einer Funktion, um anhand der Suchergebnisse die Betreiber zum Entfernen eigener Aufnahmen auffordern zu können. Fotos, die man bei Flickr beseitige, tauchten im Anschluss auf Exposing.AI nicht mehr auf. () <hr />URL dieses Artikels:

https://www.heise.de/-5042252

Links in diesem Artikel:

<strong>[1]</strong>&#160;https://exposing.ai/

<strong>[2]</strong>&#160;https://www.nytimes.com/2021/01/31/technology/facial-recognition-photo-tool.html

<strong>[3]</strong>&#160;https://megapixels.cc/

<strong>[4]</strong>&#160;https://www.heise.de/meldung/Datenforscherin-Kuenstliche-Intelligenz-ist-kaputt-4447500.html

<strong>[5]</strong>&#160;https://www.heise.de/meldung/Microsoft-schaltet-Datenbank-fuer-Gesichtserkennungs-Training-ab-4442919.html

<strong>[6]</strong>&#160;https://www.heise.de/meldung/Missing-Link-Nothing-to-Hide-oder-Wie-mit-Social-Scoring-die-Privatsphaere-abgeschafft-wird-4102845.html

<strong>[7]</strong>&#160;https://www.heise.de/meldung/Ueberwachung-US-Regierung-setzt-chinesische-KI-und-IT-Firmen-auf-schwarze-Liste-4550618.html

<strong>[8]</strong>&#160;https://exposing.ai/datasets/

<strong>[9]</strong>&#160;mailto:olb@heise.de

Qgelm

Seiten-Werkzeuge

Webseiten-Werkzeuge

Benutzer-Werkzeuge

Exposing.AI: Projekt enthüllt Missbrauch von Flickr-Fotos für Gesichtserkennung