PimEyes: Eine polnische Firma schafft gerade unsere Anonymität ab
Wer auch immer an einem öffentlichen Ort Gesicht zeigt, könnte erkannt werden. (Symbolbild: netzpolitik.org mit Gesichtern von thispersondoesnotexist.com)
Dylan lächelt in die Kamera, Arm in Arm mit den anderen Gästen einer queeren Bootsparty. Hinter ihnen glitzern Gläser in den Regalen einer Bar. Vor acht Jahren lädt ein Partyfotograf diesen Schnappschuss im Internet hoch. Dylan hatte ihn schon vergessen – bis heute. Denn mit einer Rückwärts-Suchmaschine für Gesichter können alle dieses alte Partyfoto von Dylan finden. Dazu müssen sie nur sein Profilbild aus dem Karrierenetzwerk Xing hochladen, kostenlos und ohne Anmeldung. Dylan will sein privates und berufliches Leben aber getrennt halten: Tagsüber arbeitet er als Banker in Frankfurt am Main.
Der Name der Suchmaschine ist PimEyes. Sie analysiert massenhaft Gesichter im Internet nach individuellen Merkmalen und speichert die biometrischen Daten. Als Dylan die Suchmaschine mit seinem Profilbild testet, gleicht sie es mit der Datenbank ab und liefert als Ergebnis ähnliche Gesichter, zeigt ein Vorschaubild und die Domain, auf der das Bild gefunden wurde. Dylan wurde erkannt, obwohl er damals im Gegensatz zu heute noch nicht einmal einen Bart trug.
Unsere Recherchen zeigen: PimEyes ist ein umfassender Angriff auf die Anonymität und möglicherweise rechtswidrig. Ein Schnappschuss kann genügen, um mittels PimEyes eine fremde Person zu identifizieren. Die Suchmaschine liefert zwar nicht direkt den Namen einer gesuchten Person. Aber wenn sie übereinstimmende Gesichter findet, lassen sich durch die angezeigten Websites in vielen Fällen Namen, Beruf und vieles weitere herausfinden.
Wer auch immer an einem öffentlichen Ort Gesicht zeigt, könnte erkannt werden, ob auf einer Demo, vor dem Wahllokal oder im Nachtbus, als hätten wir unseren Namen auf der Stirn tätowiert. Im Juni berichtete unter anderem die BBC, PimEyes könne von Stalkern missbraucht werden. Die Suchmaschine kann aber auch Sexarbeiter:innen outen, sogenannte Rachepornos leichter zugänglich machen oder von der Polizei genutzt werden, um nachträglich Besucher:innen von Demos zu identifizieren.
Wie Clearview AI für alle
Der Fall erinnert an den Eklat um das US-amerikanische Start-up Clearview AI – mit dem Unterschied, dass PimEyes seine biometrische Suche nicht nur Behörden, sondern öffentlich anbietet. Gleichzeitig sprechen sich große Tech-Konzerne wie IBM öffentlich gegen Gesichtserkennung aus und stoppen Kooperationen mit der Polizei.
Wir haben Fachpolitiker:innen aus dem Bundestag die Fähigkeiten der Software anhand ihrer eigenen Fotos demonstriert. Sie erkennen in PimEyes ein enormes Missbrauchspotenzial. Instagram und YouTube, deren Inhalte auf PimEyes auftauchen, möchten als Konsequenz unserer Recherchen juristisch gegen PimEyes vorgehen. Datenschutzexpert:innen sehen in öffentlich verfügbaren, biometrischen Suchmaschinen wie PimEyes mögliche Verstöße gegen die europäische Datenschutz-Grundverordnung (DSGVO). PimEyes riskiert damit immense Strafzahlungen.
Dylan empfindet PimEyes als Gefahr. „Diese Suchmaschine kann Menschen outen“, sagt er. Er selbst sei zwar geoutet, auch in seinem Beruf als Banker. Aber er kenne viele homosexuelle Kolleg:innen, die das nicht sind. „Vor allem in meinem Berufszweig sind viele Menschen noch konservativen Werten verfallen“, sagt Dylan. „Ich kenne Menschen, die ein Doppelleben haben, in einer Hetero-Ehe leben, und heimlich in der LGBT-Community Schutz suchen.“ Er vermutet, auch von ihm könnte es Fotos geben, mit denen er nicht öffentlich auftreten möchte, etwa vom Christopher Street Day.
Auf Instagram und Twitter ist Dylan unter Pseudonym unterwegs, postet über den Kampf für LGBT-Rechte und Antirassismus. Berufliche Kontakte kennen seine Nutzernamen dort nicht, sagt er. Die Gesichtersuche könnte das ändern, gegen seinen Willen. PimEyes, so Dylan, könne bei Menschen viel Schaden anrichten. Er bittet uns, dass wir für den Artikel seinen Namen ändern.
Noch liefert die Suchmaschine nur zwei Ergebnisse zu Dylans Gesicht. Das könnten aber schnell mehr werden, denn die polnische Firma hinter PimEyes grast das Internet ständig weiter nach Fotos ab.
900 Millionen Gesichter, 1 Terabyte Fotos pro Tag
PimEyes warb mit mehr als 50 Millionen analysierten Websites (Bild: Screenshot netzpolitik.org)
In einem Post auf seiner inzwischen nicht mehr verfügbaren Facebook-Seite protzt PimEyes 2018 mit großen Zahlen: Täglich würden mehr als 1 Terabyte an Fotos analysiert, die Datenbank beinhalte die biometrischen Daten von über 100 Millionen Gesichtern. Und die Zahl wächst rasant: Ein Jahr später sollen es 500 Millionen analysierte Gesichter sein, heißt es in einem Dokument der Polnischen Agentur für Unternehmensentwicklung, im April 2020 seien es laut Website schon 900 Millionen Gesichter. Das entspräche mehr als der Bevölkerung Europas und Russlands zusammen.
Ein Angebot für Entwickler:innen macht sichtbar, von welchen Dimensionen die Betreiber offenbar träumen: Es gibt einen besonders großen Rabatt, wenn jemand 100 Millionen Gesichtersuchen pro Monat durchführen will.
Kurz nachdem wir uns bei PimEyes nach dem Facebook-Post mit den Zahlen erkundigt haben, ist der Post plötzlich offline. Je mehr wir PimEyes mit kritischen Fragen konfrontieren, desto mehr verstrickt sich die Firma in Widersprüche. Fragwürdige Passagen aus ihren Online-Angeboten werden während unserer Recherchen mehrfach verändert oder offline genommen.
PimEyes inszeniert sich als freundlicher Helfer
PimEyes-Suchergebnisse des Autors: Die Suchmaschine hat sogar YouTube-Thumbnails und einen auf Twitter veröffentlichten Schnappschuss erkannt (Bild: Screenshot netzpolitik.org)
Es ist kein Zufall, dass PimEyes deutlich mehr liefert als die Google-Bildersuche. Technologisch wäre eine biometrische Suche für Google kein Problem, das Hindernis sind wohl vor allem Gesetze zum Datenschutz. Auch Facebook hat bei der Erkennung von Nutzer:innen eine Geschichte gescheiterter Vorstöße hinter sich. Inzwischen ist die Funktion für Facebook-Nutzer:innen zwar verfügbar, aber standardmäßig ausgeschaltet.
In der DSGVO heißt es, die Verarbeitung von biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person ist untersagt. PimEyes argumentiert dagegen: Es gehe bei der Suchmaschine nicht um die Identifizierung einer Person. Nutzer:innen sollten dort allein ihr eigenes Gesicht hochladen.
So präsentiert sich PimEyes nicht als eine Bedrohung für die Privatsphäre, sondern als Helfer. „Lade dein Foto hoch und finde heraus, wo dein Gesicht im Internet erscheint“, heißt es auf der Startseite. „Fange an, deine Privatsphäre zu schützen“.
Aber diese Aufforderung ist neu. Prominent auf der Website aufgetaucht ist sie erst, nachdem wir dem Unternehmen einen umfangreichen Fragenkatalog geschickt haben. Unter anderem wollten wir wissen, was PimEyes gegen den möglichen Missbrauch seiner Technologie durch Stalker unternimmt. Die internationale Diskussion über das Missbrauchspotenzial von PimEyes begann durch einen Artikel des Blogs One Zero im Juni 2020.
Dieses Thema möchte das Unternehmen offenbar unter allen Umständen vermeiden. Und so gibt sich die Suchmaschine neuerdings ausdrücklich als Werkzeug zur digitalen Selbstverteidigung, etwa um Fake-Profile von sich selbst aufzuspüren.
Fotos von Meghan, Herzogin von Sussex
Nur das eigene Gesicht hochladen? (Bild: Screenshot netzpolitik.org)
Das Image von PimEyes bröckelt, sobald man näher hinschaut. Mag ja sein, dass Nutzer:innen dort nur ihr eigenes Bild hochladen sollen. Trotzdem existiert bereits die biometrische Datenbank mit nach eigenen Angaben mehreren Hundert Millionen analysierten Fotos. Und noch nicht einmal PimEyes scheint ernsthaft davon auszugehen, dass Besucher:innen nur nach ihrem eigenen Gesicht suchen. Denn die Betreiber haben ihre Nutzer:innen mehrfach dazu ermuntert, Bilder von Fremden hochzuladen.
Auf seiner Startseite schlug PimEyes bis vor Kurzem noch vor, mithilfe der Software nach Aufnahmen berühmter Menschen zu suchen. Ende Juni waren dort Fotos der Talkshow-Moderatorin Oprah Winfrey oder Meghan, Herzogin von Sussex, zu sehen.
Dass dies nun ein Problem sein könnte, scheint den Betreibern bewusst zu sein. Alte Spuren, die nicht zu der neuen Privatsphäre-freundlichen Erzählung passen, haben sie hastig verwischt. Verschwunden ist auch ein Werbeclip auf YouTube, der eine Suche nach Bildern von dem Schauspieler Johnny Depp zeigte.
„Früher war es möglich, mit PimEyes nach Gesichtern von Persönlichkeiten des öffentlichen Lebens zu suchen“, räumt das Unternehmen auf Nachfrage ein. In einer E-Mail beteuern die Betreiber, ihr Dienst dürfe nur noch genutzt werden, um Fotos des eigenen Gesichts hochzuladen.
Diese Entscheidung haben Łukasz Kowalczyk und Denis Tatina, die Menschen hinter PimEyes, offenbar sehr kurzfristig getroffen. Denn neben ihrer als Hobbyprojekt gestarteten Bildersuche betrieben die Absolventen der Technischen Universität Breslau einen weiteren Dienst namens Catfished. Die Website dazu rief förmlich zum Missbrauch der Technologie auf.
„Nutzen Sie die Macht von KI und Gesichtserkennung, um Freunde und Verwandte im Internet zu finden“, hieß es dort. Auch schlugen die Betreiber vor, Fotos von Profilen auf Dating-Plattformen durch die Suche zu jagen. „Verwenden Sie die Gesichtserkennung, um mehr über Ihren Schwarm herauszufinden!“ Deutlicher lassen sich Stalker kaum ansprechen.
25 Alarme für angeblich nur ein Gesicht
Heute geben Kowalczyk und Tatina an, bei Catfished handele es sich um ein „totes Projekt, nicht für EU-Länder entwickelt, weder jemals wirklich fertiggestellt noch veröffentlicht“. Dabei hatte Catfished eine Datenschutzerklärung, die das Unternehmen PimEyes als Administrator der Website führte und sich auf die DSGVO bezog, damit also sehr wohl Bezüge zur EU erkennen ließ.
Wie PimEyes war auch Catfished funktionsfähig, wir haben damit eine erfolgreiche Suche durchgeführt. Erkennbar war bei Catfished die klare Absicht, auch diese Software zu verbreiten. Erst nach einer Anfrage von netzpolitik.org verschwand die Website aus dem Netz. Diese und weitere Aufräumarbeiten können aber nicht über die Ungereimtheiten hinter PimEyes hinwegtäuschen.
Wer bei PimEyes etwa ein Premium-Abo abschließt, kann sich automatisch eine E-Mail schicken lassen, sobald die Software neue Übereinstimmungen mit einem hochgeladenen Gesicht entdeckt. Seltsamerweise können Premium-Kund:innen aber nicht nur einen Alarm für ihr eigenes Gesicht hinterlegen, sondern für bis zu 25 unterschiedliche Gesichter.
PimEyes begründet dies damit, dass sich die Treffergenauigkeit durch mehrere hochgeladene Fotos verbessere. „Eines vom Strand, eines mit Brille und so weiter“, schreibt uns das Unternehmen.
Spätestens der Blick in die Programmoberfläche entlarvt die Antwort der Firma als haltlos: Schon für einen einzelnen Alarm lassen sich nämlich mehrere Fotos hochladen, um die Treffergenauigkeit zu erhöhen. Die 24 weiteren Alarme wären für das eigene Gesicht demnach nutzlos.
Rabatt bei Massenabfragen
Womit verdient PimEyes sein Geld? Die gewöhnlichen Premium-Abos der Suchmaschine kosten zwischen 16 und 23 Euro monatlich. Premium-Kund:innen bekommen unter anderem Links zu den gefundenen Bilddateien angezeigt. Nach eigenen Angaben hat PimEyes derzeit nur etwa 350 Premium-Abonnent:innen. Das große Geld würden Kowalczyk und Tatina damit noch nicht machen.
PimEyes bewirbt aber eine weitere Funktion, die der Schlüssel zu hohen Einnahmen sein könnte. Zugleich weckt die Funktion massive Zweifel daran, dass es bei der Suchmaschine um den Schutz der eigenen Privatsphäre geht: Es ist ein Bezahlmodell für massenhafte Suchanfragen.
Kowalczyk und Tatina beteuern, dieses Angebot sei kaum gefragt. Allerdings lädt es förmlich zum geschäftsmäßigen Missbrauch der Technologie ein. Anstatt mühsam einzelne Fotos auf der Website von PimEyes hochzuladen, lassen sich mithilfe weniger Zeilen Programmcode Abertausende Abfragen bewältigen. Gleichzeitig können Entwickler:innen die Suchmaschine dadurch in eigene Anwendungen integrieren, über deren Einsatz PimEyes keinerlei Kontrolle mehr hat.
Was hat PimEyes vor? (Bild: Screenshot netzpolitik.org)
Das Unternehmen berechnet pro Suche über die Programmierschnittstelle zunächst rund einen Euro. Bei massenhaften Suchabfragen wird es deutlich billiger. Will jemand 100 Millionen Bilder im Monat abfragen, kostet eine einzelne Suche nicht mal mehr einen Cent. Doch welcher Mensch sucht 100 Millionen Mal pro Monat sein eigenes Gesicht?
Suchergebnisse von Pornoseiten
Selbst bei den auf der Website präsentierten Positiv-Bewertungen trügt der Schein. Drei Erfahrungsberichte angeblicher Nutzer:innen sollen illustrieren, wie hilfreich die Suchmaschine sei. „Dank PimEyes fand ich ein Profil auf einer Dating-Website, das vorgab, ich zu sein“, berichtet demnach eine Alister Richards. Sie schwärmt: „Werkzeuge wie dieses verbessern unseren Datenschutz im Netz.“
Neben dem Erfahrungsbericht ist ein Foto zu sehen. Sucht man aber mit PimEyes nach dem Foto der angeblichen PimEyes-Nutzerin, geschieht etwas Erstaunliches: Alister Richards taucht auch auf etlichen weiteren Websites auf, jedes Mal trägt sie einen anderen Namen und überschüttet ein anderes Online-Produkt mit Lob. Bei den übrigen Erfahrungsberichtenverhält es sich genauso. Alles Fake? Kowalczyk und Tatina bestätigen uns, dass die Fotos nicht echt sind. Aber die Zitate seien es. „Ihre Autor:innen wollten anonym bleiben.“
Dabei könnte vor allem PimEyes selbst die Anonymität gefährden. In der Suchmaschine tauchen sogar Fotos von Porno-Websites auf. In einem inzwischen gelöschten Werbeclip bewarb PimEyes die Suche auf „Adult sites“ als Premium-Feature, versuchte also offenkundig, damit Geld zu verdienen. Heute vermischen sich die Ergebnisse von Pornoseiten mit den anderen Suchergebnissen.
PimEyes ist eine Waffe für digitale Gewalt
Łukasz Kowalczyk und Denis Tatina nehmen damit in Kauf, dass Sexarbeiter:innen unfreiwillig geoutet werden. PimEyes ist zudem eine Bedrohung für Betroffene von Voyeurismus und sogenannten Rachepornos, also ohne Einverständnis erstellten oder verbreiteten Aufnahmen. Damit möchten Täter vor allem Frauen verletzen und herabwürdigen, indem sie die Aufnahmen möglichst vielen fremden Augen zugänglich machen. Die Suchmaschine spielt ihnen perfekt in die Hände.
Bei einer Bilderrückwärtssuche in einer anderen Suchmaschine findet Tom im August 2019 zufällig Nacktaufnahmen seiner Frau Nicole im Netz: 190 unterschiedliche Fotos, außerdem acht unerlaubt veröffentlichte Videos. Um den oder die Täter zu jagen, erstellt Tom eine Tabelle und sammelt rund 2.700 Links zu Fundorten der Aufnahmen. Das Online-Magazin VICE berichtete über den Fall, zum Schutz des Paares werden ihre Namen geändert.
„PimEyes ist die absolute Katastrophe“, sagt Tom heute im Gespräch mit netzpolitik.org. „Bei einer Testsuche auf PimEyes fand ich direkt 61 Suchergebnisse mit unerlaubt veröffentlichen Nacktaufnahmen meiner Frau.“
Mit dem Problem konfrontiert, schreibt PimEyes: „Unser Tool hilft dabei, Revenge Porn zu bekämpfen“. Tom überzeugt das nicht. „Was nutzt es, die Bilder zu finden, wenn man sie dann nicht vollständig aus dem Internet entfernen kann?“
Es ist ein Problem für sich, dass auch Pornoseiten problematische Aufnahmen nicht konsequent löschen. Doch auch PimEyes entfernt die Suchergebnisse nicht zuverlässig, selbst wenn Betroffene es verlangen. Für diesen Zweck bietet PimEyes zwar ein eigenes Meldeformular an. Aber als wir es ausprobieren, hat es keine Wirkung.
Im Juni fordern wir PimEyes auf diesem Weg auf, ein Foto des Autors aus den Suchergebnissen zu löschen, kurz darauf erhalten wir eine Bestätigungs-E-Mail. Gelöscht wurde aber nichts. Wir geben uns als Journalisten zu erkennen und fragen, warum das Suchergebnis noch immer sichtbar ist.. „Die Funktion arbeitet ordnungsgemäß und ist wohl erprobt“, antwortet PimEyes. „Uns liegen keine Beschwerden von Nutzer:innen vor.“
Tech-Konzerne wehren sich gegen PimEyes
Die netzpolitische Sprecherin der Linken im Bundestag, Anke Domscheit-Berg, bezeichnet PimEyes gegenüber netzpolitik.org als „hochgefährlich“. Frauen, die sich anonym im öffentlichen Raum bewegen möchten, könnten leichter identifiziert und Belästigungen ausgesetzt werden, sagt Domscheit-Berg.
„Die Vorstellung, dass jeder Creep in der U-Bahn mich über ein Handyfoto identifizieren und ohne große Hürden meinen Wohn- und Arbeitsort ausfindig machen kann, finde ich extrem beunruhigend.“ Auch Stalker und Pädophile könnten das Umfeld oder den Aufenthaltsort ihrer Opfer ausfindig machen.
Besonders mächtig wird eine Suchmaschine wie PimEyes erst, wenn sie auch Fotos aus sozialen Medien auswerten kann. Und tatsächlich: Auch Inhalte von Instagram, YouTube, TikTok, Twitter und vKontakte erscheinen bei PimEyes. Wir haben Screenshots dieser Suchergebnisse gemacht, mit direktem Link. Als wir die Firma darauf ansprechen, lautet die Antwort: „Wir scrapen keine Social-Media-Seiten“.
Wir haben die Instagram-Mutter Facebook um Stellungnahme gebeten. „Informationen von Menschen auf Instagram zu scrapen, ist eine klare Verletzung unseres Policy und ein Missbrauch unserer Plattform“, schreibt eine Sprecherin. Facebook habe unverzüglich alle Konten gesperrt, die mit PimEyes in Verbindung stehen, sowie die Gründer von Facebook und Instagram gebannt. „Wir haben eine Abmahnung mit Unterlassungsaufforderung verschickt, auf keine Daten, Bilder oder Fotos von unseren Diensten zuzugreifen.“
Auch YouTube spricht von einer Verletzung seiner Nutzungsbedingungen. „Dementsprechend werden wir eine Abmahnung an PimEyes verschicken“, sagt ein Sprecher. TikTok plane juristische Schritte, wie eine Sprecherin mitteilt; Twitter behalte sie sich vor. vKontakte hat unsere Fragen bislang nicht beantwortet.
PimEyes erinnert an den Eklat um Clearview
Ein möglicher Grund für die deutlichen Reaktionen: Einen ähnlichen Fall gab es bereits. Auch das Start-up Clearview AI hatte massenhaft Gesichter aus dem Internet für eine biometrische Datenbank analysiert. Aber Clearview AI war nicht für jeden Menschen offen im Netz verfügbar. Kunden der Firma waren nach Recherchen der Nachrichtenwebsite Buzzfeed News Firmen, Regierungen und Polizeibehörden. Anfang des Jahres hatten sich Google, Facebook und Twitter dagegen gewehrt.
Der breite Widerstand gegen Clearview AI wurde von Datenschützer:innen als wegweisend wahrgenommen und hätte PimEyes eine Warnung sein können. Biometrische Daten gelten als sensibel. Wer sie missbraucht, riskiert Bußgelder und muss Betroffenen womöglich sogar Schadensersatz zahlen.
Der Datenschutzbeauftragte Baden-Württembergs, Stefan Brink, sieht PimEyes besonders kritisch. Biometrische Daten gehören laut der DSGVO zu den sogenannten besonderen Kategorien personenbezogener Daten. „Das ist das Schutzwürdigste, was wir kennen“, sagt Brink. Ihm zufolge dürfte die Firma die biometrischen Daten allenfalls noch verarbeiten, wenn ihr die ausdrückliche Einwilligung der Betroffenen vorläge. Das bedeutet: Bei angeblich 900 Millionen Gesichtern in der Datenbank müsste PimEyes entsprechend 900 Millionen Einwilligungen besitzen.
Als wir Kowalczyk und Tatina mit dem Verdacht konfrontieren, gegen Gesetze zum Datenschutz zu verstoßen, argumentieren sie, die DSGVO verbiete die Verarbeitung biometrischer Daten lediglich zum Zweck der eindeutigen Identifizierung. Weil PimEyes den Gesichtern sinngemäß aber keine Namen zuordnet, sehen die beiden offenbar keinen Konflikt. Ihr Dienst, so die PimEyes-Betreiber, unterscheide sich hierbei nicht von anderen Suchmaschinen.
„Verstoß gegen das Recht am eigenen Bild“
Neuerdings müssen Nutzer:innen, bevor sie eine Suchanfrage stellen können, per Mausklick ein Häkchen setzen und bestätigen, dass sie wirklich nur ihr eigenes Gesicht hochladen. Vergessen sein soll die Zeit, als PimEyes noch vorschlug, mal eben Herzogin Meghan durch die Suchmaschine zu jagen.
PimEyes möchte die Verantwortung für den möglichen Missbrauch der Suchmaschine wohl auf die Nutzer:innen abwälzen. Ein pikanter Kurswechsel, der vielleicht nur zufällig direkt nach unserer Presseanfrage erfolgt.
Aber auch grundsätzlich rät die auf IT-Recht spezialisierte Anwältin Sabine Sobola entschieden davon ab, Fotos von Dritten bei PimEyes hochzuladen. „Liegt eine Zustimmung nicht vor, ist das ein Verstoß gegen das Recht am eigenen Bild“, sagt sie. „Hieraus ergeben sich Unterlassungs- und Schadensersatzansprüche, wenn der Abgebildete davon Kenntnis erlangen sollte.“ Das heißt: Wer ein Foto seiner Nachbarin bei PimEyes hochlädt, könnte theoretisch Probleme bekommen.
Das Risiko, erwischt zu werden, bleibt jedoch gering, einen Verstoß nachweisen könnten wohl höchstens Kowalczyk und Tatina selbst. Für 48 Stunden speichern sie die Fotos nach eigenen Angaben, dann wird mögliches Beweismaterial gelöscht, bis vor Kurzem geschah dies angeblich sofort.
PimEyes konnte 93 von 94 Bundestagsabgeordneten korrekt identifizieren
Für unsere Recherchen wollen wir herausfinden, ob es wirklich möglich ist, PimEyes im großen Stil zu benutzen. Wir schreiben deshalb eine Software für die von PimEyes angebotene Programmierschnittstelle. Und wir stellen fest: Wer bezahlt, kann mit PimEyes offenbar machen, was er will.
Für den Versuch brauchen wir zunächst eine Reihe an Testpersonen, wollen aber auf keinen Fall Privatfotos hochladen. Wir entscheiden uns deshalb für Bilder von Abgeordneten des Bundestags. An einem zufällig ausgewählten Tag erstellen wir aus dem Parlamentsfernsehen Screenshots von allen Abgeordneten am Rednerpult: insgesamt 94 Politiker:innen. Es handelt sich um keine perfekten Porträtfotos, in vielen Fällen ist das Gesicht nur schräg zu sehen. Damit die Suchmaschine es noch schwerer hat, schrumpfen wir die einzelnen Köpfe auf Briefmarkengröße.
Mithilfe der Programmierschnittstelle gleichen wir die 94 Gesichter der Politiker:innen mit der Datenbank von PimEyes ab. Unsere automatisierten Abfragen dauern keine fünf Minuten. Die Suchmaschine spuckt gut 2.500 Links zu Bilddateien aus. Bei der Mehrheit der Fotos will die Software eine mindestens 90-prozentige Ähnlichkeit erkannt haben. Und tatsächlich: In 93 Fällen hatte PimEyes weitere Fotos derselben Person aufgespürt. Nur in einem Fall waren alle Suchergebnisse falsch.
Statt nach 94 Bundestagsabgeordneten hätten wir PimEyes ebenso nach den Gesichtern von Hunderten oder Tausenden Menschen suchen lassen können. Und statt mit Aufnahmen aus dem Parlamentsfernsehen hätten wir den Dienst auch mit den Bildern von Überwachungskameras füttern können.
Es ist möglich, dass genau das bereits passiert. Denn auch Strafverfolgungsbehörden interessieren sich für Gesichtserkennung, und PimEyes ist in diesem Bereich schon früh ein Coup geglückt.
Überwachungstechnologie für den Staat
PimEyes ist seit 2018 in die Software Paliscope des schwedischen Unternehmens Safer Society Group integriert. Die Anwendung soll Ermittler:innen helfen, Daten aus unterschiedlichen Quellen zu kombinieren. Safer Society Group ist gut vernetzt, zu ihren Kund:innen zählt die europäische Polizeibehörde Europol.
Ein Unternehmenssprecher will nicht sagen, ob Strafverfolgungsbehörden innerhalb der EU oder sogar Deutschland Paliscope – und damit möglicherweise auch PimEyes – einsetzen. Auf konkrete Fragen geht er gar nicht erst ein, teilt aber mit: „Wir würden niemals mit einem Partner zusammenarbeiten, der das Gesetz bricht.“
PimEyes versuchte noch Anfang Juni öffentlich, Strafverfolgungsbehörden als neue Kundinnen zu gewinnen. Im FAQ auf der PimEyes-Website hieß es, Ermittler:innen könnten mit der Suchmaschine auch im sogenannten Darknet nach übereinstimmenden Gesichtern suchen. Aber zwei Tage, nachdem One Zero darüber berichtet hatte, verschwand diese Textpassage.
Kowalczyk und Tatina bestätigen uns, dass sie die Passage entfernt haben. Allerdings nur, weil Strafverfolgungsbehörden kein Interesse an PimEyes gezeigt hätten. Eine Erklärung, die vor allem deshalb erstaunt, weil die Betreiber seit mindestens vier Monaten im Hintergrund an einem eigenen Produkt für Strafverfolgungsbehörden arbeiten. Sie haben dafür offenbar sogar eine weitere Firma gegründet: Faceware AI.
Ein Briefkasten in den USA
Kowalczyk und Tatina zufolge steckt Faceware AI noch im Aufbau. Die beiden wollten kundenspezifische Software für Strafverfolgungsbehörden entwickeln und damit verschwundene Kinder finden, schreiben sie uns in einer E-Mail. Faceware AI habe jedoch nichts mit PimEyes zu tun.
Auf dem Karrierenetzwerk LinkedIn heißt es, Faceware AI entwerfe Software für Gesichtserkennung und Machine Learning. Technologien, die durchaus stark an das erinnern, was die Gründer über Jahre hinweg in Breslau unter dem Namen PimEyes ausgearbeitet haben.
Auf LinkedIn ist ein weiterer Mitarbeiter von Faceware AI aufgeführt, der seinem Profil nach zu urteilen wohl den Vertrieb des neuen Dienstes übernehmen soll, jenseits von Europa. Die Gründer geben an, Faceware AI habe seinen Hauptsitz im US-Bundesstaat Rhode Island. Im dortigen Handelsregister existiert jedoch keine Firma mit diesem Namen.
Anfang April, nur einen Tag, bevor Łukasz Kowalczyk und Denis Tatina die Internetdomain von Faceware AI registrierten, meldete allerdings jemand im Bundesstaat Delaware ein Unternehmen mit dem Namen Faceware Inc. an – mithilfe eines Dienstleisters, der den Geschäftsführern Anonymität gewährt. Delaware ist als Steueroase und Heimat zahlreicher Briefkastenfirmen bekannt. Wir haben Kowalczyk und Tatina mehrfach gefragt, ob es sich bei Faceware Inc. um ihre Firma handelt. Aber die PimEyes-Betreiber wollen sich dazu nicht äußern.
Gesichtserkennung durch die Polizei
Wenn Faceware AI eines Tages funktioniert, könnten sich viele Ermittlungsbehörden dafür interessieren. In den USA arbeiten zahlreiche Polizeibehörden bereits mit Amazon zusammen. Der Konzern bietet mit „Amazon Rekognition“ eine Software für Gesichtserkennung an. Bürgerrechtsorganisationen fordern ein Verbot der Software, unter anderem weil sie einen rassistischen Bias hat und dadurch insbesondere People of Color durch falsche Gesichtserkennung zu Unrecht in den Fokus der Ermittlungen rücken könnte. Kürzlich hat Amazon bekannt gegeben, der Polizei ein Jahr lang keinen Zugriff mehr auf „Rekognition“ zu geben.
Der Datenschutz mag in Europa strenger sein, Gesichtserkennung durch die Polizei gibt es aber längst auch in Deutschland. In der Polizeidatenbank INPOL beispielsweise sind rund 3,65 Millionen Menschen gespeichert, und die Anfragen an das Gesichtserkennungssystem des Bundeskriminalamts steigen stetig, wie das Bundesinnenministerium im April in seiner Antwort auf eine Kleine Anfrage mitteilte. Alleine 2019 nahmen Ermittler:innen dort demnach 54.000 Abfragen vor.
Mit deutschen Behörden dürfte PimEyes wohl nur zusammenarbeiten, wenn Kowalczyk und Tatina ihre Datenbank mit legalen Mitteln aufgebaut haben. „Eine solche Zusammenarbeit müsste eine eindeutige rechtliche Grundlage haben“, sagt Datenschützer Stefan Brink.
Verhaftet, weil man sich auf einer Demo blicken ließ
Brink warnt vor den Folgen, die der Einsatz einer Gesichtserkennung im großen Stil haben könne. „Was hier gemacht wird, hat das Potenzial, unsere Verhaltensweisen und Umgangsformen in der Gesellschaft zu verändern“, sagt er. „Das bedeutet ja nichts weniger, als dass wir die Anonymität verlieren, wenn wir uns im öffentlichen Raum bewegen, und dass wir im Prinzip jederzeit und an jeder Stelle identifizierbar werden können.“
Die Bundestagsabgeordnete Anke Domscheit-Berg sieht durch eine solche Suchmaschine die Meinungsfreiheit bedroht. „Geheimdienste und andere staatliche Stellen könnten Demonstrant:innen identifizieren und ihr Beziehungsumfeld ausforschen.“ Wenn Menschen das befürchten müssen, würden sie sich eher von Demonstrationen fernhalten.
Wie gefährlich PimEyes beim Einsatz gegen Demonstrant:innen sein könnte, wird deutlich, als wir bei der Suchmaschine ein Foto von Domscheit-Berg selbst hochladen. Es zeigt die Politikerin bei einer Demonstration, ausgerechnet gegen Massenüberwachung. Nach viereinhalb Sekunden zeigt die Software uns rund 60 Bilder an, auf denen sie Domscheit-Berg vermutet.
Dass Technologie zur Gesichtserkennung wirklich eingesetzt werden könnte, um Teilnehmer:innen von Demonstrationen zu ermitteln, machte vor drei Jahren die Hamburger Polizei vor. Im Zusammenhang mit den Protesten am Rande des G20-Gipfels sammelte sie großflächig Bild- und Videomaterial. Schließlich ließ eine Sonderkommission über mehr als 30.000 Aufnahmen eine entsprechende Software laufen, die nach Gesichtern suchte.
In Moskau ist Gesichtserkennung im Alltag schon Realität. In der russischen Hauptstadt, wo immer wieder Teilnehmende politischer Demonstrationen verhaftet werden, analysiert die Software einer Firma namens FindFace Aufnahmen von öffentlichen Überwachungskameras. „Moskau ist sicher mit FindFace“, lobt sich die Firma auf ihrer Website selbst.
Anfang dieses Jahres wurde bekannt, dass Innenminister Horst Seehofer mit dem neuen Bundespolizeigesetz sogar eine automatisierte Gesichtserkennung in öffentlichen Räumen einführen wollte. Nachdem der CSU-Politiker auf Gegenwehr stieß, zog er den Vorschlag zurück. Spätere Äußerungen vor allem aus Unionskreisen deuten aber darauf hin, dass eine Umsetzung womöglich nur aufgeschoben sein könnte.
Auch das Weißbuch zur KI-Strategie der EU-Kommission, in das politische Hoffnungen gesetzt worden waren, sieht keine gesonderte Regulierung von Technologien zur Gesichtserkennung vor. Ein Moratorium, um Zeit zur Risikobewertung zu gewinnen, verhängte die Kommission trotz anfänglicher Überlegungen nicht. Das setzt die Bundespolitik unter Druck, selbst zu reagieren.
Der digitalpolitische Sprecher der Union fordert Regulierung
Tankred Schipanski, der digitalpolitische Sprecher der Union im Bundestag, hält vor dem Hintergrund unserer Recherchen zu PimEyes eine Regulierung für notwendig. „Wenn dies auf Ebene der EU zeitnah nicht gelingen sollte, müssen wir hier als nationaler Gesetzgeber tätig werden“, sagt er gegenüber netzpolitik.org. Den gegenwärtigen Zustand bezeichnet Schipanski als unhaltbar.
„Das Missbrauchspotential einer solchen Anwendung ist enorm“, sagt Jens Zimmermann, digitalpolitischer Sprecher der SPD-Fraktion. Er fordert eine genaue Prüfung, ob die bestehenden gesetzlichen Regelungen einen ausreichenden Schutz bieten. „Wollen wir wirklich in einer Gesellschaft leben, in der Anonymität im öffentlichen Raum de facto nicht mehr möglich ist?“
Anke Domscheit-Berg ist noch einen Schritt weiter gegangen und hat sich infolge unserer Recherchen in ihrer Funktion als Bundestagsabgeordnete an den Bundesdatenschutzbeauftragten Ulrich Kelber gewandt. Sie sagt: „Wenn diese App keine Rechtsgrundlage hat, wie sie die DSGVO vorschreibt, müssen daher entsprechende Sanktionen verhängt und eine Verbreitung der App schnellstmöglich unterbunden werden.“
Über seinen Sprecher teilt Kelber mit, er werde nun die zuständige polnische Datenschutzaufsicht Urzad Ochrony Danych Osobowych (UODO) kontaktieren und dort weitere Informationen einholen.
Betroffene von Datenschutzverstößen haben Recht auf Schadensersatz
Eine Anfrage von netzpolitik.org ließ die UODO unbeantwortet. Damit bleibt zunächst unklar, ob die polnische Behörde überhaupt von PimEyes weiß. Stellt die Behörde fest, dass Kowalczyk und Tatina gegen die DSGVO verstoßen haben, droht den Gründern ein Bußgeld.
Als die UODO im vergangenen Jahr zum ersten Mal eine Strafe gegen ein Unternehmen verhängte, sollte dieses rund 220.000 Euro bezahlen. Damals ging es um nicht erfüllte Informationspflichten, betroffen waren etwa sechs Millionen Menschen. In der Datenbank von Kowalczyk und Tatina sollen 900 Millionen verschiedene Gesichter sein.
PimEyes mag seinen Sitz in Polen haben, die UODO für das Unternehmen zuständig sein. Betroffene in Deutschland, die gegen den Dienst vorgehen wollen, können sich aber an ihre jeweilige Landesbehörde für Datenschutz wenden. Diese müsste den Fall dann für sie weiterverfolgen.
Stefan Brink sieht bei der Suchmaschine einen, wie er sagt, klassischen Anwendungsfall für die Verletzung des Rechts am eigenen Bild. „Das schreit geradezu danach, das auch zivilrechtliche Schadensersatzforderungen geltend gemacht werden können.“
Die DSGVO sieht das bei Datenschutzverstößen für Betroffene vor.
Für Dylan, den Banker aus Frankfurt am Main, ist klar: Er will einfach nicht, dass sein Gesicht auf PimEyes zu finden ist. Bestimmt gebe es auch eine Menge Fotos von Fremden, auf denen er zufällig im Hintergrund zu sehen ist. „Die einzige Möglichkeit, sich vor einer solchen Suchmaschine zu schützen, wäre verschleiert herumzulaufen“, sagt er.
Auch Dylan hat das Meldeformular von PimEyes genutzt, damit die Firma sein Foto von der queeren Bootsparty aus den Suchergebnissen löscht. Wenig später kommt die Bestätigung per E-Mail.
Aber das angeblich gelöschte Motiv ist Tage später noch immer in der Suche zu finden.
Textlizenz: Creative Commons BY-NC-SA 4.0