Kontroverse Gesichtserkennung
tarent Blog

Kontroverse Gesichtserkennung

21.02.2020 Posted 8 Monaten ago Dietrich Wettschereck

Das Thema Gesichtserkennung (engl: „Facial Recognition“) führt aktuell weltweit zu sehr kontroversen Diskussionen und ersten Gesetzgebungsverfahren. Nachfolgend habe ich eine Auswahl von Nachrichten der letzten Monate zusammengetragen, die meiner Meinung nach die Bandbreite dieser Kontroverse widerspiegeln:

1.Business Insider

A police department collected 65,000 face scans – but the systems hasn’t been connected to a single arrest – Das San Diego Police Department verwendet seit sieben Jahren Gesichtserkennung und hat dabei alleine in den letzten drei Jahren über 65.000 Fotos analysiert. Bisher konnte allerdings noch kein einziger Verdächtiger damit dingfest gemacht werden. Das Programm wurde inzwischen eingestellt, unter anderem auch weil es, wie im folgenden Punkt dargestellt, verboten wurde.

2. Security today

California Becomes Third State to Ban Facial Recognition Software in Police Body Cameras – Einzelne Städte wie San Francisco und Oakland haben Gesichtserkennung generell (für öffentliche Einrichtungen) verboten.

3. The New York Times

The Secretive Company That Might End Privacy as We Know it  – Das eher kleine Startup Clearview AI hat angeblich mehr als 3 Mrd Fotos von Personen von Facebook, YouTube und Millionen anderer Webseiten heruntergeladen und damit eine App gebaut, mit der man ein Foto einer Person hochladen kann, um dann die Referenzen zu allen öffentlich verfügbaren Fotos dieser Person zu bekommen. In den USA nutzen mehr als 600 „law enforcement agencies“ dieses Tool. Angeblich wurden damit bereits Fälle von Ladendiebstahl, Kreditkartenbetrug und Kindesmissbrauch gelöst. Ein ähnliches System basierend auf der Software FindFaceder Firma NtechLab ist wohl nun in Moskau in Betrieb genommen worden: Remember FindFace? The Russian Facial Recognition Company Just Turned On A Massive, Multimillion-Dollar Moscow Surveillance System – angeblich das fortschrittlichste solcher Systeme auf dem Planeten.

4. The Telegraph

Chinese businesswoman accused of jaywalking after AI camera spots her face on an advert – Das Gesicht der Dame war als Teil einer Werbeanzeige auf einem Bus abgebildet. Somit wurde sie zwar korrekt erkannt, aber eben nicht dabei erwischt, als sie bei Rot über die Ampel ging.

5. CNN Business

Facial recognition systems show rampant racial bias, government study finds – Letztlich versagen die aktuellen Systeme bei nahezu allen Minderheiten. Die chinesischen Systeme funktionieren daher vermutlich besonders gut für Han-Chinesen, die amerikanischen Systeme hingegen bei Personen weißer Hautfarbe. Generell werden Männer besser erkannt als Frauen, da sie eher im Fokus der Sicherheitsbehörden stehen und auch die Variationen bei Kleidung und Frisur geringer sind.

6. Netzpolitik.org

Innenministerium streicht automatisierte Gesichtserkennung – „An mehr als 100 Bahn- und Flughäfen wollte Horst Seehofer biometrische Videoüberwachung einsetzen. Nach erheblichem Widerstand hat er diesen Plan nun kassiert.“

7. Der Spiegel

Polizei verfügt über 5,8 Millionen GesichtsbilderDeutsche Behörden speichern zeitlich begrenzt „Informationen zu Inhaftierten sowie zu Menschen, die zur Fahndung ausgeschrieben oder einer erkennungsdienstlichen Behandlung unterzogen wurden. Zu einer Person können dort mehrere Bilder gespeichert werden. Die Zahl der Gesichtsbilder ist in dreieinhalb Jahren um rund eine Million Fotos gestiegen.“ Die deutschen Behörden haben somit maximal von einem einstelligen Prozentsatz der Bevölkerung Fotos gespeichert, während Clearview (siehe Punkt 3) mit seinen 3 Milliarden Fotos im Schnitt knapp 10 Fotos pro Bürger gesammelt haben will. In einem weiteren Artikel schreibt der Spiegel: Polizei findet schon jetzt Hunderte Täter per Gesichtserkennung. Nach einer Investition von 600.000 € konnte das LKA Bayern die Trefferrate kontinuierlich steigern. Im Januar 2020 wurden so z. B. bereits 55 Personen über Gesichtserkennung identifiziert.

 

Meine persönliche Interpretation dieser Nachrichten

Es gibt bereits viele kommerzielle Anwendungen für Gesichtserkennung. Zum Beispiel nutzt ein Fast Food Anbieter Gesichtserkennung nach Zustimmung der Kunden, um für diese beim nächsten Besuch eine ähnliche Bestellung vorzuschlagen. So wird der Bestellprozess beschleunigt, die Kunden können ihre Vorlieben (z. B. „keine Tomaten“) hinterlegen und müssen diese nicht jedes Mal wieder äußern. Dieser Vorgang ist vollkommen freiwillig und in seiner Tragweite begrenzt und sicher – solange man dem Unternehmen traut, sich auch wirklich nur auf diese Anwendung zu beschränken. Was ist aber mit den Anwendungen, wo der Kunde beim Gang durch das Einkaufszentrum erkannt wird und individualisierte Werbung auf die entsprechenden Monitore gespielt bekommt? Wollen die Kunden wirklich, dass andere Leute sehen, was sie für Vorlieben haben?

Der Nutzen dieser Systeme scheint insbesondere dann kaum belegt zu sein, wenn die zu erkennenden Personen kein Interesse daran haben, erkannt zu werden. Wenn man noch berücksichtigt, dass gerade bei Minderheiten diese Systeme sehr schlecht funktionieren, sind Bedenken doch angebracht. Jedoch brennen vor allem die Sicherheitsbehörden darauf, sie zu nutzen. Dem wirklich signifikanten Eingriff in die Privatsphäre steht somit kein belegter Nutzen für die Allgemeinheit gegenüber. Ganz zu schweigen von den nicht unerheblichen Kosten von Gesichtserkennungssystemen, die in diesem Falle der Steuerzahler tragen muss.

Zum Schluss kann ich nur empfehlen, dass jede(r) darauf achten sollte, welche Fotos von ihr / ihm öffentlich zugänglich sind. Es gibt bereits Apps, mit denen man Bilder so verfälschen kann, dass sie die gängigen Gesichtserkennungssysteme in die Irre führen, mit minimalen Unterschieden für das menschliche Auge. Allerdings bekomme ich dann doch wieder Bauchschmerzen, wenn ich mein Foto dazu auf einen mir unbekannten Server hochladen muss, um dann das bearbeitete Foto wieder herunterladen zu können.