San Francisco steht kurz vor einem Verbot von Gesichtserkennungssoftware. Der Stadtrat hat der Gesetzesvorlage bereits zugestimmt, der Rest gilt als Formalie. Nach Abstimmungen der finalen Details muss Bürgermeisterin London Breed das Gesetz noch ratifizieren, wie ihr Pressesprecher dem SPIEGEL mitteilte. 30 Tage später tritt es in Kraft.

Für Bürgerrechtler ist das ein Riesenerfolg. In den USA kämpfen zahlreiche Initiativen seit Jahren gegen Gesichtserkennungssoftware, die in vielen Polizeieinheiten im ganzen Land im Einsatz ist - und mit der auch die deutsche Polizei experimentiert. Mehrere Städte und Regionen der Bay Area wie Berkeley oder Santa Clara County, hatten sich bereits zuvor für eine stärkere Regulierung von Überwachungstechnologien eingesetzt. Sie versuchen, den Kauf und Einsatz der Technologie durch die Polizei mit Richtlinien und öffentlichen Zulassungsverfahren zu kontrollieren.

"In San Francisco haben sie zugesehen, was passiert, und dann entschieden, einen Schritt weiterzugehen", sagt Dave Maass von der Electronic Frontier Foundation (EFF) dem SPIEGEL - mit einem Gesichtserkennungs-Bann, der weitere Transparenz-Maßnahmen für Überwachungstechnologien ergänzt. "San Francisco hat den Ruf, bei Technologie weit vorn zu sein, und die Erfahrungen und Bedenken hat die Stadt genutzt, um Gesichtserkennung einen Schritt voraus zu sein", so Maass. "Normalerweise hinkt die Gesetzgebung Tech-Trends um Jahre hinterher, in diesem Fall haben sie die Bedrohung erkannt."

San Francisco als Wegweiser

Auch in Oakland, einer Stadt am östlichen Ufer der Bucht von San Francisco, ist derzeit ein Gesichtserkennungs-Bann auf dem Weg - und es sieht so aus, als ob weitere amerikanische Städte nachziehen.

"Somerville, Massachusetts, erwägt derzeit ein Verbot des Einsatzes von Gesichtsüberwachungstechnologie durch die dortige Regierung, das von einer großen Mehrheit der Stadträte und dem Bürgermeister  unterstützt wird", sagt Kade Crockford vom "Technology for Liberty Program" der American Civil Liberties Union (ACLU) in Massachusetts. "Wir erwarten, dass das Verbot dort durchgesetzt wird und dass weitere Gemeinden in Massachusetts folgen werden."

Ein weiterer Gesetzesantrag fordert zudem ein Moratorium für Gesichtserkennung  und ähnliche Technologien für den gesamten Bundesstaat: Solange keine gesetzliche Regulierung existiert, soll Behörden in Massachusetts und deren Dienstleistern untersagt werden, Gesichtserkennung und andere biometrische Verfahren einzusetzen.

Es kann allerdings dauern, bis die Auszeit in Massachusetts durchgesetzt wird: "Wir haben eine zweijährige Legislaturperiode, die im Januar begonnen hat", sagt Crockford. Bisher seien noch keine Anhörungstermine für die Diskussion des Moratoriums festgelegt worden. Möglicherweise könnten diese aber im Herbst stattfinden.

Kalifornien diskutiert derzeit über ein Gesetz, das Gesichtserkennung in Polizei-Bodycams  verbieten würde. Der Gesetzentwurf liegt im Senat. "Wir sind sehr optimistisch", sagt EFF-Forscher Dave Maass. "Es gibt gerade sehr viel Schwung und erstmalige politische Entscheidungsträger verstehen wirklich die Auswirkungen dieser Technologie."

Maass führt den wachsenden Widerstand auch darauf zurück, dass die Möglichkeiten der Technologie, aber auch deren Ausbreitung - etwa durch die Integration in Polizei-Bodycams - immer weiter zunehmen. "Früher gab es einen Verdächtigen, dessen Foto man dann mit der Mugshot-Datenbank abgleichen konnte. Es war eine Suche, die zwar auch problematisch war, aber man verstand die Fehlerquote", glaubt Maass. Jetzt analysiere Gesichtserkennung Vorgänge in Echtzeit, werte Kamera-Feeds aus, identifiziere Personen, analysiere Bewegungen und sammle Unmengen von Aufnahmen in Datenbanken. "Dieses umfangreiche Tracking hat meiner Meinung nach den Klick in den Köpfen der Politiker ausgelöst", so Maass.

Kaum Transparenz bei Herstellern und Polizei

Wissenschaftler entdecken immer neue Probleme. MIT-Forscher fanden etwa heraus , dass Gesichtserkennungssoftware Frauen mit Männern verwechselte. Kritiker warnen vor rassistischen Vorurteilen, die sich aufgrund einseitiger Trainingsdaten bemerkbar machen können. Gesichtserkennungssoftware wird oft ohne unabhängige, externe Tests eingesetzt. Die Software stammt in der Regel von Privatfirmen, die ihre Algorithmen als Geschäftsgeheimnis verstehen. Auch die Herkunft von Daten, mit denen die Software trainiert wird, oder auf deren Basis sie ihre Schlüsse zieht, ist häufig zweifelhaft.

"Gesichtserkennungstechnologie hat sich allein in den letzten zwei Jahren enorm verbessert, was eine schnelle Suche in größeren Datenbanken und zuverlässigere Paarungen in Testumgebungen ermöglicht", heißt es auch im Forschungsbericht "Garbage in, Garbage out"  des Center on Privacy & Technology der Georgetown University in Washington. "Aber es spielt keine Rolle, wie gut die Technik ist, wenn sie immer noch mit den falschen Zahlen versorgt wird - dann werden wahrscheinlich immer noch die falschen Antworten herauskommen."

Die Forscher kritisieren, dass Polizisten teils auch Social Media-Aufnahmen, Fotos von Prominenten wie Woody Harrelson, Zeichnungen oder computergenerierte Bilder nutzen, um in Datenbanken nach ähnlich aussehenden Verdächtigen zu suchen, wenn die Originalaufnahmen aus Überwachungskameras unscharf sind. "Es gibt keine Regeln, welche Bilder die Polizei an Gesichtserkennungs-Algorithmen zur Generierung von investigativen Leads übermitteln kann", lautet die Kritik. Dabei seien die Risiken bei Ermittlungen zu hoch, um sich "auf unzuverlässige - oder falsche - Inputs zu verlassen". Schließlich könnten auf dieser Grundlage Unschuldige verhaftet werden.

Wie die Polizei auf den Bann reagiert

Von welchen Behörden und in welcher Form Gesichtserkennungssoftware eingesetzt wird, ist zudem intransparent. "Es ist sehr schwierig, eine Zahl zu nennen", sagt EFF-Forscher Dave Maass. Firmen wie "Vigilant Solutions" etwa vertreiben Lizenzen für Programme, mit denen Ermittler in Echtzeit Kfz-Kennzeichen auswerten können. In der Software ist aber auch das Feature "Facewatch" zur Gesichtserkennung enthalten. "Es ist daher schwierig zu sagen, ob Polizeieinheiten Gesichtserkennung tatsächlich nutzen, ob sie theoretisch über Gesichtserkennung verfügen, aber diese Möglichkeit nicht nutzen, oder vielleicht gar nichts von der Option wissen", so Maass.