„Police.AI“ startet in UK
In UK startet nun das erste KI-Polizeizentrum. KI gesteuert werden nun Leute verhaftet. Das System geht trotz erheblicher Fehler an den Start.
Innerhalb von Minuten soll die KI-Polizei Verdächtige finden. 155 Millionen Dollar hat der Staat dafür investiert. Police.AI heißt die neue Behörde, die KI umfassend in den Polizeikräften in England und Wales durchsetzen soll. Ihr Werbespruch: „Den Verdächtigen in Minuten schnappen. Aus einer wochenlangen Fahndung eine Kaffeepause machen.“
Alex Murray, Direktor der National Crime Agency und erster KI-Beauftragter des National Police Chiefs’ Council, will genau das mit Gesichtserkennung erreichen. Das das Programm immer wieder Unschuldige markiert, ignoriert man. „Was früher Tage, Wochen oder sogar Monate dauerte, kann jetzt potenziell Stunden dauern“, sagt er und beschreibt KI-Tools, die Kameraaufnahmen analysieren, beschlagnahmte Handys durchsuchen und gefälschte Bilder erkennen.
Er verweist gern auf einen Betrugsfall in Bedfordshire, bei dem die Software rumänischsprachige Handydaten von vier Verdächtigen durchforstete und zu Geständnissen führte. Auffällig ist jedoch das Muster: Es geht immer darum, was die Polizei alles machen darf. Der Teil, in dem wir alle gescannt, sortiert und gelegentlich von der Straße geholt werden, fällt meist unter den Tisch.
Man behauptet, die Technologie erspare jährlich mehr als sechs Millionen Arbeitsstunden – angeblich das Äquivalent von 3.000 freigestellten Polizisten. Murray bezeichnete den Start als „entscheidenden Schritt“ gegen steigende Kriminalität und digitale Verbrechen: „Die Welt verändert sich rasant, und die Polizei muss das auch tun.“
Die Propaganda wird noch abstruser, denn angeblich habe die Öffentlichkeit gefordert: „Die Bürger erwarten, dass die Polizei KI einsetzt, Unternehmen tun es, und wir wissen, dass Kriminelle sie bereits nutzen. Deshalb ist der Start von Police.AI sowohl zeitgemäß als auch notwendig.“
Reclaim the Net hat ausführlich berichtet, wie fehlerhaft das System ist, das nun aber trotzdem an den Start geht:
reclaimthenet.org/dystopian-po…
Offiziell heißt es, ein Treffer sei nur ein Hinweis, nie ein Beweis, und ein menschlicher Beamter treffe immer die endgültige Entscheidung. Das soll beruhigend klingen.Doch dann trifft man auf Alvi Choudhury. Der 26-jährige Software-Ingenieur war im Januar zu Hause bei seiner Familie in Southampton, als die Thames Valley Police auftauchte, ihn in Handschellen legte und fast zehn Stunden festhielt, bevor er um zwei Uhr nachts freigelassen wurde. Die Maschine hatte sein Gesicht mit einem 3.000-Pfund-Einbruch in Milton Keynes verglichen – einer Stadt, die er noch nie besucht hatte, hundert Meilen entfernt.
Der echte Täter, so Choudhury, sah etwa zehn Jahre jünger aus, hatte hellere Haut, eine größere Nase, kleinere Lippen und keinen Bart. In jeder Hinsicht ein anderer Mensch – außer dass er eben ein Gesicht hatte. „Ich ging einfach davon aus, dass der ermittelnde Beamte sah, dass ich eine braunhäutige Person mit lockigem Haar bin, und mich deshalb festnahm“, sagte er.
Choudhury, der bereits 2021 bei einer anderen Fehlverhaftung in die Polizeidatenbank geraten war, klagt nun gegen die Behörden.
Er ist nicht allein. Colin McMahon, 59-jähriger Dachdecker, wurde auf der Harlesden High Street von der Metropolitan Police in Handschellen gelegt, weil eine Kamera ihn mit einem 300-Pfund-Möbeldiebstahl bei Ikea in Verbindung brachte.
Es gab nur ein kleines Problem: Zur Tatzeit leitete er zehn Meilen entfernt ein Treffen der Anonymen Alkoholiker. Ein Richter sprach ihn später frei.
Die „Beweise“, die ausreichten, um ihn vor Gericht zu bringen? In den Gerichtsakten stand, die Beamten hätten notiert, er habe „die gleiche Brille, ähnliche Gesichtszüge, eine schlanke Statur und ähnliche weiße Schuhe“ wie der Täter getragen.Ähnliche weiße Schuhe. Für McMahon war die Sache kein Spaß. „Das könnte jemanden mit psychischen Problemen über die Kante stoßen. Es hat mich mental völlig aus der Bahn geworfen und meinen Kopf durcheinandergebracht“, sagte er. „Ich bin jetzt einmal pro Woche in Therapie und traue mich kaum noch vor die Tür.“
Die viel gepriesene „menschliche Kontrolle“ bestand in beiden Fällen offenbar nur darin, dass ein Beamter einfach abnickte, was die Maschine vorschlug.
Die Polizei hüllt sich natürlich in die Sprache der Verantwortung. Das NPCC verspricht „einheitliche, verantwortungsvolle und transparente KI-Nutzung“ und verweist auf einen „AI Covenant“, eine Checkliste für verantwortungsvolle KI und ein öffentliches Register, das zeigt, wie jede Polizeikraft die Technologie einsetzt.Chief Constable Jeremy Vaughan, zuständig für Wissenschaft und Innovation, sagt, das Zentrum „stärke die Transparenz, schütze das Vertrauen der Öffentlichkeit und sorge dafür, dass die Tools, die wir entwickeln, rechtmäßig, ethisch und vertrauenswürdig sind“.
Das Vertrauen, das hier eingefordert wird, ist das gleiche, das man einer Datenbank mit 19 Millionen Gesichtern schenken soll – einem System, das Menschen festgenommen hat, nur weil sie einem Fremden ähnlich sahen. Dabei gab es die ganze Zeit eine ruhigere, weniger invasive Alternative: Die Regierung selbst räumt ein, dass herkömmliche Polizeiarbeit Wochen dauern kann, wo die Maschine Minuten braucht. Gleichzeitig beschäftigen die Kräfte bereits trainierte menschliche „Super-Recognizers“, die – anders als der Algorithmus – auch bei unscharfen oder teilweise verdeckten Gesichtern besser arbeiten.
Die Wahl war nie „Robo-Cops oder Anarchie“, sondern eine langsamere Methode, die einen Fall sorgfältig aufbaut, versus eine schnellere, die die gesamte Menge gegen eine Fahndungsliste scannt und gelegentlich einen Unschuldigen vom Bürgersteig pflückt.
Was Police.AI wirklich tut, ist genau diese schnellere Methode – samt ihrer wachsenden Liste von Fehlverhaftungen – in eine nationale Pipeline zu gießen, damit alle 43 Polizeikräfte sie nutzen können.
Murray verkauft das Ganze als Schutz – genau wie jede Überwachungsmaßnahme seit der ersten Burgmauer. Doch die Maschine kann nicht zwischen einem gesuchten Straftäter und einem Software-Ingenieur mit lockigem Haar unterscheiden.
Für sie bist du kein Mensch, sondern ein Kandidat – ein möglicher Treffer, der nur noch die Bestätigung eines müden Beamten braucht, der eigentlich lieber nach Hause möchte.
Vor ca. 10 Jahren als es noch den Arbeitskreis Vorratsdatenspeicherung gab und öffentliche Proteste gab es Warnungen vor genau diesen Szenarien.
#KI #Technologie #zukunft #Software #menschenrechte #Justiz #Rechtsstaat #Problem #ethik #Polizei #Verbrechen #Ermittlung #automatisierung #gericht #Verhaftung
