Gesellschaft 4 Min. Lesezeit Von Leonie Vogt
15-Jähriger auf dem Schulweg festgehalten: Familie spricht von KI-Verwechslung
Ein Moskauer Schüler wurde mit einem Verdächtigen verwechselt. Seine Eltern sagen, ein Gesichtserkennungssystem habe einen falschen Treffer geliefert.
Du gehst morgens zur Schule und plötzlich halten dich zwei Männer in Zivil fest, fesseln dich und bringen dich zur Polizei. Genau so beschreibt eine Moskauer Familie, was ihrem 15-jährigen Sohn am 4. Mai passiert sein soll. Später, so die Eltern, habe die Polizei erklärt, ein System mit künstlicher Intelligenz habe den Jungen zu 85 bis 90 Prozent einer gesuchten Person zugeordnet.
Der Kern der Geschichte wurde schon kurz nach dem Vorfall berichtet. Novaya Gazeta Europe schrieb unter Berufung auf die Mutter und Ostorozhno Media, der Schüler sei in der Garibaldi-Straße auf dem Weg zur Schule gewesen. Die Mutter sagte, Männer in Zivil hätten ihn zu Boden gebracht, seine Hände mit einem Gürtel gefesselt und ihn in ein Auto gesetzt. Im Revier habe sich dann herausgestellt, dass er mit einem anderen Menschen verwechselt worden sei.
Die neue KI-Information stammt aus einer späteren Schilderung des Vaters. Er sagt, sein Sohn sei im Revier wegen angeblichen Drogenhandels befragt worden. Erst nach etwa zweieinhalb Stunden habe die Polizei die Mutter angerufen. Dort habe man ihr von dem angeblichen 85- bis 90-Prozent-Treffer erzählt. Diese Zahl ist bislang nur durch die Familie bekannt. Die Polizei hat öffentlich weder das System noch den Wert bestätigt.
Dass Moskau Gesichtserkennung einsetzt, ist dagegen gut dokumentiert. Im U-Bahn-System arbeitet „Sfera“. Nach Angaben des städtischen Verkehrsportals vergleicht die Technik Gesichter mit Fahndungsdatenbanken und schickt bei einem Treffer eine Meldung an Polizisten. Ob diese Technik etwas mit dem Fall des Schülers zu tun hat, ist unbekannt.
Ein Prozentwert klingt schnell wie eine Schulnote: 90 Prozent wären dann fast sicher. So funktioniert Gesichtserkennung aber nicht. NIST, eine US-Behörde, die solche Algorithmen testet, erklärt die Systeme über Ähnlichkeitswerte und Schwellen. Je nachdem, wo die Grenze gesetzt wird, kann es mehr oder weniger falsche Treffer geben. Bei der Suche in sehr großen Datenbanken kann ein falscher Kandidat über dem Schwellenwert landen.
Für den Jugendlichen ging es nicht um eine abstrakte Technikdebatte. Nach der Freilassung diagnostizierten Ärzte laut Novaya Gazeta Europe eine Gehirnerschütterung. Ostorozhno Media nennt später weitere Verletzungen aus medizinischen Unterlagen, darunter eine Kopfverletzung, ein Hämatom und Schürfwunden an den Handgelenken.
Die Familie sagt, Polizisten hätten den Schüler bei der Festnahme und im Auto geschlagen. Die Polizei schildert das anders. In einer Antwort an die Familie heißt es laut Ostorozhno Media, der Jugendliche habe sich gewehrt, Beamte verletzt und versucht zu fliehen. Deshalb seien körperliche Gewalt und Kampfgriffe eingesetzt worden. Die Eltern bestreiten das.
Sie haben Beschwerden bei Polizei und Ermittlungskomitee eingereicht. Ein abschließendes Ergebnis wurde ihnen nach Angaben von Ostorozhno Media bisher nicht mitgeteilt.
Gerade für junge Menschen ist der Fall leicht verständlich: Wenn eine App oder ein Algorithmus dich falsch erkennt, sollte das nicht automatisch bestimmen, wie Erwachsene mit dir umgehen. Technik kann einen Hinweis geben. Ob jemand festgehalten, durchsucht oder mit Gewalt überwältigt wird, entscheiden Menschen. Die Ermittlungen müssen deshalb nicht nur klären, ob die Software falsch lag, sondern auch, warum niemand die mögliche Verwechslung rechtzeitig gestoppt hat.
