Forscher nutzen KI, um kriminelle Aktivitäten vorherzusagen

Im Jahr 2016 wurde beispielsweise die Chicago Police Department in eine Kontroverse verwickelt, weil sie eine Datenbank mit Personen erstellt hatte, die als am stärksten gefährdet galten, an einer Schießerei beteiligt zu sein – entweder als Opfer oder als Angreifer. Sie bezeichneten dies als die „Heat List“ der Stadt.

Die Inhalte, die durch den KI-Algorithmus gespeist wurden, wurden zunächst geheim gehalten, bis die Maschine ungeheuerlich vorschlug, dass 56 % der schwarzen Männer in der Stadt (im Alter von 20 bis 29) darauf erscheinen würden.

Oh bitte, wir haben das alles schon einmal durchgemacht. Es funktioniert nicht. Es gibt keine magische KI „einen seltsamen Trick“, um Verbrechen aufzuklären. https://t.co/8Jl8fcfOeI

– Timandra Harkness (@TimandraHarknes) 5. Juli 2022

Es gibt ein solides Argument dafür, dass aufgrund der Art und Weise, wie Verbrechen aufgezeichnet werden, das gesamte System anfällig für Voreingenommenheit war, bevor es überhaupt begonnen hat.

Verbrechen in den wohlhabenderen Gegenden Chicagos führen nachweislich zu weitere Festnahmen, zum einen, und wir wissen, dass Minderheitengruppen, sicherlich auf niedrigeren sozioökonomischen Ebenen, sind überproportional angehalten und gesucht.

Chattopadhyay räumt ein, dass die neuesten Daten unweigerlich leicht voreingenommen sein werden, sagt aber, dass Anstrengungen unternommen wurden, um dies zu reduzieren. Er stellte klar, dass seine KI keine Verdächtigen identifiziert, sondern nur potenzielle Tatorte. »Das ist kein Minority Report«, versicherte er.

Ich spreche mit einiger Beklommenheit zu diesem Thema, Cambridge-Experte Laurent Sherman warnte: "Es könnte internationale Diskriminierung durch die Polizei in bestimmten Gebieten widerspiegeln." Es ist auch schwer, diese Sorgen zu lindern.

Solange sich die Polizeibemühungen auf Berichte über Straftaten von Bundesstaat zu Bundesstaat stützen, was die komplexe Beziehung zwischen Durchsetzung, Fehlverhalten und der breiteren Gesellschaft an die Spitze bringt, erscheint der Einsatz von KI zur direkten Verbrechensprävention zu düster, um sich voll darauf einzulassen.

Wenn Forscher andererseits daran interessiert sind, die KI-Technologie zu nutzen, um aufzudecken, wo diese Vorurteile bestehen, wäre das eine weitaus angenehmere Aussicht.