Brains on Silicon: KI-Experte benennt in Dresden Chancen und Grenzen der Überwachung
Dresden. Kann Künstliche Intelligenz auf einem Bahnhof einen Angriff erkennen, bevor etwas passiert? Auf der KI-Konferenz "Brains on Silicon" im Internationalen Congress Center hat Ganen Sethupathy gezeigt, wie weit die Technik ist. Er verantwortet bei der IT- und Beratungsfirma Sopra Steria den Bereich öffentliche Sicherheit. Seine Botschaft: Die Systeme können viel, aber man darf ihnen nicht blind vertrauen.
Im Mittelpunkt stand die Bilderkennung, Computer Vision genannt. Moderne Systeme beschreiben nicht mehr nur einzelne Objekte, sondern ganze Situationen. Sie könnten zum Beispiel unterscheiden, ob zwei Menschen sich prügeln oder nur raufen, und eine Warnung auslösen. Getestet habe sein Team das unter anderem in Indien, mit billigen Kameras und lokalen Rechnern, gemeinsam mit Universitäten und der Polizei.
Warum 97 Prozent im Labor nicht genügen
Sethupathy warnte zugleich vor zu viel Vertrauen. Eine Trefferquote von 97 Prozent im Labor bedeute nicht, dass ein System auch auf der Straße so zuverlässig arbeite. Als Beispiel nannte er einen Fall aus den USA, in dem eine Frau durch fehlerhafte Gesichtserkennung zu Unrecht verhaftet worden sei. Und selbst gute Systeme ließen sich täuschen, etwa mit speziell bedruckten Pullovern oder Brillen. Anlagen wie die derzeit in Berlin getesteten stünden auch deshalb in der Kritik.
Warnung vor dem Missbrauch der Technik
Der zweite Teil galt der Kehrseite. Dieselbe Technik, die der Polizei helfe, stehe auch Kriminellen offen. Gängige KI-Werkzeuge ließen sich mit einfachen Mitteln dazu bringen, ihre Sicherheitssperren zu umgehen und gefährliche Informationen preiszugeben, warnte Sethupathy. Die Schutzmechanismen vieler Modelle seien zu schwach.
Zum Schluss gab er drei Ratschläge. Erstens sollten Behörden nicht jedes System von Grund auf selbst bauen, sondern auf bestehende, frei verfügbare KI-Modelle aufsetzen. Solche vortrainierten Modelle sparen Zeit und Geld, weil die aufwendige Grundlagenarbeit bereits erledigt ist und nur noch der eigene Einsatzzweck ergänzt werden muss. Zweitens müssten diese Systeme gegen Manipulation gehärtet werden, also gegen Tricks wie die präparierten Pullover oder Brillen, mit denen sich Kameras austricksen lassen. Drittens solle eine KI nachvollziehbar machen, warum sie eine Lage für gefährlich hält, etwa indem sie zeigt, welchen Bildausschnitt sie ausgewertet hat. Die letzte Entscheidung müsse ein Mensch treffen, denn Menschen neigten dazu, einer KI zu sehr zu vertrauen.
