Hacker-Mode gegen KI: Wie spezielle Muster Überwachungskameras austricksen
Aktuelle News
Testlauf mit einem modifizierten Fahrzeug zur Überprüfung der Algorithmus-Erkennung.
KI-Überwachung am Limit
Überwachungskameras leisten heute weit mehr als bloße Videoaufzeichnung. Dank hochentwickelter Software identifizieren Systeme automatisch Personen, Fahrzeuge und Kennzeichen. Ein US-amerikanischer Sicherheitsforscher arbeitet nun an einer Methode, um genau diese automatisierte Erkennung gezielt zu stören.
Das Projekt trägt den Namen noRecognition. Dahinter steht der Sicherheitsforscher Bill Swearingen, der nach eigenen Angaben im letzten Jahr etwa 31 Millionen Tests durchführte. Sein Ziel: Muster zu finden, die Erkennungsalgorithmen verwirren.
31 Millionen Tests für den Datenschutz
Swearingen betrachtet Datenschutz als fundamentales Grundrecht. In einem Gespräch mit TechCrunch erklärte er, dass seine Muster Menschen ermöglichen sollen, sich aktiv gegen die permanente digitale Nachverfolgung zu entscheiden.
Das System funktioniert durch einen iterativen Prozess. Das Modell testet verschiedene Muster und prüft, ob die Kamera das Objekt trotz der Tarnung erkennt. Schlägt ein Versuch fehl, wird das Muster angepasst und der Vorgang wiederholt. Laut Swearingen konnten die so entwickelten Designs alle elf von ihm geprüften Systeme austricksen, darunter Flock-Kennzeichenerfassung, Axon-Bodycams und Clearview AI.
Die Kamera sieht – die KI nicht
Ein entscheidender Punkt: Die Muster machen den Träger oder das Fahrzeug nicht unsichtbar für das menschliche Auge. Die Kamera nimmt weiterhin ein Bild auf, das für einen Menschen absolut erkennbar bleibt.
Der Angriff richtet sich ausschließlich gegen die dahinterliegende Software. Wenn der Algorithmus nicht mehr zuverlässig identifizieren kann, ob er ein menschliches Objekt oder ein Fahrzeug vor sich hat, versagen die automatisierten Alarmsysteme.
Praxistest auf der Def-Con
Die Technik wurde erstmals auf der Def-Con in Las Vegas demonstriert, der weltweit größten Konferenz für IT-Sicherheit. Ein Toyota Yaris (Baujahr 2009) wurde mit einem der speziellen Muster beklebt und an einer Flock-Kamera vorbeigefahren.
„Wir haben bewiesen, dass es wirksam war“, so Swearingen. Dennoch gibt es technische Hürden; bei den Rädern des Fahrzeugs traten während des Tests Schwierigkeiten auf. Dennoch gilt der Versuch als Beleg, dass algorithmische Erkennung durch gezielte optische Störung angreifbar ist.
Vom Labor in den Alltag
Swearingen plant, die Technologie alltagstauglich zu machen. Über eine Crowdfunding-Kampagne werden bereits erste Kleidungsstücke wie T-Shirts und Hoodies mit den entsprechenden Mustern angeboten. Langfristig sollen auch Folien für Fahrzeuge verfügbar sein.
Relevanz für Smart Glasses
Die Forschung könnte auch für Smart Glasses, wie die Meta Ray-Ban-Modelle, von Bedeutung sein. Diese Kameras erfassen ihre Umgebung kontinuierlich. Da Meta zuletzt wegen der Erprobung von Gesichtserkennung in der Kritik stand, könnten solche Muster auch den Schutz gegenüber tragbaren Kameras verbessern.
Dennoch bleibt eine Einschränkung: Die bisherigen Tests beziehen sich auf spezifische Bilderkennungssysteme. Es ist nicht belegt, dass die Kleidung Schutz gegen sämtliche aktuell verfügbaren KI-Technologien oder alle Arten von Smart-Glasses-Kameras bietet.