Ein Sicherheitscheck, der echte Menschen von Bots trennen soll, ist an einem simplen Foto gescheitert. Google testet seit Mitte Juni eine reCAPTCHA-Variante, die euch auffordert, vor der Webcam zu winken oder die offene Handfläche zu zeigen. Ein Standbild genügt, um das Verfahren auszuhebeln.
So funktioniert die Gestenprüfung
Statt Ampeln und Zebrastreifen anzuklicken, sollt ihr eine kurze Handbewegung ausführen – klingt für mich eigentlich sowohl komfortabler als auch tendenziell sicherer, gleichwohl der Gedanke, für eine x-beliebige Webseite die Kamera freizugeben, wahrscheinlich nicht allen gefällt.
Ein Machine-Learning-Modell vermisst dabei 21 Bezugspunkte an Fingern und Knöcheln und liest daraus die Handhaltung aus. Es ist dasselbe Schema, das auch Googles MediaPipe-Handtracking nutzt. Wer die Geste nicht ausführen kann oder will, bekommt weiterhin die bekannten Bild- und Audio-Rätsel, die zunehmend eine Rolle für weiteres KI-Training spielen.
SmartDroid.de bei Google folgen
Die Prüfung gehört zu Google Cloud Fraud Defense und ist als begrenzter Test gestartet. Seitenbetreiber müssen sie aktiv einschalten, Standard ist sie nicht. Google verspricht, die Videos nur zur Prüfung zu nutzen, sie nicht mit eurer Identität zu verknüpfen und nach dem Vorgang zu löschen. Ton werde nie aufgezeichnet.
Ein Stockfoto reicht
Aufgefallen ist die Schwäche zunächst auf X, das Tech-Portal Neowin hat sie anschließend selbst nachgestellt. Nötig war kein kompliziertes Angriffswerkzeug, sondern ein Foto einer Person mit der entsprechenden Handgeste, das über die OBS Virtual Camera als vermeintliches Kamerabild in den Browser lief. Nach etwas Herumprobieren mit Ausschnitt und Position akzeptierte Googles Prüfung die Fotomontage als echte Geste.
Bedenklich ist, wie absurd einfach sich das System austricksen lässt. Weil weder ein Mensch noch ein Video noch eine KI nötig sind, genügt ein kurzes Skript, das ein beliebiges Standbild einspeist. Die ganze Prozedur lässt sich so in Minuten automatisieren.
Dabei wird KI das Problem menschlicher Verifikation im Internet nur noch weiter potenzieren: Schon im September 2024 trainierten Forscher der ETH Zürich ein Objekterkennungs-Modell auf 14.000 Verkehrsbildern und lösten damit reCAPTCHAv2 vollständig, im Schnitt nach rund 19 Anläufen. Und im Juli 2025 klickte sich der ChatGPT Agent von OpenAI durch Cloudflares „Verify you are human“ und kommentierte ungerührt, er müsse ja beweisen, kein Bot zu sein.
