Sicherheitsfunktionen in verschlüsselten Messengern enden meistens dort, wo der Anbieter den Inhalt sehen müsste. WhatsApp versucht diesen Widerspruch mit einem Modell zu lösen, das komplett auf dem Smartphone läuft. Scam Alert heißt die optionale Funktion, die gerade in einer geschlossenen Beta startet und Nachrichten von unbekannten Absendern auf Betrugsmuster prüft.
Die Warnung sieht nur ihr
Nach dem Aktivieren lädt WhatsApp ein kleines Machine-Learning-Modell auf das Gerät. Es klassifiziert eingehende Nachrichten von Leuten, die nicht in euren Kontakten stehen, und stützt sich dabei auf Gesprächsstruktur und sprachliche Signale aus gemeldeten Betrugsfällen. Erkennt es ein Muster, erscheint ein Hinweis im Chat, den euer Gegenüber nicht sieht.
Ihr entscheidet dann selbst über blockieren, melden oder weiterschreiben. Haltet ihr die Warnung für falsch, markiert ihr den Chat als vertrauenswürdig und bekommt dort keinen Hinweis mehr. Dann könnt ihr freiwillig die letzten fünf empfangenen Nachrichten an WhatsApp schicken, damit das Modell besser wird. Ohne diesen Schritt verlässt kein Inhalt euer Gerät.
SmartDroid.de bei Google folgenWas Meta trotzdem erfährt
Ganz ohne Rückkanal geht’s nicht, denn Meta will wissen, ob das Modell trifft. Übertragen werden laut den Entwicklern nur zwei Arten von ungefähren Zählwerten, nämlich wie oft eine Warnung erschien und welche Art von Aktion ihr danach gewählt habt.
Die Werte laufen über einen Vermittlungsdienst, der die IP-Adresse entfernt, werden in abgeschotteten Recheneinheiten zusammengefasst und mit Rauschen versehen, bevor sie bei Meta ankommen. Einen ähnlichen Ansatz kennt WhatsApp schon von Private Processing.
Prüfbar statt nur behauptet
Interessanter als die Funktion selbst ist der Aufwand für die Nachvollziehbarkeit. Jede Modellversion inklusive Testvarianten landet vorab mit Prüfsumme in einem öffentlichen Register, das sich nur erweitern, aber nicht ändern lässt. Signiert wird von Cloudflare, nicht von Meta. Ein Modell, das dort nicht steht, lehnt die App ab. Welche Testgruppe ihr bekommt, würfelt das Gerät selbst aus.
Dazu veröffentlicht WhatsApp die Modellgewichte und protokolliert auf Wunsch lokal, welche Nachrichten das Modell markiert hat, wie die Analyse ausging und welche Modellversion lief – deutlich mehr Offenlegung als üblich. Offen bleibt, wie gut das Modell deutschsprachige Maschen erkennt und wie oft es danebenliegt.
