Google baut seine Werkzeuge zur Kennzeichnung künstlich erzeugter Inhalte aus. Die Gemini-App kann ab sofort nicht nur Bilder, sondern auch Videos auf KI-Generierung prüfen. Nutzer laden dafür ein Video hoch und fragen etwa: „Wurde dieses Video mit Google-KI erstellt?“ Die App durchsucht dann Audio- und Bildspur nach dem unsichtbaren SynthID-Wasserzeichen und gibt detailliert an, in welchen Abschnitten KI-Elemente stecken sollen. Dafür gab es in der Vergangenheit schon ein separates Tool.
Videos dürfen bis zu 100 MB groß und 90 Sekunden lang sein. Die Funktion steht in allen Sprachen und Ländern zur Verfügung, in denen Gemini nutzbar ist.
Googles SynthID-Ansatz zeigt jedoch grundlegende Grenzen: Das System funktioniert nur in eine Richtung. Findet die App ein Wasserzeichen, ist der Inhalt nachweislich KI-generiert. Fehlt das Wasserzeichen, bedeutet das aber nicht, dass der Inhalt echt ist – er könnte mit anderen Modellen ohne Kennzeichnung erstellt worden sein. Zudem liest Gemini ausschließlich SynthID aus, während alternative Standards wie C2PA komplett außen vor bleiben. Das kann ich erst recht nicht nachvollziehen, weil Google die Schnittstelle in der Suche etwa unterstützt.
Ein weiteres Problem: Nutzer müssen Inhalte aktiv überprüfen. Sinnvoller wäre es, Kennzeichnungen direkt dort anzuzeigen, wo Inhalte konsumiert werden – wie Google es bereits in meinen Augen fantastisch in der Fotos-App umsetzt. Dort werden KI-generierte Bilder in den Informationen automatisch als solche markiert.
KI erkennt sich also jetzt selbst? Hat ja echt lange gedauert. Wer die neue Coca Cola Weihnachtswerbung gesehen hat braucht nun keine KI um zu erkennen das da KI am Werk war.
Gut wäre wenn KI sich auch bei Suchanfragen erkennen würde, denn oft ist es so das man Informationen abfragt und die KI einem Fakten liefert die sie sich vor ein paar Tagen selber „zusammenhalluziniert“ hat. Andere würden von FAKE NEWS sprechen.