US-Behörde will Anrufe mit KI-Stimmen verbieten

robot_phone_call_illustration-Midjourney

Bild: Midjourney

Nur, weil es geht, sollte man es halt nicht unbedingt machen.

Die US-Telekommunikationsbehörde FCC will Maßnahmen gegen die zunehmende Bedrohung durch KI-generierte Sprach-Robocalls ergreifen, die Prominente, Politiker und sogar Familienmitglieder imitieren und so Verwirrung stiften und Betrug ermöglichen.

Die FCC-Vorsitzende Jessica Rosenworcel schlägt vor, dass die Kommission Anrufe mit KI-generierten Stimmen im Rahmen des Telephone Consumer Protection Act (TCPA) offiziell als „künstlich“ anerkennt und somit den Einsatz von Stimmklontechnologie bei Robocalls illegal macht. Dadurch sollen den Generalstaatsanwälten in den USA neue Instrumente an die Hand gegeben werden, um gegen die Urheber dieser Betrügereien vorzugehen und sie gesetzlich zur Rechenschaft zu ziehen. FCC-Vorsitzende Jessica Rosenworcel in einem Statement:

KI-generierte Stimmklone und Bilder stiften bereits Verwirrung, indem sie Verbraucher dazu verleiten, Betrug und Schwindel für legitim zu halten. Egal, welchen Prominenten oder Politiker man bevorzugt oder wie das Verhältnis zu Familienmitgliedern ist, wenn sie um Hilfe bitten – es ist möglich, dass wir alle Ziel dieser gefälschten Anrufe sein könnten.

Jessica Rosenworcel, FCC-Vorsitzende

Wenn die FCC KI-generierte Sprachanrufe als illegal im Rahmen des geltenden Rechts anerkennt, kann sie den Generalstaatsanwaltschaften im ganzen Land „neue Instrumente geben, um gegen diese Betrügereien vorzugehen und die Verbraucher zu schützen.“

Der Vorschlag folgt auf einen Vorfall in New Hampshire, bei dem Einwohner einen Anruf erhielten, der Präsident Joe Biden imitierte und ihnen sagte, sie sollten nicht an der Vorwahl ihres Bundesstaates teilnehmen. Eine Sicherheitsfirma analysierte den Anruf und stellte fest, dass er mit KI-Tools von einem Startup namens ElevenLabs erstellt wurde. Das Unternehmen hatte angeblich das Konto gesperrt, das für die Präsidenten-Imitation verantwortlich war, aber der Vorfall zeigt das Potenzial von KI-generierten Inhalten, die bevorstehenden US-Wahlen zu stören.

Die FCC startete im November eine Anfrage, um zu untersuchen, wie die Behörde illegale Robocalls und die Beteiligung von KI daran bekämpfen kann. Die Anfrage stellte Fragen dazu, wie KI für Betrügereien im Zusammenhang mit unerwünschten Anrufen eingesetzt werden könnte, ob diese Technologie der Aufsicht im Rahmen des TCPA unterliegen sollte und wie KI bei der Mustererkennung helfen kann, um illegale Robocalls zu identifizieren, bevor sie die Verbraucher erreichen.

Der TCPA ist das Hauptgesetz, das die FCC zur Begrenzung von unerwünschten Anrufen verwendet. Es beschränkt Telemarketing-Anrufe und den Einsatz von automatischen Telefonwahlsystemen sowie künstlichen oder vorab aufgezeichneten Sprachnachrichten. Nach den FCC-Regeln müssen Telemarketer vorab eine ausdrückliche schriftliche Zustimmung der Verbraucher einholen, bevor sie diese mit Robocalls kontaktieren. Wenn die vorgeschlagene Klarstellung erfolgreich umgesetzt wird, werden auch KI-generierte Sprachanrufe diesen Standards unterliegen.

Google experimentiert übrigens schon seit einigen Jahren mit KI-Anrufen, die etwa einen Arzttermin für euch vereinbaren oder einen Tisch im Restaurant reservieren.

via

„Google Duplex ist absolut erstaunlich“

Folge jetzt unserem neuen WhatsApp-Kanal, dem News-Feed bei Google News und rede mit uns im Smartdroid Chat bei Telegram. Mit * markierte Links sind provisionierte Affiliate-Links.

Kommentar verfassen

Bleib nett.