NordVPN startet KI-Stimmendetector: So erkennen Sie Deepfakes im Browser

Der VPN-Anbieter NordVPN hat ein Feature entwickelt, das Nutzer:innen besser vor KI-generierten Fake-Stimmen schützen soll. Die Privatsphäre der Nutzer:innen soll dabei geschützt bleiben. Die Stimmanalyse läuft lokal auf dem eigenen Gerät. \r \r Dank entsprechender KI-Tools lassen sich mit nur wenigen Sekunden Stimmmaterial täuschend echte Audio-Deepfakes erstellen.

Kriminelle nutzen diese KI-Stimmen etwa, um mittels Fake-Anrufen zu bitten. Auch bei gefälschten Support-Anrufen oder sogenanntem CEO-Fraud in Unternehmen kommt das Voice-Cloning zum Einsatz.\r Audioinhalte auf Echtheit überprüfen\r Der VPN-Anbieter NordVPN will dem mit einem neuen Feature entgegensteuern.

Die „AI Voice Detector“ genannte Chrome-Erweiterung soll Audioinhalte in aktiven Browser-Tabs auf ihre Echtheit hin überprüfen, wie das Unternehmen in einem Blogbeitrag mitteilt.\r \r \r \r „KI-generierte Stimmen gehören mittlerweile zu den überzeugendsten Werkzeugen üger:innen und die meisten Menschen können sie nicht zuverlässig voneinander unterscheiden“, zitiert Tom‘s Guide den NordVPN-Produktchef Domininkas Virbickas.

Mit seinem KI-Stimmendetektor wolle das Unternehmen

Mit seinem KI-Stimmendetektor wolle das Unternehmen diese Lücke jetzt schließen.\r AI Voice Detector analysiert Stimmen\r Um festzustellen, ob es sich bei Audioinhalten um eine menschliche oder eine synthetische KI-Stimme handelt, analysiert das System akustische Merkmale wie Tonfall, Tonhöhe oder Sprechrhythmus.

Dabei kommt ein neuronales Netzwerkmodell zum Einsatz.\r \r Der AI Voice Detector soll laut NordVPN den Inhalt der Gespräche aber nicht verstehen können. Auch würden die Audioinhalte nicht aufgezeichnet.

Darüber hinaus greift das Tool während der Analyse auch nicht auf Daten der Nutzer:innen, die Browser-Historie oder Cookies zu.\r \r Die Ergebnisse der Echtzeit-Analyse werden den Nutzer:innen in einem Pop-up-Fenster angezeigt. Die entsprechenden Ergebnisse sind zur besseren Orientierung farblich gekennzeichnet. Grün steht dabei für menschliche und Rot für KI-generierte Stimmen.

Gelb zeigt an, dass es sich

Gelb zeigt an, dass es sich potenziell um eine synthetische Stimme handeln könnte, also Vorsicht angesagt ist.\r Mehr Datenschutz durch lokale Analyse\r Der gesamte Vorgang laufe lokal auf dem jeweiligen Gerät der Nutzer:innen ab und bleibe damit privat, verspricht NordVPN.

Zwischenzeitlich erstellte Audio-Buffer würden nach der Analyse, oder wenn der Tab geschlossen wird, sofort gelöscht.\r \r \r Die Chrome-Erweiterung können sich Interessierte im Chrome-Web-Store herunterladen. NordVPN weist aber darauf hin, dass das Tool nicht zu 100 Prozent präzise urteilen könne. Die Ergebnisse sollten eher als Anhaltspunkt, nicht als endgültiges Urteil angesehen werden.