Es ist das neue Symbol des Promi-Status, das niemand will. Jennifer Aniston, Oprah Winfrey und Kylie Jenner hatten ihre Stimmen geklont durch Betrüger. Online-Brüder nutzten künstliche Intelligenz, um den Tigger-Ton von Martin Lewis, dem Finanzberater des Fernsehens, vorzutäuschen. Und dieses Wochenende bezeichnete sich David Attenborough als „zutiefst beunruhigt“, als er herausfand, dass seine geklonte Stimme für die Ausstrahlung parteiischer US-Nachrichtensendungen verwendet worden war.
Jetzt haben Experten gewarnt, dass das Klonen von Stimmen eine Gesetzesüberschreitung darstellt, da Techniker zuvor klobige Stimmgeneratoren zu Modellen weiterentwickeln, die in der Lage sind, die subtileren Pausen und Atemzüge der menschlichen Intonation nachzuahmen.
Dr. Dominic Lees, ein Experte für KI in Film und Fernsehen, der einen britischen Parlamentsausschuss berät, sagte am Montag gegenüber dem Guardian: „Unsere Datenschutz- und Urheberrechtsgesetze sind nicht auf dem neuesten Stand mit dem, was diese neue Technologie bietet, daher gibt es sehr wenig davon.“ David Attenborough Ich kann es schaffen.“
Lees berät den Sonderausschuss für Kultur, Medien und Sport des Unterhauses bei einer Untersuchung, die sich mit dem ethischen Einsatz von KI in der Filmproduktion befassen wird. Er ruft auch das Synthetic Media Research Network ins Leben, zu dessen Mitgliedern das Unternehmen gehört, das eine KI-Version des verstorbenen Chatshow-Interviewers Michael Parkinson erstellt, aus der eine achtteilige, nicht geschriebene Serie mit neuen Gästen hervorgehen wird: Virtually Parkinson. Dieses Stimmenklonen Projekt Dies geschieht mit Zustimmung der Familie und des Nachlasses von Parkinson.
„Die Regierung muss sich unbedingt mit dem (Stimmenklonen) befassen, denn es ist ein riesiges Betrugsproblem“, sagte Lee. „Um (Missbrauch) zu stoppen, sind staatliche Regulierungen erforderlich … wir können nicht zulassen, dass es für alle kostenlos ist.“
Demnach ist die Zahl der Betrugsfälle beim Klonen von KI-Stimmen im Vereinigten Königreich im vergangenen Jahr um 30 % gestiegen suchen von der NatWest Bank diesen Monat. Ein weiterer Gläubiger, die Starling Bank, gefunden 28 % der Menschen waren im vergangenen Jahr mindestens einmal Opfer eines KI-Stimmenklonungsbetrugs.
Das Klonen von Stimmen wird von Betrügern auch verwendet, um eine Version des SMS-Betrugs „Hallo Mama“ durchzuführen, bei dem sich Betrüger als Kinder ausgeben, die dringend Geld von ihren Eltern benötigen. Bei ohnehin schon verwirrenden Telefonleitungen kann es schwierig sein, herauszufinden, dass es sich bei einem flehenden Kind um den Klon eines Betrügers handelt. Verbrauchern wird empfohlen, zur Überprüfung aufzulegen und erneut eine vertrauenswürdige Nummer anzurufen.
Menschen, deren Stimmen ohne ihre Zustimmung geklont werden, empfinden dies als mehr als lästig. Attenborough sagte am Sonntag gegenüber der BBC: „Nachdem ich ein Leben lang versucht habe, das zu sagen, was ich für die Wahrheit halte, bin ich zutiefst beunruhigt, als ich feststelle, dass meine Identität heutzutage von anderen gestohlen wird, und ich bin strikt dagegen, dass sie dies tun.“ es zu sagen, was sie wollen.
Als eine neue Sprachoption im neuesten KI-Modell von OpenAI, ChatGPT-4o, Töne enthielt, die es waren ganz in der Nähe Gegenüber der Schauspielerin Scarlett Johansson sagte sie, sie sei schockiert und verärgert, weil die Stimme „meiner so unheimlich ähnlich klang, dass meine engsten Freunde und Medien keinen Unterschied erkennen konnten“.
nach Newsletter-Werbung
Die Zunahme geklonter Stimmen wirft die Frage auf, was ihnen an echten menschlichen Tönen fehlt. Lees sagte: „Das große Problem besteht darin, dass KI Emotionen nicht versteht und wie sich dadurch die Art und Weise verändert, wie ein Wort oder eine Phrase emotionale Auswirkungen haben kann und wie man seine Stimme variiert, um sie darzustellen.“
Die Voiceover-Branche, die Stimmen für Werbung, Animationen und Schulungen bereitstellt, muss schnell auf den technologischen Fortschritt reagieren. Joe Lewis, Leiter der Audioabteilung der Voiceover Gallery in London, die echte menschliche Stimmen für Specsavers- und National Express-Werbespots bereitgestellt hat, sagte, er habe bereits die Stimmen einiger seiner Künstler geklont.
Er sagte, die KI scheine am besten mit englischen Männerstimmen zu funktionieren, vielleicht weil dies eine Voreingenommenheit in der Art der Aufnahme widerspiegele, die zum Trainieren des Algorithmus verwendet werde, warnte aber, dass im Allgemeinen „etwas an der Art und Weise, wie es erzeugt wird, einen weniger macht.“ aufmerksam.“
„Wenn die KI (Stimme) atmet, ist es ein sehr repetitiver Atemzug“, sagte er. „Die Atemzüge sind an der richtigen Stelle, aber sie sehen nicht natürlich aus … (Aber) können Sie den Punkt erreichen, an dem sie wirklich perfekt sind? Ich verstehe nicht, warum nicht, aber das volle emotionale Spektrum zu erreichen, ist noch ein weiter Weg.“
