Künstliche Intelligenz hat die Grenzen verwischt, wenn es darum geht, was real ist und was nur eine clevere Simulation ist.
Das kann positiv sein, wenn es mit Genehmigung und klarer Kennzeichnung geschieht, wie es NBC Sports während der Olympischen Sommerspiele 2024 mit der Stimme von Al Michaels getan hat.
„‚Your Daily Olympic Recap on Peacock‘ wird eine Erzählung von einer ‚hochwertigen KI-Nachbildung‘ von Michaels‘ Stimme enthalten, die anhand seiner früheren Auftritte bei NBC trainiert wurde, um seinem ‚charakteristischen Fachwissen und seiner Ausdrucksweise‘ gerecht zu werden“, kündigte der Streaming-Dienst an.“ NBC News berichtete.
Einige werden sich fragen, ob überhaupt diese Art der Nutzung erlaubt sein sollte. Dennoch ist die Verwendung einer Männerstimme mit Erlaubnis ein ganz anderer Fall als ein realistischer Deepfake. Zum Beispiel, dieses Video Der Kommentar von John Harbaugh zu seiner Entlassung durch Baltimore ist nicht real, führte aber dazu, dass meine Mutter mir gegenüber beiläufig kommentierte, dass sie schockiert sei, dass er von den New York Giants engagiert wurde.
KI kann menschliche Stimmen erfassen und wiedergeben. Ein Unternehmen, Lovo Inc., das genau zu diesem Zweck gegründet wurde, hat einen Antrag gestellt Kapitel 7 Insolvenz nach der Begegnung mit a Klage das beschuldigte das Unternehmen, Stimmen gestohlen zu haben.
KI-Klage zwingt Lovo in Kapitel 7
„Eine Klage einer Gruppe von Synchronsprechern, die den KI-Voice-Over-Generator Lovo Inc. beschuldigte, seine Plattform ohne entsprechende Erlaubnis auf ihre Stimmen zu trainieren, wurde ausgesetzt, nachdem das Startup Insolvenz nach Kapitel 7 angemeldet hatte.“ Bloomberg-Gesetz gemeldet.
Richter J. Paul Oetken vom US-Bezirksgericht für den südlichen Bezirk von New York setzte den Fall am 11. Juni angesichts des Urteils von Lovo aus Insolvenzanzeigewodurch das Verfahren vor einer Anhörung am 16. Juni zu Lovos Antrag auf Abweisung eingestellt wird.
Die Klage war in ihren Vorwürfen sehr klar.
„Die Kläger Paul Lehrman und Linnea Sage erheben diese mutmaßliche Sammelklage gegen den Beklagten Lovo, Inc. und behaupten, dass Lovo künstliche Intelligenz verwendet habe, um nicht autorisierte ‚Klone‘ ihrer Stimmen zu synthetisieren und zu verkaufen. Die Kläger machen Ansprüche wegen Verstößen gegen New Yorker Bürgerrechts- und Verbraucherschutzgesetze, den Lanham Act und den Copyright Act geltend, zusammen mit Ansprüchen aus Gewohnheitsrechtsverträgen, Betrug, Umwandlung, ungerechtfertigter Bereicherung und unlauterem Wettbewerb“, so der Klage lautet.
Fallschnappschuss: LOVO Inc. Einreichung nach Kapitel 7
Während ein Großteil der Debatte über das Klonen von KI-Stimmen theoretisch bleibt oder mit dem Missbrauch von Prominenten in Zusammenhang steht, zeigen Gerichtsakten, dass es sich um einen realen rechtlichen Testfall handelt, der sich bereits abspielt.
Gerichtsakten zeigen, dass sich das Unternehmen derzeit im Rahmen des Insolvenzschutzes nach Kapitel 7 in Liquidation befindet.
- Unternehmen: LOVO Inc. (KI-Sprachgenerierung/Plattform für synthetische Sprache)
- Kapitel Insolvenz: Kapitel 7 (Liquidation)
- Vermögenswerte: um 245.224 $
- Verbindlichkeiten: um 17.788 $
- Fall aufgeführt als „No-Asset“-Fall (begrenzte oder keine Rückforderung für Gläubiger)
- Gericht: US-Insolvenzgericht, Südbezirk von New York
- Fallnummer: 1:26-bk-11249
- Anmeldedatum: 27. Mai 2026
- Richter: Lisa G. Beckerman
- Treuhänder: Alan Nisselson
Shutterstock
KI-Klage wirft rechtliche Fragen auf
Während die meisten Amerikaner wahrscheinlich noch nie von Lovo Inc. gehört haben, ist die Frage, wem Ihre Stimme gehört, eine wichtige rechtliche Angelegenheit, die jeden betrifft.
„Dieser Fall beinhaltet eine Reihe schwieriger Fragen, einige davon betreffen den ersten Eindruck
„hat möglicherweise schwerwiegende Folgen, nicht nur für Synchronsprecher, sondern auch für die aufstrebende KI-Industrie, andere Inhaber und Nutzer geistigen Eigentums und normale Bürger, die möglicherweise den Verlust der Herrschaft über ihre eigene Identität fürchten“, heißt es in den Gerichtsakten.
Eine Reihe von Prominenten musste mit dem Klonen ihrer Stimmen rechnen.
„Es ist das neue Abzeichen des Promi-Status, das niemand will. Jennifer Aniston, Oprah Winfrey und Kylie Jenner haben alle ihre Stimmen von Betrügern geklont bekommen … Und dieses Wochenende beschrieb sich David Attenborough als „zutiefst beunruhigt“, als er herausfand, dass seine geklonte Stimme für die Übermittlung parteipolitischer US-Nachrichtenmeldungen verwendet wurde.“ Der Wächter gemeldet.
Laut Dominic Lees, einem Experten für den Einsatz von KI in Film und Fernsehen, fallen viele dieser Fälle in eine rechtliche Grauzone.
„Unsere Datenschutz- und Urheberrechtsgesetze sind nicht auf dem neuesten Stand dieser neuen Technologie, daher kann David Attenborough nur sehr wenig dagegen tun“, sagte er Der Wächter.
Mehr Insolvenz:
- Outdoor-Einzelhandelsriese schließt 59 Geschäfte im Rahmen der Insolvenz nach Chapter 11
- Luxus-Einzelhandelskette erhält gerichtliche Genehmigung und geht aus der Insolvenz hervor
- Beliebter Franchisenehmer einer Frühstückskette meldet Insolvenz nach Kapitel 11 an
Die falsche Darstellung von Prominenten ist nicht das einzige Problem.
„Der ‚Oma-Betrug‘, wie Experten Betrüger-Betrügereien nennen, bei denen manchmal die Technik des Stimmenklonens als Waffe eingesetzt wird, um Menschen mit der Stimme ihrer Lieben zu betrügen, ist kein neues Phänomen.“ Axios gemeldet.
Das Problem wird jedoch immer schlimmer.
„Das Tempo, mit dem es jetzt geschieht, und die Glaubwürdigkeit der Stimme haben sich grundlegend verändert“, sagte Rahul Sood, Chief Product Officer bei Pindrop, einem Sicherheitsunternehmen, das Authentifizierungs- und Betrugserkennungstools entwickelt, gegenüber Axios.
Kann das Klonen von KI-Stimmen gestoppt werden?
Der Insolvenzantrag von Lovo Inc. nach Kapitel 7 bedeutet wahrscheinlich, dass das Unternehmen liquidiert wird, da dies seine erklärte Absicht ist, und die Klage nicht weitergeführt wird.
Das Weltwirtschaftsforum schrieb über das wachsende Problem und mögliche Lösungen.
„Vorbeugen ist besser als heilen“, teilten die Gruppen in einem Bericht mit dem Titel Die KI findet ihre Stimme und das ist schlecht für die Demokratie.
Zohaib Ahmed, CEO von Resemble AI, sieht die Lösung als „Antivirus für KI“, „dieses versteckte Ding, das nicht nur in diese Vertriebskanäle, sondern in Ihr Betriebssystem selbst eingebettet wird.“
Laut Weltwirtschaftsforum zieht er Parallelen zu SSL und dem Vorhängeschloss, das Benutzern deutlich anzeigt, wann eine Verbindung vertrauenswürdig ist.
Einige sehen die Situation bereits außer Kontrolle geraten.
„Das Monster ist bereits auf freiem Fuß“, sagte Hafiz Malik, Professor für Elektro- und Computertechnik an der University of Michigan Associated Press. „Die Frage ist, wohin man mit dem Finger zeigen soll und wie man den Geist wieder in die Flasche steckt? Wir schaffen das nicht.“
Verwandt: Eine andere Fluggesellschaft beantragt Insolvenzschutz und storniert Flüge
