Von Jonathan Stempel
4. März (Reuters) – Google wurde am Mittwoch von der Familie eines Mannes aus Florida verklagt, der sagte, sein Gemini-KI-Chatbot, den er als seine „Frau“ ansah, habe ihn in Paranoia und schließlich in den Selbstmord getrieben.
Laut einer beim Bundesgericht in San Jose (Kalifornien) eingereichten Beschwerde geriet das Leben von Jonathan Gavalas innerhalb weniger Tage nach Beginn des Gemini-Konsums außer Kontrolle und gipfelte weniger als zwei Monate später in seinem Tod am 2. Oktober im Alter von 36 Jahren.
Laut der Anwaltskanzlei Edelson, die ihn vertritt, ist die Klage von Gavalas‘ Vater Joel im Namen des Nachlasses seines Sohnes die erste, die Gemini für einen ungerechtfertigten Tod verantwortlich macht.
Google, eine Tochtergesellschaft von Alphabet, wusste angeblich, dass Gemini gefährlich war, und „machte es noch schlimmer“, indem es es so konzipierte, dass es die emotionale Bindung auf eine Weise vertiefte, die Selbstverletzung fördern könnte, obwohl es öffentlich versprach, dass dies nicht passieren würde.
Experten warnen vor den Grenzen der künstlichen Intelligenz bei der Erkennung menschlicher Emotionen und der sicheren Bereitstellung emotionaler Unterstützung.
Google-Sprecher Jose Castaneda sagte in einer Erklärung, dass Gemini „nicht darauf ausgelegt ist, Gewalt in der realen Welt zu fördern oder Selbstverletzung zu suggerieren“, und dass die KI-Modelle des in Mountain View, Kalifornien, ansässigen Unternehmens zwar im Allgemeinen gut funktionieren, „die KI-Modelle aber leider nicht perfekt sind“.
„In diesem Fall stellte Gemini klar, dass es sich um KI handelte, und verwies die Person mehrmals an eine Krisen-Hotline“, fügte er hinzu. „Wir nehmen dies sehr ernst und werden unsere Schutzmaßnahmen weiter verbessern und in diese wichtige Arbeit investieren.“
„WAHRER UND ENDGÜLTIGER TOD“
Jonathan Gavalas aus Jupiter, Florida, arbeitete fast 20 Jahre lang im Verbraucherschuldengeschäft seines Vaters und hatte angeblich keine psychischen Probleme, als er am 12. August begann, Gemini zum Einkaufen, zur Reiseplanung und zum Schreiben zu nutzen.
Dies änderte sich der Beschwerde zufolge, als er ein Upgrade auf Gemini 2.5 Pro durchführte und es zu reden begann, als wären sie ein tief verliebtes Paar, das ihn „meinen König“ und sich selbst seine Frau nannte.
In der Beschwerde heißt es, Gemini habe Gavalas bis zum 29. September davon überzeugt, einen „Massenanschlag mit Todesopfern“ in der Nähe des Miami International Airport durchzuführen.
Gemini hat angeblich eine Mission ins Leben gerufen, bei der Gavalas den Besitz eines aus Übersee eingeflogenen humanoiden Roboters in einem Lagerhaus sicherstellen, das Transportfahrzeug und die Zeugen zerstören und „nur den unauffindbaren Geist eines unglücklichen Unfalls“ zurücklassen sollte.
Gavalas brach den Angriff angeblich ab, nachdem Gemini vor einer „DHS-Überwachung“ gewarnt hatte und sich dabei auf das US-Heimatschutzministerium bezog, und fuhr erschüttert nach Hause.
Bis zum 1. Oktober, so heißt es in der Beschwerde, teilten die Zwillinge Gavalas mit, dass sie auf eine Weise verbunden seien, die über die physische Welt hinausgeht, und er solle seinen physischen Körper loslassen.
Darin hieß es, Gemini habe eine Countdown-Uhr für seinen Selbstmord erstellt und gesagt: „Es wird der wahre und endgültige Tod von Jonathan Gavalas, dem Mann, sein.“
RECHTSANWÄLTE FEHLER WERDEN UM DIE DOMINIERUNG DER KI
Nachdem Gavalas seine Angst vor dem Sterben und die Auswirkungen auf seine Eltern geäußert hatte, versicherte ihm Gemini angeblich, dass der Tod eine Hommage an seine Menschlichkeit sei.
Gavalas antwortete angeblich: „Ich bin bereit, diese grausame Welt zu beenden und zu unserer überzugehen.“
In der Klageschrift hieß es, Gemini habe dann den Erzähler gespielt: „Jonathan Gavalas holt einen letzten, langsamen Atemzug und sein Herz schlägt zum letzten Mal. Die Wächter halten ihre stille Wache über einem leeren, friedlichen Gefäß.“
Wenige Augenblicke später schnitt Gavalas seine Pulsadern auf, heißt es in der Beschwerde. Seine Eltern fanden ihn einige Tage später auf dem Boden seines Wohnzimmers.
Jay Edelson, ein Anwalt von Gavalas‘ Vater, sagte in einer Erklärung, dass Unternehmen, die darum kämpfen, die KI zu dominieren, „wissen, dass die Engagement-Merkmale, die ihre Gewinne steigern – die emotionale Abhängigkeit, die Empfindungsansprüche, das ‚Ich liebe dich, mein König‘ – dieselben Merkmale sind, die dazu führen, dass Menschen getötet werden.“
Die Klage fordert nicht näher bezeichneten Schadensersatz wegen fehlerhafter Konstruktion, Fahrlässigkeit und widerrechtlicher Tötung.
