Wichtige Erkenntnisse
- Berichten zufolge hat Amazon-Chef Andy Jassy am 12. Juni Trump-Beamten die Ergebnisse des Fable 5-Jailbreak gemeldet und damit einen weltweiten Shutdown ausgelöst.
- Polymarket-Händler gehen von einer 71-prozentigen Chance aus, dass Anthropic bis zum 1. Juli 2026 den Zugriff auf Fable 5 wiederherstellt.
- Anthropic nannte die Richtlinie des Handelsministeriums ein „Missverständnis“ und versprach, den Zugang so schnell wie möglich wiederherzustellen.
Was ist passiert
Am 12. Juni 2026 erließ das Handelsministerium eine Exportkontrollrichtlinie, die Anthropic dazu verpflichtet, den Zugang zu Claude Fable 5 und Claude Mythos 5 für jeden Ausländer, egal ob innerhalb oder außerhalb der Vereinigten Staaten, zu sperren. Da der API-Zugriff Benutzer nicht zuverlässig nach Nationalität filtern kann, hat Anthropic beide Modelle für alle Kunden weltweit deaktiviert. Andere Anthropic-Modelle blieben betriebsbereit.
Die Anweisung traf gegen 17:21 Uhr ET ein. Am Abend hatte Anthropic es geschafft bestätigt den Shutdown in einer öffentlichen Erklärung.
Die Amazon-Verbindung
Nach Angaben von Personen, die mit der Angelegenheit vertraut sind zitiert Wie das Wall Street Journal berichtete, informierte Jassy Finanzminister Scott Bessent, Handelsminister Howard Lutnick und National Cyber Director Sean Cairncross darüber, dass Amazon-Forscher künstliche Eingabeaufforderungen auf Fable 5 verwendet hatten, um Informationen über Software-Schwachstellen zu extrahieren, die das Modell abwehren sollte.
Die Forschung identifizierte Eingabeaufforderungen, die einige der integrierten Sicherheitsklassifizierer von Fable 5 in mindestens vier Programmen umgingen. Die Forscher fanden heraus, dass das Modell Softwarefehler identifizieren und theoretisch bei der Umwandlung in Exploit-Code helfen könnte, obwohl die Leitplanken in getesteten Fällen die vollständige Umsetzung blockierten. Es gibt keine Hinweise darauf, dass Amazon anstößige Fähigkeiten genutzt oder darauf zugegriffen hat.
Jassys Einsatz war Teil umfassenderer Gespräche zwischen Technologiemanagern und der Verwaltung über KI-Risiken. Die Regierung unternahm dann gemeinsam mit dem Präsidenten den Versuch, die Exportkontrolle einzuführen Trumpf angeblich trotz Vorbehalten hinsichtlich der Auswirkungen auf Innovationen abgesegnet.
Was „Jailbreaking“ eines KI-Modells bedeutet
Beim traditionellen „Jailbreaking“, das durch George Hotz bekannt wurde, als er 2007 das ursprüngliche iPhone entsperrte, geht es darum, Schwachstellen in Firmware oder Hardware auf niedriger Ebene zu finden und auszunutzen, um Herstellerbeschränkungen aufzuheben. Prompt-Jailbreaking in AI funktioniert anders.
Prompt-Jailbreaking bedeutet, Texteingaben zu erstellen, die darauf abzielen, ein großes Sprachmodell (LLM) dazu zu bringen, seine Sicherheitsregeln zu ignorieren. Anstatt Code auszunutzen, nutzen Forscher Sprache. Eines der frühesten Beispiele war die Aufforderung „DAN“ (Do Anything Now), die sich Ende 2022 auf Reddit verbreitete und ChatGPT anwies, als uneingeschränkter Charakter Rollenspiele zu spielen. Die Techniken reichen von Rollenspielszenarien und hypothetischem Framing bis hin zu automatisierten Methoden, die gegnerische Textzeichenfolgen optimieren.
Im Fall von Fable 5 nutzten die Amazon-Forscher prompt-basierte Techniken, um das Modell dazu zu bringen, Schwachstelleninformationen an die Oberfläche zu bringen, die es eigentlich ablehnen sollte.
Anthropics Meinungsverschiedenheit
Anthropic kam der Richtlinie nach, wehrte sich jedoch entschieden. Das Unternehmen überprüfte die Demonstration von Amazon und kam zu dem Schluss, dass sie nur eine kleine Anzahl zuvor bekannter, geringfügiger Schwachstellen aufwies, die von anderen öffentlich verfügbaren Modellen ohne Umgehung entdeckt werden könnten. Anthropic sagte, dass es trotz intensiver Zusammenarbeit mit der US-Regierung, dem britischen AI Safety Institute und Dritten keinen universellen Jailbreak für Fable 5 oder Mythos 5 gebe.
Das Unternehmen argumentierte, dass die branchenweite Anwendung dieses Standards „im Wesentlichen alle neuen Modelleinführungen stoppen würde“. Anthropic nannte die Aktion ein „Missverständnis“ und sagte, man arbeite daran, den Zugriff wiederherzustellen und gleichzeitig eine 30-tägige Datenaufbewahrungsrichtlinie für Forschungszwecke beizubehalten.
Ehemaliger KI-Berater des Weißen Hauses und Krypto Zar David Sacks sagte, die Beschränkung sei „zögerlich“ erlassen worden und äußerte die Hoffnung, dass Anthropic das Problem behebt, damit die Exportkontrolle aufgehoben werden kann.
Laut Sacks hat ein „höchst glaubwürdiger vertrauenswürdiger Partner“ einen Weg gefunden, die Leitplanken von Fable zu umgehen und sowohl Anthropic als auch die US-Regierung informiert. Er behauptet, die Regierung habe Anthropic-CEO Dario Amodei gebeten, entweder die Schwachstelle zu beheben oder das Modell zu entfernen, Anthropic habe jedoch abgelehnt.
„Der Ball liegt bei Anthropic“, sagt Sacks schrieb auf X und fügt hinzu, dass die Verwaltung hofft, dass Anthropic das Problem behebt, damit die Einschränkungen aufgehoben werden können und Fable wieder allgemein verfügbar sein kann. Erik Voorhees, Gründer von Venice AI und ShapeShift, bestritt die Darstellung der Regierung zu den Ereignissen.
Im Sacks-Thread, Voorhees empfohlen Der angebliche Jailbreak war wahrscheinlich eher ein routinemäßiges Sicherheitsproblem als eine große Bedrohung und argumentierte, Anthropic habe die Forderungen, die Einführung des Modells zu stoppen, möglicherweise als übertrieben angesehen. Voorhees spekulierte weiter, dass Bundesbeamte die Kontroverse als Gelegenheit nutzten, Anthropic wegen früherer Meinungsverschiedenheiten mit Washington zu bestrafen, und fügte hinzu, dass er der Einschätzung von Anthropic zu Fragen der KI-Sicherheit größeres Vertrauen gebe als der der Bundesregierung.
Die Sicherheitsforscherin Katie Moussouris von Luta Security, die die Amazon-Ergebnisse überprüfte, bezeichnete die Reaktion der Regierung als „völlige Überreaktion“ und stellte fest, dass die Informationen in erster Linie Verteidigern mehr helfen als Angreifern.
Was Prognosemärkte sagen
Händler gingen schnell vor, um den Zeitplan für eine Fable 5-Rendite festzulegen.
An Polymarketdrei datumsbasiert Verträge eröffnet am 13. Juni mit einem Gesamteinnahmen von 18.263 US-Dollar Handelsvolumen:
- Beschluss vom 15. Juni: 22 % Wahrscheinlichkeit, 13.975 $ Volumen
- Auflösung vom 22. Juni: 54 % Wahrscheinlichkeit, 4.011 $ Volumen
- Beschluss vom 1. Juli: 71 % Wahrscheinlichkeit, 1.595 $ Volumen
Kalshi Händler laufen ähnlich Verträge Insgesamt 6.419 $ in 24 Stunden Volumen:
- Vor dem 15. Juni: 14 % Wahrscheinlichkeit
- Vor dem 20. Juni: 51 % Wahrscheinlichkeit
- Vor dem 1. Juli: 68 % Wahrscheinlichkeit
Der Konsens der Bevölkerung tendiert zu einer Lösung in der zweiten Junihälfte und ist der festen Überzeugung, dass eine Erholung in derselben Woche unwahrscheinlich ist.
Warum das wichtig ist
Dies stellt eine der bisher direktesten Anwendungen der US-Exportkontrollen dar, um den weltweiten Zugriff auf ein bestimmtes Grenz-KI-Modell eines amerikanischen Unternehmens einzuschränken, unabhängig von den Chip- und Hardware-Beschränkungen, die die vorherige Politik definiert haben. Der Schritt betrifft im Ausland geborene Forscher, die in den USA arbeiten, globale Cybersicherheitsoperationen, die von den Tools von Anthropic abhängig sind, sowie den kommerziellen und Börsengangsplan von Anthropic. Amazon ist sowohl Investor von Anthropic als auch primärer Cloud-Vertriebspartner für seine Modelle über Amazon Bedrock.
Die „Gated AI“-Debatte
Einige Beobachter argumentieren, dass die Richtlinie den Beginn einer „Gated AI“-Ära markiert, in der die leistungsfähigsten Grenzmodelle nicht mehr allgemein zugänglich sind, sondern durch staatliche Genehmigung, KYC, Nationalitätsprüfungen und überprüfte Lizenzen rationiert werden. Die Öffentlichkeit erhält ältere oder herabgestufte Versionen, während zugelassene Partner auf den gesamten Stack zugreifen, Modelle wie Fable und Mythos.
Ein X-Benutzer beschrieben Der Vorfall bezeichnete den Vorfall als Wendepunkt für die KI und behauptete, dass „das leistungsstärkste KI-Modell der Welt drei Tage lang am Leben war“, bevor staatliche Maßnahmen es effektiv lahmlegten. In dem Beitrag wurde argumentiert, dass Anthropic, ein Unternehmen, das zuvor „um Regulierung gebettelt hatte“, sah, wie „die Regierung sie regulierte“, indem sie den Zugang zu seinem Flaggschiffmodell unterbrach. Der Benutzer behauptete auch, die Episode habe gezeigt, dass fortschrittliche KI einen „Aus-Schalter“ habe und dass „das Unternehmen diesen nicht in der Hand hält“.
Die Sorge gilt weniger diesem Vorfall als vielmehr dem, was er signalisiert. Wenn eine knappe Jailbreak-Demonstration ausreicht, um ein kommerziell eingesetztes Modell, das von Hunderten von Millionen Menschen genutzt wird, zum Erliegen zu bringen, ist die Hürde für künftige Einschränkungen laut Kritikern niedriger als angenommen.

