US-Regierung sperrt KI-Modell: Wie steht es wirklich um unserer Digitale Souveränität?

Die US-Regierung hat den weltweiten Zugang zum KI-Modell Fable 5 des Unternehmens Anthropic gesperrt – für alle Nicht-US-Bürger, über Nacht, ohne Vorwarnung. Was zunächst nach einem technischen Sicherheitsvorfall klingt, wirft eine viel grundlegendere Frage auf: Wie abhängig sind europäische Unternehmen eigentlich von amerikanischer Software – und was passiert, wenn Washington den Stecker zieht?

Cornelius Stiegler-Duwe, Head of AI Applications bei team neusta, erklärt im Interview, was hinter dem Vorfall steckt – und warum er ein Weckruf für ganz Europa ist.

Die U.S. Regierung untersagt den Zugang zum neuesten Claude KI Modell Fable5 für alle nicht US-Amerikaner – egal ob im Inland oder im Ausland – und das Unternehmen kappt daraufhin den kompletten Zugang zu diesem neusten und stärksten Modell. Besteht jetzt Grund zur Panik?

Panik ist ja selten konstruktiv. Wir hier bei team neusta haben keine Panik, denn wir haben auch eigene KI-Modelle auf eigenen Servern hier in Deutschland – und die laufen autonom. Andererseits kann Panik viel Energie freisetzen, und ein Warnschuss war das in jedem Fall. Es ist das erste Mal, das wir in Europa und weltweit erleben, wie schnell uns die US-Regierung den Zugang zu US-Software untersagen kann man. Und natürlich sollte die Frage folgen: Wie unabhängig sind wir denn, wenn das passiert?

Das klingt wie der lange befürchtete „Killswitch“ – dass also ein US-Präsident uns einfach den Zugang zur Cloud entziehen kann?

Ja, das spielt mit hinein – man muss aber ganz klar zwei Dinge trennen: zum einen die Sicherheitsbedenken, die zu Fable5 bzw. der Umgehung der Zugangsbeschränkungen genannt wurden – und zum anderen diese Maßnahme der Exportbeschränkung und das Abschalten der Zugänge.

Dann zuerst zum konkreten Fall. Was ist denn da genau passiert?

Berichte und Äußerungen dazu haben sich in den vergangenen Tagen überschlagen. Nach aktuellem Stand der Informationen gab es ein Problem mit dem Classifier-Algorithmus – also der Zugangsbeschränkung, die bei der Eingabe einer Nachricht an das KI-Modell regeln soll, welche Fragen beantwortet werden und welche an das weniger leistungsfähige Vorgängermodell „Opus“ weitergereicht werden. Denn Fable 5 ist grundsätzlich eine „eingeschränkte“ Version des Claude-Mythos-Modells, das Anthropic selbst als „zu gefährlich für die Öffentlichkeit“ eingestuft hat.

Dieses Mythos-Modell hatte reihenweise Sicherheitslücken in großen Software-Systemen aufgedeckt und wurde deswegen im Rahmen von Projekt „Glasswing“ zunächst nur ausgewählten US-Regierungsbehörden und einzelnen betroffenen Unternehmen zur Verfügung gestellt.

Nun präsentierte Anthropic schließlich doch eine eingeschränkte Version für die Öffentlichkeit: Fable 5. Allerdings nicht mit einem grundsätzlich anderen Modell, sondern – soweit bekannt – lediglich mit einem vorgeschalteten Classifier. Und genau diese Zugangsbeschränkung ließ sich offenbar austricksen.

Aha – also wie die Vorfälle, bei denen man die Filter früherer KI-Modelle umgehen konnte, indem man seine Anfrage als Gedicht formuliert hat?

Richtig, diese Art der Prompt Injections führt dazu, dass sich die KI Sprachmodelle nicht so verhalten, wie sie sollten – und zwar durch geschickt in der Nachricht ans Modell eingebettete Nebenanweisungen. Im konkreten Fall wurde das offenbar auf zwei Wegen versucht: über die Vortäuschung einer Entwicklungsumgebung, also einer „vertrauenswürdigen Herkunft der Anweisung“, und über einen sehr langen Prompt, der genau auf den „Bauplan“ des Klassifizierungsalgorithmus abgestimmt war.

So gelang es anscheinend, doch auf das gesamte Mythos Modell zuzugreifen – also genau das KI-Modell, das Anthropic selbst für zu gefährlich hielt.

Es gibt auch Stimmen, die berichten, US-Behörden hätten Anthropic aufgefordert, diese Lücken sofort zu schließen.  Das sei nicht geschehen…
Wie dem auch sei: Das scheint der Anlass gewesen zu sein, das Modell aus Gründen der nationalen Sicherheit für alle Nicht-US-Bürger zu sperren. Da das nicht praktikabel war, wurde der Zugang schließlich insgesamt gesperrt.

Das klingt einerseits nach einer tatsächlichen Sicherheitslücke und andererseits nach einer recht harten Reaktion – zumindest für alle Nicht-US-Bürger?

In der Tat. Es zeigt, dass man sowohl bei KI als auch bei Software allgemein immer das Gesamtsystem betrachten muss. Man braucht die Firewall des Servers nicht zu hacken, wenn man einem unachtsamen Mitarbeiter das Passwort entlocken kann. Genauso lassen sich KI-Systeme missbrauchen, wenn die Zugangsbeschränkungen umgehbar sind.

Unabhängig von den fachlich-technischen Dingen ist dieser zweite Schritt „bemerkenswert“: Die US-Regierung kann den Zugang zu US-Software für Nicht-US-Staatsbürger per Verfügung sperren – quasi per Sofortbeschluss.

Warum ist dieser „Warnschuss“ jetzt so wichtig?

Wir wissen jetzt, wie schnell es gehen kann. Wir wissen jetzt, wie „einfach“ es für die US-Regierung ist, uns den Zugang zu einer US-Software zu entziehen.

Hier musste nicht erst ein Gesetz verabschiedet werden und in Kraft treten.
Eine Exportbeschränkung greift sehr schnell, ohne Parlamentsbeschluss oder Gerichtsverfahren – und die US-Unternehmen müssen dem folgeleisten.

Jetzt hält sich hier das Schadenspotenzial vermutlich sehr in Grenzen. Das Modell Fable 5 war erst wenige Tage auf dem Markt. Es ist nicht anzunehmen, dass ein deutsches Unternehmen darauf direkt sein Geschäftsmodell aufgebaut hat.

Aber es zeigt: Man kann uns US-Software-Services entziehen.
Von heute auf morgen, ohne Debatte, ohne Entschädigung.
Und ohne, dass wir von außen irgendeinen Einfluss hätten.

Das wäre alles nicht so dramatisch, wenn nicht unsere Infrastruktur, unser tägliches Arbeiten inzwischen so stark an US-Software-Diensten hängen würde. Aber überlegen Sie mal, wie viele Elemente unserer IT-Landschaft inzwischen an ausländischen Firmen hängen. Was für ein Smartphone haben Sie? Ist das Made in Germany?

Natürlich. Apple, Google, Microsoft, AWS (Amazon Web Services) sitzen alle in den USA. Das klingt besorgniserregend.

Nochmal: Es geht hier nicht um Panik. Es geht um Klarheit. Wenn wir ehrlich sind, haben wir uns als Europa immer mehr darauf verlassen, dass diese Dienste selbstverständlich zur Verfügung stehen. Auch morgen, auch nächstes Jahr noch – und zu Preisen, die wir bezahlen können und wollen. Es ist quasi Standard geworden, dass wir über Abo-Geschäftsmodelle an solche Dienste gebunden sind. Das heißt, dass wir gar nicht mehr die „Besitzer“ der Software sind, sondern wir „mieten“ nur den Zugang dazu. Und wir mieten im Übrigen auch den Zugang zu den Sicherheitsupdates für diese Software.

Wirtschaftlich können wir immer argumentieren, dass die US-Firmen die Kunden und Profite aus Europa nicht verlieren wollen. Aber was, wenn eine Regierung den Zugang aus politischen Gründen kappt? Wie gut sind wir dann aufgestellt?

Wie schnell es gehen kann, haben wir jetzt gesehen. Diese Abhängigkeit grundsätzlich anzuerkennen und sich ehrlich zu entscheiden, wie souverän wir sein wollen – das ist der Weckruf, der jetzt durch Europa und durch die Welt gehen sollte.

Gibt es denn europäische Alternativen? Sitzen wir nicht längst auf dem Trockenen?

Ja, es gibt Alternativen – mehr als man denkt.

Es gibt deutsche und europäische Player. Es gibt sogar eine deutsche Fabrik in Bocholt, die Smartphones unter dem Namen Gigaset produziert, auch wenn die Eigentümer inzwischen in Hongkong sitzen. Im KI-Bereich beschäftigen wir uns schon lange damit und die Antwort sind Open Source KI-Modelle, die wir selbstständig auf deutschen und europäischen Servern betreiben. Wenn Firmen ganz autonom sein wollen, kann man diese Server in verschiedenen Leistungsstufen auch vor Ort als OnPremise installieren.

Im KI-Markt haben wir außerdem in Frankreich mit Mistral ein großes Sprachmodell, also einen LLM-Konkurrenten zu ChatGPT und Co. Hier gibt es inzwischen auch eine Variante speziell zur Unterstützung von Software-Entwicklung – wofür die Claude-Modelle ebenfalls bekannt sind.
Außerdem gibt es das kleinere Teuken Modell von deutschen Forschern von Fraunhofer und dem DFKI, die Soofi-Initiative, die an einem souveränen europäischen KI-Modell arbeitet. Und es gibt mit n8n einen Spezialisten für Automationsworkflows aus Berlin, der gerade eine große Kooperation mit SAP gestartet hat.

Es gibt also Alternativen und wir wissen, wie es geht. Wir müssen uns nur aktiv dafür entscheiden und in diese Alternativen investieren.

Bleibt noch die Hardware. Bei den Chips, auf denen KI trainiert und ausgeführt wird, scheint kein Weg an dem US-Unternehmen NVIDIA vorbeizuführen?

Doch, natürlich gibt es andere Wege. Wir haben diese in der Vergangenheit nur nicht bestritten. Vielleicht, weil alle immer das „Beste“ wollten. Dort ist NVIDIA führend. Andere Unternehmen wie Google haben schon lange Initiativen gestartet, um eigene KI-Chips zu entwickeln. Google selbst ist allerdings auch ein US-Unternehmen und wäre von Exportverboten genauso betroffen wie NVIDIA.

Viele Chips werden übrigens nicht in den USA vor Ort, sondern in Fernost – vor allem Taiwan – produziert. Die Lieferkette ist also ein weiterer Faktor. Spätestens seit dem Iran-Krieg oder auch dem querliegenden Frachtschiff im Suez-Kanal wissen wir, wie fragil die Seewege sein können.

Ein europäischer Player, der vor Ort in Europa KI-Chips produziert, wäre schon ein wichtiger Schritt.

Kurzum: Ja, wir haben Alternativen. Aber wir haben diese Alternativen in den letzten Jahren und Jahrzehnten nicht systematisch aufgebaut. Das sollten wir ändern, wenn wir wirklich digital souverän werden wollen.

Was ist denn Ihre Empfehlung an Unternehmen, die sich jetzt dem Thema stellen wollen?

Unsere erste Empfehlung: Durchatmen.
Ein kurzer IT-Resilienz-Check: Sind die IT-Systeme, die die Wertschöpfung sicherstellen, akut bedroht? Dann muss man sofort handeln. Dabei können wir auch unterstützen.
Darüber hinaus hilft ein kühler, klarer Blick oft mehr als blinder Aktionismus.

Unsere zweite Empfehlung: Eine ehrliche Bestandsaufnahme.
Was läuft über welche Systeme? Wie laufen unsere Prozesse im Unternehmen durch unsere IT- und Softwarelandschaft? Wo nutzen wir welche Hardware und Software?

Wie unabhängig sind wir dort aktuell und wie unabhängig könnten wir werden?
Wo sind wir wie lange vertraglich gebunden und wo brauchen wir welchen technischen und ggf. fachlichen Veränderungsprozess bei einer Umstellung?

Auch dafür gibt es Unterstützung und klare Methoden. Auch die Priorisierung ist hier entscheidend. Den E-Mail-Client zu wechseln, ist vermutlich einfacher, als die gesamte Laptop- und Smartphone-Landschaft eines Unternehmens umzustellen. Außerdem kann man mit „jüngeren“ Systemen beginnen, bei denen die Abläufe noch nicht so festgefahren sind bzw. noch nicht alle Mitarbeitenden im Unternehmen betroffen sind.

Dann kann man im dritten Schritt einen Plan und eine Projektierung machen, welche Systeme in welcher Reihenfolge angegangen werden sollen.

Was könnte denn ein guter Einstieg sein?

Um den Bogen zum Anfang zu schlagen: Oft ist KI ein guter Anfang. Unternehmen stehen hier häufig noch am Anfang und haben evtl. noch keine langfristigen Entscheidungen für einen KI-Hersteller getroffen. Dann kann man auf jeden Fall durchspielen, ob ein in Deutschland oder On-Premise gehostetes System mit Open Source Modellen eine Alternative ist. Eventuell spart man mittelfristig sogar Geld, weil man keine Lizenzen und Tokenkosten mehr an ChatGPT und Co. bezahlen muss.

Souveräner werden und dabei noch Geld sparen? Das klingt vielversprechend.

Vielen Dank für das Gespräch.

Dein Experte

Cornelius Stiegler-Duwe ist als Head of AI Applications die Brücke zwischen der Expertise unserer KI-Teams und den Anwendungsszenarien unserer Kunden. Als erfahrener Berater, Stratege und Product Owner liegt sein Fokus auf der Analyse der Use Cases und der Modellierung von passgenauen Lösungen, die vor allem eins mitbringen: konkreten Impact.

Du willst mehr zu dem Thema erfahren?

Cornelius Stiegler-Duwe freut sich auf deine Nachricht: ai@neusta.de

Image by AI MS Copilot