Als Anthropic Anfang des Jahres gezwungen war, sein leistungsfähigstes Modell "Fable" zurückzuziehen, war ein Frontier-Modell-Anbieter praktisch von heute auf morgen abgeschnitten. Viele Firmen haben dabei festgestellt, dass ihr KI-Produkt einen Single Point of Failure hatte, den niemand ins Risikoregister eingetragen hatte. Wir liefen damals größtenteils noch auf dem Vorgängermodell Opus, aber trotzdem: Wir waren geschockt und haben angefangen, darüber nachzudenken, was passiert, wenn wir komplett abgeschnitten werden.
Unser Ergebnis: Wir haben eine zweite Tür gebaut. Hört mich kurz an.
Wenn eure Kernfeatures komplett über die API eines einzigen Anbieters laufen, habt ihr kein Werkzeug gekauft. Ihr habt im Grunde den denkenden Teil eures Produkts gemietet. Tokenpreis, Verfügbarkeit und welches Modell es im nächsten Quartal noch gibt, wird woanders entschieden - von Leuten, die vielleicht noch nie von euch gehört haben und denen es egal ist, ob euer Geschäft weiter existiert.
Die übliche Antwort ist der Ruf nach Unabhängigkeit. Seit über 30 Jahren gehen wir genau so mit solchen Situationen um. Deshalb betreiben wir viel Open-Source-Software in unseren Rechenzentren und unser eigenes Mobile Core Network. Aber bei KI ist Unabhängigkeit das falsche Ziel. Niemand, der ein mittelständisches Unternehmen führt, wird Chips bauen oder ein Frontier-Modell trainieren. Was man aber bauen kann, ist eine zweite Tür: Open-Weight-Modelle auf Hardware, die man selbst kontrolliert, oder bei einem Partner, den man ebenfalls austauschen könnte.
Diese zweite Tür ist die eigentliche KI-Investition. Nicht die Tokens, die man bei den großen Frontier-Anbietern kauft. Sondern die GPUs, der Strom, die speziellen Rechenzentrumsverträge, die Kühlung. Ja, das ist sehr teuer! Eine Investition in der Größenordnung eines neuen Fabrikgebäudes. So eine Investition hatten wir noch nie in unserem Budget. Wir haben uns trotzdem entschieden, diese zweite Tür zu bauen, weil sie einen Ausgang bedeutet. Und das Merkwürdige an einem Ausgang ist: Er zahlt sich aus, auch wenn man nie hindurchgeht. Denn allein seine Existenz verändert jedes Gespräch mit den Anbietern von Frontier-Modellen. Plötzlich verhandelt man mit ihnen keine Token-Budgets in Millionenhöhe mehr. Kleine Pläne für die gelegentlichen Ausreißer-Use-Cases, die wirklich ein Frontier-Modell brauchen, reichen dann aus.
Der nächste Cutoff wird kommen. Das tut er immer. Die Firmen mit einer zweiten Tür haben dann einen ruhigen Nachmittag. Alle anderen ein verlorenes Quartal und ein sehr langes All-Hands.
Eine zweite Tür zu bauen und instand zu halten kostet Arbeit und Geld.