Deutschland und KI, das ist wie Huhn und Fuchs. Pass nicht wirklich. Dachte ich bis letzte Woche zumindest. Aleph Alpha war mal das eine Unternehmen, in das ich ein bisschen Hoffnung gelegt hatte. Heute redet kaum noch jemand darüber. Cohere aus Kanada übernimmt knapp 90 Prozent der Anteile, Doppelsitz Kanada und Deutschland. Im selben Atemzug startet die Bundesregierung Anfang 2026 am Rande der Münchner Sicherheitskonferenz eine Sovereign Technology Alliance mit eben jenem Kanada.
Dazu kommt: wir schaffen ja nicht mal die normale Digitalisierung in der Verwaltung. Philip Banse und Ulf Buermeyer haben das in ihrem Buch Baustellen der Nation gut zusammengefasst. Da steht ganz nüchtern, woran es seit Jahrzehnten hängt. Nicht an der Idee. Nicht am Geld. Am Wollen-Können-Müssen-Knoten. Wie soll dann KI in der Verwaltung helfen? Und obendrein werden DSGVO und KI Act, so meine Erwartung, jeden Funken Mut, der irgendwo zu glimmen anfängt, sicher noch ersticken.
So bin ich also nach Bremen gefahren.
THINK REACTOR heißt das Format. Veranstalter ist JAAI (Just Add AI). Hundert, hundertzwanzig Leute in der einer tollen Location über den Dächern Bremens, moderner Saal, gute Verpflegung, Bier für den Sundowner, gute Vorträge. Und draußen auf der Terrasse der Sonnenuntergang über dem Bremer Hafen.
Was ich nicht erwartet hatte, war, dass mich der Abend in zwei Punkten umstimmen würde.
Den Aufwärmer machte Roland Becker, JAAI-Gründer, mit einer Demo. Ein LLM, lokal, auf einem MacBook. Ja gut: ein 128-Gigabyte-RAM-MacBook mit Vollausstattung. Aber es läuft. Ein Modell mit 286 Milliarden Parametern, das in vielen Vergleichen über GPT-4.1-Qualität liegt, auf seinem Rechner, ohne dass ein einziges Token den Saal verlässt.
Kante ich eigentlich. Ich habe lebst schon mit lokalen Modellen experimentiert auf meinem 24-Gigabyte-MacBook, Aber ich greife doch wieder auf die großen zurück, wenn es ernst wird. Und eben deshalb: gut, das nochmal vor Augen geführt zu bekommen. Da bewegt sich etwas, schneller als der durchschnittliche Diskurs nachkommt. Notiz an mich selbst: da nochmal ran.
„In sechs Monaten werden wir das, was gerade Frontier ist, auch lokal laufen haben.”
Der erste Punkt kam mit Klaus Büttgen, CDTO bei BITMARCK. BITMARCK ist das IT-Haus für rund 80 Prozent der gesetzlichen Krankenkassen, 1.900 Mitarbeitende, Non-Profit, hostet die elektronische Patientenakte und die TI-Infrastruktur für rund 75 Millionen Versicherte. Wer das in der Hand hat, darf beim Thema Souveränität kein Anfänger sein.
Büttgen redete sehr klar. Sinngemäß: einem amerikanischen Präsidenten zu glauben, dass er nicht auf europäische Daten zugreift, sei keine seriöse Annahme. Der Cloud Act sage etwas anderes. Konsequenz für BITMARCK: Eintritt in die govdigital-Genossenschaft. Statt Einzelabhängigkeit ein Sechs-Säulen-Modell aus den drei Hyperscalern (Microsoft, Amazon, Google) plus STACKIT, Ionos und einem eigenen Rechenzentrum. Kritische Gesundheitsdaten bleiben grundsätzlich im Haus.
Aber das war noch Strategie. Der eigentliche zweite Punkt kam mit Enrico Pause.
KIPITZ: KI in der Behörde
Enrico Pause, Chief Product Owner bei KIPITZ, der KI-Plattform des Bundes, gehostet beim ITZBund. Bundesoberbehörde, viereinhalbtausend Mitarbeitende an zwölf Standorten, Haushalt 1,6 Milliarden, 140.000 Endgeräte. Ein ganz kleiner Teil dieser Behörden-Familie kümmert sich um Generative KI für die Bundesverwaltung. Wenig Glanz, viel Substanz.
Was sie gebaut haben, hat mich doch sehr erstaunt.
KIPITZ läuft auf eigenem Rechenzentrum. Die Modelle mit einer signifikanten Anzahl eigener GPUs. Behörden, die teilnehmen, kriegen ihre eigenen Grafikkarten zugewiesen und können darauf bis hinauf zu VS-NFD-eingestuften Daten verarbeiten. On-Prem, mandantenfähig, jede Behörde mit eigenem Portal, das sie selbst konfiguriert: Modelle, Prompts, Apps, alles über eine Fachadministration in der Behörde. Daneben können sie Public-Cloud-Modelle anstöpseln, wenn ein Use Case das hergibt. Überwiegend setzen sie aber auf Open-Source-Modelle. Die halten nach Enricos Worten mittlerweile sehr gut mit den kommerziellen mit. Und wenn es kompliziert wird, geht auch ein europäisches Modell wie Mistral darüber.
Sie denken in Schichten. Pseudonymisierung. Anonymisierung. Wissensdatenbanken via RAG mit verlinkten Quellen-Chunks, damit du jede Antwort bis zur Originalstelle zurückverfolgen kannst. Explainable AI. App-Logik plus seit diesem Jahr Tool-Calling. API-Anbindung an bestehende Fachverfahren, damit Behörden in ihren langjährigen IT-Systemen bleiben können und nichts neu lernen müssen. Alle Buzzwords moderner Systeme abgehakt.
Das Ganze unter dem, für mich neuen, EfA-Prinzip: Einer für alle. Was eine Behörde bezahlt, geht in Bundesbesitz über, andere Bundesbehörden nutzen es kostenlos mit. Knapp dreißig Apps schon im Einsatz. zB:
- Dokumente schwärzen für Informationsfreiheitsgesetz-Anfragen.
- Transkription mit Sprechererkennung.
- Übersetzungen mit erhaltener Formatierung.
- Wissensdatenbanken, die nur aus echten Chunks antworten.
- Barrierefreie Sprache aus dem Original-Dokument.
Das ist nicht die schönste Plattform der Welt. Die KIPITZ-Folien zeigen eine Software, die aussieht, wie Software eben aussieht, wenn sie eine Bundesbehörde macht. Aber sie löst die Probleme aus dem Behördenalltag. Souverän, auf eigenem Stack. Und sie ist Teil des geplanten Deutschland-Stacks, der souveränen Technologieplattform, die bis Ende 2028 stehen soll.
Da ist also eine Behördenorganisation, die sich richtig gute Gedanken macht und das nach vorne bringt. Eine, die mit Datenschutz, AI Act und Souveränität klarkommt, statt sich davon ausbremsen zu lassen. Genau das Gegenteil von dem, was ich erwartet hatte.
Der Satz, der hängenbleibt
Und dann sagte Enrico im Panel später einen Satz, sinngemäß:
„Einen guten Datenanalysten hältst du in einer Behörde nicht. Der geht da drin kaputt. Das Aufgabenprofil gibt es formal gar nicht her, die Prozesse sind zu langsam.” Also kauft sich KIPITZ die Expertise am Markt ein, hält das Kernteam klein und alles andere bleibt beweglich.
Ich fühle das.
Ich beobachte immer wieder das gleiche Muster. Expertise wird sich eingekauft. Nur dass es selten so klar ausgesprochen wird wie hier in einer Bundesbehörde, die schon mehr als einmal versucht hat, einen Data Engineer einzustellen.
Zweitens, weil er etwas Größeres beschreibt, das ich erst auf der Heimfahrt richtig zu fassen bekommen habe. Wenn die Umsetzung zum Kollateral wird, wenn KI im Hintergrund läuft und immer mehr zentralisiert von Plattformen erledigt wird, dann werden stumpfe Abarbeiter überflüssig. Es braucht dann mehr von den Anderen. Datenanalysten, die Muster sehen, weil sie nicht in den Antworten festsitzen. Ihre Pfade auch mal verlassen. Designer, die mehr können, als der guten alten Zeit nachzutrauern, und offen bleiben für Neues. Menschen, die sich in Unsicherheit wohlfühlen, statt sie wegzuwünschen.
„Es braucht immer mehr die Menschen, die Muster und Zusammenhänge erkennen, auch über einzelne Branchen hinweg.”