Souverän statt abhängig: Verwaltung setzt bei KI auf eigene Lösungen

Pressemitteilung 33/2025

Eine neue Studie des Kompetenzzentrums Öffentliche IT (ÖFIT) am Fraunhofer FOKUS zeigt, dass große Sprachmodelle (LLMs) in der Bundesverwaltung keine neuen Abhängigkeiten von Technologiekonzernen schaffen. Stattdessen setzen die Behörden überwiegend auf eigenentwickelte, austauschbare und Open-Source-basierte Lösungen, die auf verwaltungsinterner Infrastruktur betrieben werden – und stärken so die digitale Souveränität und Gestaltungsfreiheit des Staates.

Bundesminister Dr. Karsten Wildberger:
„Die Studie liefert klare, praxisnahe Erkenntnisse zur digitalen Souveränität und bestätigt, dass wir bereits auf dem richtigen Weg sind, ein solides Fundament für unabhängige KI Lösungen in der Bundesverwaltung schaffen.“

Die Studie untersucht, ob durch die Einführung von LLMs in der Verwaltung neue Abhängigkeiten zu Technologieanbietern entstehen oder bestehende Abhängigkeiten verstärkt werden. Hierzu wurden relevante KI-Projekte in der Bundesverwaltung analysiert und anhand der drei Souveränitätsziele Wechselmöglichkeit, Gestaltungsfähigkeit und Einfluss auf Anbieter bewertet.

Die zentralen Erkenntnisse der Studie sind:

1. Wechselfähigkeit bleibt gegeben: Die in der Bundesverwaltung eingesetzten LLMs basieren überwiegend auf Eigenentwicklungen. Diese Lösungen sind so konzipiert, dass die Sprachmodelle austauschbar sind, um neue Abhängigkeiten zu vermeiden.
2. Überschaubare Risiken: Die entwickelten Lösungen dienen derzeit ausschließlich der Arbeitsunterstützung für die Verwaltungsmitarbeitenden. Ein Ausfall dieser Systeme würde die Handlungsfähigkeit der Verwaltungen nicht gefährden. Große, ressortübergreifende Systeme, die LLMs einsetzen, werden schon heute unter Berücksichtigung der digitalen Souveränität entwickelt, wodurch die Gefahr der Handlungsunfähigkeit gering ist.
3. Open-Source-Lösungen als Anker für Digitale Souveränität: Auf Ebene der LLMs wird hauptsächlich auf Open-Source-Lösungen gesetzt, die auf verwaltungsinterner Hardware gehostet werden.

Im Rahmen der Studie wurden allerdings auch einige Herausforderungen identifiziert, darunter komplexe rechtliche KI-Regelungen, die die Entwicklungen verzögern und umfassende rechtliche Kompetenzen erfordern.

Als Teil der Studie hat das ÖFIT umfassende Handlungsempfehlungen zur Stärkung der digitalen Souveränität im Bereich der großen Sprachmodelle in der Bundesverwaltung veröffentlicht. Ein zentraler Punkt der Handlungsempfehlungen ist die gemeinsame Nutzung von KI-Hardware-Ressourcen in Bund und Ländern, um die Effizienz zu erhöhen und die Kontrolle über kritische Infrastruktur zu stärken. Zusätzlich empfiehlt das ÖFIT die Entwicklung eines europäischen, offenen (Verwaltungs-)LLMs, um langfristige Unabhängigkeit von marktbeherrschenden LLM-Anbietern zu erreichen und europäische Werte sowie spezifische Verwaltungsbedarfe besser berücksichtigen zu können. Weitere vorgeschlagene Maßnahmen umfassen die Stärkung der Marktmacht durch eine koordinierte, föderal übergreifende Bündelung der Beschaffung nach KI-Software und -Hardware sowie die Einführung eines verpflichtenden Souveränitätschecks bei Projekten ab einer gewissen Kritikalität.

Die vollständige Studie steht unter diesem Link zur Verfügung.

Über das ÖFIT am Fraunhofer FOKUS

Das Kompetenzzentrum Öffentliche IT (ÖFIT) am Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS fördert die Digitalisierung der öffentlichen Verwaltung durch Forschung, Beratung und Wissenstransfer. Es entwickelt praxisnahe Lösungen und unterstützt die Bundesverwaltung bei der Umsetzung digitaler Innovationen.