Deutschland hat mit dem AISI Deutschland eine neue Behörde für die Sicherheit von Künstlicher Intelligenz gestartet. Das Institut nahm die Arbeit am 31. August 2026 in Berlin auf und bündelt dafür Kompetenzen des Bundesamts für Sicherheit in der Informationstechnik und der Bundesnetzagentur. Es soll KI-Modelle prüfen, bevor aus ihnen Risiken für Nutzer oder Infrastruktur entstehen.
Bundesamt für Sicherheit und Netzagentur teilen sich die Aufgaben
Der Name AISI Deutschland steht für AI Security and Safety Institute Deutschland. Im Institut bündeln sich zunächst zwei Bundesbehörden mit unterschiedlichem Auftrag: Das Bundesamt für Sicherheit in der Informationstechnik übernimmt den Security-Teil, also den Schutz von KI-Systemen vor gezielten Angriffen, Datenmanipulation und Missbrauchsversuchen. Die Bundesnetzagentur kümmert sich um Safety und damit darum, dass KI-Systeme keine unbeabsichtigten Gefahren für Nutzer oder Umgebung erzeugen und innerhalb festgelegter Parameter zuverlässig funktionieren.
BSI-Präsidentin Claudia Plattner ordnet Künstliche Intelligenz laut einem Bericht der Westdeutschen Zeitung als zentrale Sicherheitsherausforderung ein. Das AISI Deutschland versteht sich ausdrücklich nicht als klassische Aufsichtsbehörde mit Sanktionsrecht, sondern als analytisch-operatives Kompetenzzentrum, ein sogenannter Think-and-Do-Tank. Es soll Chancen und Risiken neuer KI-Modelle für Deutschland bewerten, Lösungen für den sicheren Umgang mit den Systemen entwickeln und Bundesregierung, Verwaltung, Wirtschaft sowie Zivilgesellschaft beraten.
Zusätzlich soll das Institut mit europäischen und transatlantischen Partnern an einheitlichen Standards für besonders leistungsfähige Modelle arbeiten. Sitz der Einrichtung ist Berlin, zu Personalstärke und Budget macht die Bundesregierung bislang keine Angaben.
Nationaler Sicherheitsrat beschließt die Gründung im Juni
Grundlage der Gründung ist ein Beschluss des Nationalen Sicherheitsrats vom Juni 2026. Laut Mitteilung der Bundesregierung bietet das Institut die Grundlage, damit Deutschland international Anschluss an die Entwicklung Künstlicher Intelligenz hält. Aufgebaut und geleitet wird es gemeinsam vom Bundesdigitalministerium und vom Bundesinnenministerium.
Bundesinnenminister Alexander Dobrindt verweist darauf, KI müsse kontrollierbar bleiben, während der Staat gleichzeitig an ihrer schnellen Entwicklung teilhaben müsse. Digitalminister Karsten Wildberger hatte erst Ende August bei der Kabinettsklausur in Neuhardenberg ein neues KI-Zwischenziel für Deutschland formuliert.
Der Digitalverband Bitkom begrüßte die Institutsgründung bereits im Juni, forderte aber ein eigenständiges Forschungsmandat mit Fokus auf systemische Risiken sogenannter Frontier-Modelle statt Doppelarbeit zu bestehenden Stellen für Arbeits-, Verbraucher- oder Datenschutz. Eine Verknüpfung mit den Melde- und Prüfpflichten der EU-KI-Verordnung nennt keine der bislang vorliegenden Mitteilungen, eine Abstimmung mit der Brüsseler KI-Aufsicht bleibt damit offen. Auch zu einem festen Prüfkalender oder ersten zu bewertenden Modellen liegen bislang keine Angaben vor.
Internationale Vorbilder liefern Blaupause und Warnung
Mit der Gründung schließt Deutschland zu Ländern wie Großbritannien, den USA und Frankreich auf, die eigene KI-Sicherheitsinstitute bereits aufgebaut haben. Bitkom-Vorständin Susanne Dehmel zufolge brauche das deutsche Pendant mindestens eine Finanzierung auf dem Niveau des britischen AI Security Institute, um im internationalen Wettbewerb um Fachkräfte konkurrenzfähig zu sein.
Das britische Vorbild veröffentlicht bereits eigene Analysen zu KI-Modellen, etwa zum Cyber-Rückstand offener Sprachmodelle gegenüber proprietären Systemen – eine Aufgabenkategorie, wie sie künftig auch dem AISI Deutschland zufallen dürfte. Genau eine solche Prüfung vor der Marktreife ist es, die Bitkom mit ihrer Forderung nach einem eigenständigen Forschungsmandat im Blick hat.
Wie unbeständig solche Institutionen sein können, zeigt das US-amerikanische Gegenstück CAISI: Dort trat der zuständige Chef nach nur drei Monaten im Amt zurück, bereits der dritte KI-Verantwortliche der US-Regierung binnen eines Jahres. Für das AISI Deutschland ist offen, wie stabil seine Leitungsstruktur zwischen den beteiligten Ministerien und Behörden auf Dauer ausfällt. Erste konkrete Prüfberichte des neuen deutschen Instituts liegen bislang nicht vor.
Entscheidend wird, ob das AISI Deutschland tatsächlich vor der Marktreife neuer Modelle prüfen kann oder ob seine Bewertungen wie bei manchen ausländischen Vorbildern erst nach Vorfällen greifen. Offen bleibt zudem die Finanzierung: Ohne ein aus Bitkom-Sicht wettbewerbsfähiges Budget dürfte es dem jungen Institut schwerfallen, Fachleute von besser ausgestatteten Häusern in London oder Washington abzuwerben.
