Neues KI-Institut soll Gefahren von KI-Modellen bewerten

Mit Unterstützung eines neu eingerichteten Instituts will die Bundesregierung Chancen und Risiken fortschrittlicher KI-Modelle besser einschätzen. Denn sie sieht in KI-Systemen auch Gefahren für die nationale Sicherheit.

Nachdem der Nationale Sicherheitsrat im Juni 2026 den Aufbau eines solches Instituts beschlossen hatte, nahm das AISI Deutschland am 31. August 2026 in Berlin seine Arbeit auf. Unter der Seite bsi.bund.de/dok/aisi findet sich eine erste Aufgabenbeschreibung des Instituts. Demnach erfolgt der Auf- und Ausbau des AI Safety and Security Institute Deutschland (AISI) schrittweise. Zunächst sollen das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Bundesnetzagentur (BNetzA) in einer ersten Phase einen „virtuellen“ Kern des KI-Sicherheitsinstituts bilden. Das bedeutet, dass sowohl das Digitalministerium als auch das Bundesinnenministerium für das AISI zuständig sind.

Das Institut orientiert sich an internationalen Vorbildern, werde aber „eigenständig und anhand der spezifischen deutschen Bedarfe ausgestaltet“. Es soll die Regierung in die Lage versetzen:

• sicherheitsrelevante Risiken frühzeitig zu identifizieren,
• evidenzbasierte Handlungsoptionen abzuleiten,
• Deutschlands digitale Souveränität im KI-Zeitalter zu stärken und
• internationale Entwicklungen strategisch einzuordnen.

Es handele sich ausdrücklich nicht um eine Regulierungsbehörde, sondern um „ein analytisch-operatives Kompetenzzentrum an der Schnittstelle von Sicherheit, Technologieanalyse, Innovation und strategischer Beratung“.

Ministerium befürchtet Kontrollverlust

Neben der technischen Evaluierung leistungsfähiger KI-Modelle gehört die Analyse sicherheitsrelevanter Auswirkungen von KI zu den Aufgaben des Instituts. Es soll zudem die Bundesregierung in KI-Fragen strategisch beraten und nationale Expertise und Kooperationsfähigkeit im Bereich KI-Sicherheit aufbauen. Das Bundesdigitalministerium verwies zum Start des AISI auf die jüngsten Veröffentlichungen zu aktuellen KI-Sicherheitsvorfällen und auf sich „zunehmend konkretisierende Risiken durch Kontrollverlust“. Sehr leistungsfähige KI-Modelle könnten damit eine Bedrohung unserer digitalen Lebenswelt und der Resilienz unserer Wirtschaft, Gesellschaft und Demokratie darstellen, hieß es in der Mitteilung.

Quelle: golem.de