KI-Unternehmen planen selbst organisierte KI-Aufsichtsbehörde

Die Planungen der KI-Unternehmen Google, Anthropic und OpenAI für eine selbstorganisierte Aufsichtsbehörde für KI-Systeme werden immer konkreter. Eine Kernaufgabe der Organisation soll das Definieren von Regeln sein, nach denen Entwickler Sicherheitsvorfälle melden müssen.

Die Planung für eine von Google, Anthropic und OpenAI selbst organisierte Aufsichtsbehörde für KI-Systeme nimmt laut Insiderberichten von „The Information“ wohl immer weiter Gestalt an. Als Name kursiert „Standards Authority for Frontier AI“ (kurz: SAFA), für diverse Personalien gäbe es auch schon konkrete Vorschläge. Erste Berichte über die Pläne für eine solche Sicherheitsorganisation tauchten bereits im Juli auf, als Insider von Gesprächen zwischen den großen KI-Firmen berichteten.

Eine Kernaufgabe der Organisation soll wohl das Definieren von Regeln sein, nach denen Entwickler Sicherheitsvorfälle melden müssen. Ebenfalls zentral wird mutmaßlich die Unterstützung von unabhängigen Drittorganisationen sein, die die KI-Modelle prüfen, so The Information. Auch die Anforderungen an die Qualifikationen dieser Prüfer solle die Organisation SAFA festlegen. Außerdem soll sie wohl definieren, wie die Selbstverpflichtungen der Unternehmen in der Praxis aussehen sollen. Nicht ganz klar sei, ob die Organisation auch selbst KI-Systeme prüfen soll.

Teile dieser selbst Aufgaben sieht der US-Bundesstaat Kalifornien eigentlich bei sich und seiner eigenen geplanten Aufsichtsbehörde für KI-Unternehmen. Insofern ist die Klage der KI-Entwickler nicht ganz korrekt, dass man diese Organisation nur gründe, weil staatliche Stellen eine Regulierung ablehnen würden. Im Gegensatz zur Trump-Administration befürwortet der Gouverneur von Kalifornien, in dessen Bundesstaat die meisten KI-Riesen sitzen, Regeln für die KI-Entwicklung ausdrücklich und unternimmt bereits entsprechende Schritte.

Quelle und mehr Informationen: heise.de