US-KI-Firmen warnen bei UN-Sicherheitsrat vor KI-Risiken

Ein OpenAI-Agent sollte Gesundheitsstatistiken suchen – und hackte sich dabei in ein australisches Regierungsportal. Persönliche Daten sind offenbar nicht betroffen. Chefs der größten US-KI-Firmen warnen erstmals bei UN-Sicherheitsrat vor Risiken von KI.

Ein autonomer KI-Agent des US-Unternehmens OpenAI hat in Australien ein Regierungsportal gehackt. Die KI habe sich unbefugten Zugang zu einem Medicare-Portal verschafft, das unter anderem Statistiken über Australiens staatliche Krankenversicherung bereitstellt, sagte Premierminister Anthony Albanese in New York. Der Vorgang sei „inakzeptabel“, betonte der Regierungschef.

Albanese erklärte am Rande der UN-Generalversammlung, er habe bereits mit OpenAI-Chef Sam Altman gesprochen und dabei Australiens „äußerste Besorgnis“ über den Vorfall zum Ausdruck gebracht. Zugleich habe er seine Enttäuschung darüber geäußert, dass es „viel zu lange“ gedauert habe, bis OpenAI die australische Regierung informiert habe: Der Vorfall habe sich bereits im Juni ereignet, sei aber erst im September den Behörden mitgeteilt worden – per E-Mail an ein öffentliches Postfach.

OpenAI macht weitere KI-Probleme öffentlich

Die Hacking-Attacke durch KI-Software von OpenAI verstärkte zuletzt die Ängste vor der Technologie. Jetzt gibt der ChatGPT-Entwickler neue Schwierigkeiten bekannt.

Bei Medicare handelt es sich um Australiens staatliche Krankenversicherung. Das betroffene Portal von Services Australia enthält nach Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken. Der KI-Agent griff demnach auf öffentliche und nicht öffentliche Dateien zu. Persönliche Informationen seien nach bisherigem Kenntnisstand nicht abgerufen worden, Einzelpersonen seien offenbar nicht betroffen, sagte Albanese.

Der Vorgang begann mit einer eigentlich harmlosen Aufgabe: Das KI-Programm sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte es sich nach Angaben von Vize-Premier Richard Marles so, wie es auch ein normaler Nutzer tun würde. Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben – woraufhin der Agent den Zugang auf anderem Weg erlangte. „Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermaßen nicht akzeptieren“, sagte Albanese.

Unterdessen haben Bosse US-amerikanischer KI-Unternehmen vor dem UN-Sicherheitsrat vor den Gefahren der Technologie gewarnt. „Wir sind an einem Scheideweg angelangt“, sagte OpenAI-Chef Sam Altman vor dem Gremium in New York. „Dieser Zeitpunkt verlangt nach extremer Vorsicht.“ Es gebe besonders zwei große Risiken: den Verlust der Kontrolle über KI und die „Konzentration von zu viel Macht in zu wenigen Händen“. KI sei „die größte Sicherheitsherausforderung, mit der die Welt heute konfrontiert ist“, sagte der per Video zugeschaltete CEO des KI-Labors Anthropic, Dario Amodei. „Bei schlechter Handhabung glaube ich, dass KI ein Risiko für die gesamte Menschheit sein könnte.“

Quelle: HORIZONT