Forscher sehen in KI ein großes Risiko für Menschen

Es sind Warnungen direkt aus dem KI-Maschinenraum: Ein Experte der Firma Anthropic tritt zurück, weil die Technik zu gefährlich sei. Auch der Forschungschef des ChatGPT-Entwicklers OpenAI ist besorgt. Die Hacking-Attacken der vergangenen Monate, bei denen KI-Agenten in Testläufen eigenständig in Systeme anderer Unternehmen eindrangen, seien ein Warnsignal.

Ein Forscher bei Anthropic ist mit einer drastischen Warnung zurückgetreten: Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich „und spielen mit unseren Leben“. Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Online-Plattform X. Künstliche Intelligenz würde dann „alles hacken können“ und die Möglichkeit haben, sich „Zugang zu echter Macht und Ressourcen“ zu verschaffen.

„Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte“, warnte Coxon. Dem „Wall Street Journal“ sagte der 27-jährige Brite, nach den „aggressivsten Szenarien“ könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er Künstliche Intelligenz, die sich selbst weiterentwickeln kann – und damit schwerer zu kontrollieren wird.

Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass Künstliche Intelligenz mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.

Quelle: Springer Professional