Zwei US-amerikanische KI-Experten zeigen Gefahren auf, die von KI ausgehen. Gary Marcus warnt vor KI für Cyberkriminelle. Amy Webb, Hochschullehrerin und CEO des Future Today Institute, sorgt sich um die Börse.

Schwarze Schwäne sind sehr selten. Aber es gibt sie. Als „Black Swan“-Event wird ein Ereignis bezeichnet, das sehr unerwartet ist, aber erhebliche Auswirkungen hat. Gary Marcus ist KI-Experte und emeritierter Professor für Neurowissenschaften an der New York University. Er gilt als großer Kritiker des aktuellen Hypes um generative KI. Obwohl er die Möglichkeiten von KI grundsätzlich für beschränkt hält, schreibt Marcus in seinem Beitrag, vor allem Cyberkriminelle könnten die Technik nutzen und so großen Schaden anrichten. Es sei das „perfekte Werkzeug für Cyberangriffe“. Gemeint sind KI-generierte Texte, die für Phishing-Attacken genutzt werden, aber auch Deepfakes, mit denen Menschen in die Irre geführt werden können.

Large Language Models seien aber auch anfällig für Angriffe wie Jailbreaking und Prompt Injections. Dabei werden die KI-Modelle dazu gebracht, vom Anbieter unerwünschtes Verhalten auszuführen. Chatbots könnten so im harmlosen Fall Fragen beantworten, die sie nicht beantworten sollen, schlimmer wäre der Diebstahl von Kontodaten. Vorstellbar sind aber durchaus auch schlimmere Szenarien. Marcus warnt auch, generative KI-Werkzeuge würden von Entwicklern beim Coden eingesetzt. Diese verstünden manchmal nicht, was die KI gemacht hat, sie kontrollierten aber auch teilweise einfach nicht allen Code. Das könne Sicherheitslücken mit sich bringen. Große Sorge macht Marcus auch, dass die US-Behörden eher deregulierend agieren.

Amy Webb befürchtet einen Börsencrash

Als CEO des Future Today Institute und Hochschullehrerin der New York University Stern School of Business wird Amy Webb oft als Futuristin bezeichnet. Auch sie sieht ein Problem in der geplanten Deregulierung und dem Abbau von Behördenstrukturen durch den erneut gewählten Präsidenten Donald Trump. Botnets hätten bereits bewiesen, wie einfach und effektiv KI für die Verbreitung von Falschinformationen eingesetzt werden kann. „Nach den Wahlen konzentrieren sich böswillige Akteure und nationalstaatliche Unzufriedene im Jahr 2025 auf ein neues Ziel: die Finanzmärkte“, schreibt sie. KI halte Massen an Echtzeit-Daten, Finanzreporte und wirtschaftliche Indikatoren bereit und könne zugleich die Stimme der Öffentlichkeit aus etwa sozialen Netzwerken zusammenfassen. Absichtlich gestreute Falschinformationen und Gerüchte könnten die Märkte zum Wanken bringen. Auch für die Verbreitung könne KI genutzt werden, um glaubwürdig zu klingen und etwa die besten Zeitpunkte für die Veröffentlichung zu finden.

Quelle: heise.de