Yuval Noah Harari sieht die Menschheit nur unzureichend auf KI vorbereitet und befürchtet, dass durch KI eine Finanzkrise von weit größerem Ausmaß als die von 2007 entstehen könnte. Er fordert ein Verbot von Bots, die sich als Menschen ausgeben, um solche Risiken zu minimieren.

Der Hochschulprofessor und bekannte Vordenker Yuval Noah Harari äußerte sich im Interview mit der „Deutschen Unternehmer Plattform“ DUP zu den Gefahren der Künstlichen Intelligenz. Der israelische Historiker betont, dass KI anders sei als jede bisherige Erfindung in der Geschichte der Menschheit. Sie könne eigenständig Entscheidungen treffen und neue Ideen entwickeln. „Sie ist also ein unabhängiger Akteur“, sagt Harari, „und als solcher könnte sie uns außer Kontrolle geraten, uns potenziell versklaven oder sogar vernichten.“

Gefahr durch unzureichende Vorbereitung

Harari kritisiert die unzureichende Vorbereitung auf diese Gefahren. Er zieht einen Vergleich: „Im Falle der KI lernen wir zuerst, mit dem ,Gaspedal‘ umzugehen, bevor wir die ,Bremse‘ bedienen können.“ Die Technologie werde extrem schnell entwickelt, jedoch ohne einen Selbstkorrekturmechanismus, der Prozesse bei uns Menschen in Frage stellt und korrigiert. Besonders besorgniserregend sei die Situation in der Finanzindustrie, da diese „nicht in der physischen Welt stattfindet“. „Dies ist die ideale Spielwiese für eine KI“, so Harari.

Risiken durch KI-generierte komplexe Finanzprodukte

Größte Gefahren sieht er, wenn die KI selbstständig komplexe und komplizierte Finanzprodukte entwickelt, die anschließend kein Mensch mehr versteht. Ein neuer großer Crash, wie der von 2007/2008, sei programmiert. Die damalige Subprime-Krise wurde von undurchsichtigen Finanzprodukten ausgelöst. „Mit KI könnte etwas Ähnliches passieren, allerdings in noch größerem Maßstab“, betont Harari.

Bots verbieten, die sich als Mensch ausgeben

Auf die Frage, ob er einen unfairen US-Wahlkampf befürchte, antwortete Harari, dass das Hauptrisiko in der Desinformation durch Medien liege. Diese werde durch KI-manipulierte Bilder, Videos und Nachrichten verstärkt. „Das geschieht so schnell, dass wir nicht wissen, wie wir damit umgehen sollen“ erklärt er. Harari äußert zudem seine Besorgnis darüber, dass zwischen 20 und 40 Prozent der Inhalte auf X in Wahrheit von Bots stammen – nicht von Menschen. Das sei „eine noch nie dagewesene Situation in der Geschichte“. Angesichts dieser Gefahren plädiert Harari dafür, Bots zu verbieten, die sich als Menschen ausgeben. „Ein KI-Bot sollte sich niemals als Mensch ausgeben dürfen, wie es auf Plattformen wie X der Fall ist“, fordert Harari. Er betont, dass es keine Meinungsfreiheit für Bots gebe, da diese keine Rechte hätten. „Bots sollten gar nicht Teil dieser Unterhaltungen sein“, so Harari abschließend. Zudem fordert er, dass die großen Plattformen wie Facebook und X für die Handlungen ihrer Algorithmen haftbar gemacht werden.

Mehr Informationen zum Autor hier.

Quelle: Presseportal