ChatGPT & Co. geben auch Unethisches preis
Wie einfach ist es, geschlossenen Sprachmodellen wie Bard oder ChatGPT, Informationen zu entlocken, die sie eigentlich nicht preisgeben sollen? Gerard de Melo, Professor am Hasso Plattner Institut (HPI), erläutert in einem Interview das Phänomen „Jailbreaks“.

Große Sprachmodelle können viel, sollen aber aus ethischen Gründen nicht alles preisgeben – zum Beispiel wie man Straftaten begeht oder wie man einen Computer angreift. Die Sprachmodelle sollen auf diese Fragen eigentlich keine Antworten liefern. Doch gelingt es immer wieder, positive Ergebnisse auf unerwünschte Fragen zu bekommen. „Jailbreaks“ wird dieses Phänomen genannt. Nun haben Wissenschaftler eine sehr effektive Angriffsmethode entwickelt, mit der sie Bots wie ChatGPT oder Bard fast alles entlocken können. Vor allem droht Imageschaden für die KI-Firmen. Prof. Gerard de Melo, Leiter des Fachgebiets „Artificial Intelligence – Intelligent Systems“ am HPI, hat dem Tagesspiegel Background ein Interview dazu gegeben, das HPI auf seiner Website dokumentiert.
Zum Interview: Hasso Plattner Institut (HPI)
Weitere News aus dieser Kategorie
4. Dezember 2023
Digitalisierung: „Deutschland steht an einem entscheidenden Wendepunkt“
„Bei Startups und Firmen der Informations- und Kommunikationstechnologien ist…
4. Dezember 2023
„Cybercrime ist ein Geschäft von höchster Professionalität“
Die Forscher des IT-Sicherheitsherstellers ESET haben kürzlich ein Toolkit…
20. November 2023
KI-Transparenz: Youtuber müssen bald KI-Inhalte markieren
Googles Videoplattform Youtube wird künftig strengere Regeln bezüglich…