ChatGPT & Co. geben auch Unethisches preis

Wie einfach ist es, geschlossenen Sprachmodellen wie Bard oder ChatGPT, Informationen zu entlocken, die sie eigentlich nicht preisgeben sollen? Gerard de Melo, Professor am Hasso Plattner Institut (HPI), erläutert in einem Interview das Phänomen „Jailbreaks“.

Große Sprachmodelle können viel, sollen aber aus ethischen Gründen nicht alles preisgeben – zum Beispiel wie man Straftaten begeht oder wie man einen Computer angreift. Die Sprachmodelle sollen auf diese Fragen eigentlich keine Antworten liefern. Doch gelingt es immer wieder, positive Ergebnisse auf unerwünschte Fragen zu bekommen. „Jailbreaks“ wird dieses Phänomen genannt. Nun haben Wissenschaftler eine sehr effektive Angriffsmethode entwickelt, mit der sie Bots wie ChatGPT oder Bard fast alles entlocken können. Vor allem droht Imageschaden für die KI-Firmen. Prof. Gerard de Melo, Leiter des Fachgebiets „Artificial Intelligence – Intelligent Systems“ am HPI, hat dem Tagesspiegel Background ein Interview dazu gegeben, das HPI auf seiner Website dokumentiert.

Zum Interview: Hasso Plattner Institut (HPI)