KI: Risiken und Angriffsmethoden

Die EU-Behörde für IT-Sicherheit ENISA (European Union Agency for Cybersecurity) zeigt in ihrem neuen Bericht KI-Bedrohungen ebenso wie Herausforderungen an die IT-Sicherheit auf – insbesondere in Bereichen wie Gesundheit, Kfz und Finanzen.

Die Vorteile Künstlicher Intelligenz (KI) seien beträchtlich, konstatiert die europäische Behörde für IT-Sicherheit ENISA. Zugleich zeigt sie in ihrem neuen Bericht über KI-Bedrohungen auch große Probleme auf, die die „aufstrebende Technologie“ für die IT-Sicherheit mit sich bringe. Ihre Anwendung könne gerade bei sicherheitskritischen, auf automatisierte Entscheidungsfindung setzenden Anwendungen wie autonomen Fahrzeugen, intelligenter Fertigung und E-Health Individuen und Organisationen teils „unvorhersehbaren Risiken aussetzen“, warnt ENISA in der Publikation. Die Technik eröffne potenziell neue Angriffsmethoden. Es sei zu befürchten, dass sie den Datenschutz aushöhle. Die EU müsse daher „gezieltere und angemessenere Sicherheitsmaßnahmen“ treffen, um die identifizierten Bedrohungen abzuschwächen.

Wettrennen drängt

Die Behörde spricht hier von einem „Wettlauf“, der für die EU angesichts ihrer langfristigen strategischen Ziele für KI „von besonderer Bedeutung ist“. Gefragt sei neben einem gemeinsamen Verständnis für die Risiken eine „KI-Toolbox mit konkreten Abhilfemaßnahmen“ für verschiedene Akteure. Ferner sei es entscheidend, „die vielfältigen Vermögenswerte des KI-Ökosystems und des Lebenszyklus“ einschlägiger Anwendungen grenz- und branchenübergreifend zu sichern.

„KI made in Europe“ soll Qualitätsmarke werden

ENISA empfiehlt, rasch bestehende Lücken in den künftigen Forschungsrichtungen rund um KI und IT-Sicherheit auszumachen. Schon ersichtlich sei, dass weitere Arbeiten im Bereich der automatischen formalen Verifikation und Validierung, der Erklärbarkeit und neuartiger Sicherheitstechniken zur Abwehr aufkommender KI-Bedrohungen nötig seien. Nur so könnten in Europa vertrauenswürdige KI-Algorithmen und -Lösungen entstehen, die die industriellen und sicherheitstechnischen Abläufe sowie die Wettbewerbsfähigkeit des Binnenmarkts verbessern. Die Marke „KI made in Europe“ müsse als Gütesiegel für ethische, sichere und hochmoderne Systeme stehen, um weltweit beachtet zu werden.

Zum Download des ENISA-Dokuments auf Englisch geht es hier.

Vielen Dank für das Weiterempfehlen!

• Bitkom fordert Recht auf digitale Bildung
• NetzDG: nationaler Alleingang in der Kritik
• EU plant eigenes Satelliten-Internet
• Sonderabgabe im Onlinehandel
• Neue IT-Gesetzgebung in der Kritik