Anthropic-KI findet Schwachstellen in Software – BSI erwartet weitreichende Folgen

Das von Anthropic entwickelte KI-Modell „Claude Mythos“ spürt versteckte Software-Schwachstellen auf. Das Bundesamt für Sicherheit in der Informationstechnik sieht auch Fragen der nationalen Sicherheit in Deutschland berührt.

Ein vom US-Unternehmen Anthropic entwickeltes KI-Modell zum Auffinden verborgener Software-Schwachstellen könnte nach Einschätzung des Bundesamtes für Sicherheit in der Informationstechnik (BSI) erhebliche Auswirkungen auf die Cyberbedrohungslage haben. Das US-Unternehmen hatte mitgeteilt, insgesamt habe man mit Mythos bereits „tausende“ schwerwiegende Schwachstellen gefunden – darunter in jedem viel genutzten Betriebssystem und Webbrowser. Mit dem schnellen Fortschritt bei Künstlicher Intelligenz sei davon auszugehen, dass solche Fähigkeiten recht bald auch Online-Angreifern zur Verfügung stehen könnten, warnte Anthropic.

Zu gefährlich: Anthropic veröffentlicht neues KI-Modell vorerst nicht

In einer Kooperation sollten deshalb Konzerne wie Apple, Amazon und Microsoft Zugang zu Mythos bekommen, um Sicherheitslücken in ihrer Software zu finden, teilte das Unternehmen mit. Anthropic plane nicht, Mythos allgemein zugänglich zu machen. Unter den weiteren Kooperationspartnern sind die Linux-Stiftung, die IT-Sicherheitsfirmen Crowdstrike und Palo Alto Networks sowie der Netzwerk-Spezialist Cisco.

Das BSI nehme die Ankündigungen von Anthropic sehr ernst und erwarte „Umwälzungen im Umgang mit Sicherheitslücken und in der Schwachstellenlandschaft insgesamt“, sagte die BSI-Präsidentin, Claudia Plattner. Konsequent zu Ende gedacht, könnte es mittelfristig keine unbekannten klassischen Software-Schwachstellen mehr geben. „Wir stehen zu Claude Mythos mit dem Hersteller Anthropic im Austausch“, teilte die BSI-Präsidentin mit. Ihre Behörde habe das neue Tool zwar bisher nicht testen können. Im persönlichen Gespräch mit den Entwicklern habe man jedoch Einblick in die Funktionsweise gewinnen können.

Quelle: Handelsblatt