Claude Mythos von Anthropic: Ein KI-Modell, angeblich zu gefährlich für die Öffentlichkeit

Der Fehler, so will es eine alte Weisheit von Computerkennern, sitzt meist vor dem Bildschirm. Auch wenn der Satz seine Berechtigung hat – kaum eine Software ist ohne Fehler. Kein Wunder, allein das Betriebssystem Windows enthält Milliarden Zeilen Programmcode. Menschen können das kaum überblicken. Dazu braucht es zudem spezielle Expertise, die rar gesät ist.Bevor das Internet verbreitet war, mochten Fehler ärgerlich, manchmal auch teuer gewesen sein. Heute, da die moderne Welt abhängig ist von vernetzten Computern, ermöglichen es Programmierfehler etwa Agenten feindlicher Staaten, kritische Infrastruktur zu sabotieren oder geheime Daten auszuspähen. Auch organisierte Kriminelle haben sich in der Online-Welt längst eingerichtet. Zwischen Angreifern einerseits und den Verteidigern andererseits hat sich ein Katz-und-Maus-Spiel entwickelt.Durch die rasend schnelle Entwicklung von Modellen künstlicher Intelligenz (KI) ist dieser ewige Kampf zwischen Angreifern und Verteidigern in eine neue Dimension eingetreten, weil die Modelle nicht bloß E-Mails zusammenfassen und Bewerbungen schreiben können, sondern auch Computercode. Und nun hat das US-amerikanische KI-Unternehmen Anthropic ein neues Modell namens Claude Mythos Preview vorgestellt, das wohl alles bisher Dagewesene in den Schatten stellen soll.Betroffene vorab informiertWie Anthropic in einem Blogbeitrag mitteilt, habe das Modell bereits tausende Fehler in Softwareprogrammen entdeckt. Sie fanden sich demnach in jedem bedeutenden Betriebssystem und Internetbrowser. Darunter waren auch solche Lücken, die dort seit Jahrzehnten unerkannt schlummerten. Sie hätten es potenziellen Angreifern erlaubt, Computer zum Absturz zu bringen oder sie sogar aus der Ferne zu übernehmen.Anthropic hat eine Reihe wichtiger Betroffener vorab informiert, so wie es in der IT-Sicherheitsbranche gute Praxis ist. Sie bekamen das Modell zur Verfügung gestellt, um ihnen Gelegenheit zu geben, die gefundenen Lücken zu schließen. Die Firmen, darunter Größen wie Amazon, Apple, Cisco, Microsoft und die Linux-Stiftung, haben sich unter der Führung von Anthropic im Projekt Glasswing, zu Deutsch: Glasflügel, zusammengeschlossen. So möchten sie besonders weitverbreitete Software absichern, bevor Angreifer mit KI-Unterstützung darauf stoßen und sie für ihre Zwecke ausnutzen.Dass KI in Form von immer besser funktionierenden Sprachmodellen die Lage in der Cybersicherheit dramatisch verändern werde, haben Experten seit Jahren vorhergesagt. Mails etwa, die attackierte Personen dazu bringen sollen, können damit erheblich überzeugender formulierte, Webseiten oder Formulare täuschend echt nachgeahmt werden. Mit den zunehmenden Fähigkeiten der Modelle, auch Computercode zu verstehen und zu verfassen, wächst nun auch die Gefahr, dass Angreifer auf sogenannte Zero Days stoßen.Zero Day nennen Fachleute Lücken in Software, die deren Herstellern selbst noch unbekannt sind und für die es deshalb noch keinen Patch gibt. Ein Patch, wörtlich übersetzt: Flicken, ist ein Stück Software, das Lücken in einem Programm schließt. Schon bisher war es oft ein Problem, dass zwischen der Entdeckung einer Lücke und dem Patch einige Zeit verstrich – Zeit für Angreifer, die Lücke auszunutzen. Künftig schrumpft das Zeitfenster zwischen Entdecken und Ausnutzen auf nahe null zusammen.Nur der AnfangAnthropic gibt zu, dass ein Projekt wie Glasswing nur der Anfang sein kann. Niemand könne solche Probleme der Cybersicherheit allein lösen. Die Entwickler avancierter KI-Modelle müssten zusammenarbeiten mit Software-Firmen, Sicherheitsforschern, den Verwaltern von Open-Source-Software und Regierungen in aller Welt. Die IT-Infrastruktur abzusichern könne Jahre dauern, KI-Modelle aber würden sich bereits in den nächsten paar Monaten entscheidend weiterentwickeln. Um als Verteidiger vor der Kurve zu bleiben, „müssen wir jetzt handeln“.Anthropic lässt die Glasswing-Mitglieder das Modell Mythos zunächst kostenlos nutzen und stellt dafür KI-Kapazitäten im Wert von 100 Millionen Dollar zur Verfügung, die für die Suche nach Schwachstellen in Software aufgebraucht werden können. Zusätzlich will Anthropic Sicherheitsorganisationen, die sich um Open-Source-Software wie Linux oder Apache kümmern, vier Millionen Dollar spenden.Allerdings befindet sich Anthropic auch in einem harten Rennen mit KI-Unternehmen wie Open AI und Google, muss also auch Geld verdienen. Durch die neue Allianz mit der Crème de la Crème der IT-Branche hat Anthropic Chancen, als Marktführer für KI ins Geschäft zu kommen, die der Abwehr von KI-generierten Cyberattacken dient. Wie alle großen Modelle ist auch Claude Mythos extrem ressourcenhungrig; aber immer noch billiger als Menschen als Spürhunde einzusetzen, was wegen der schieren Masse an wichtigem Software-Code kaum machbar wäre.