ClaudeMythos - This is an emergency

Roter Notfallknopf mit KI-Schriftzug vor digitalem Datenstrom als Symbol für die bewusste Entscheidung zum KI-Einsatz

Auf einen Blick

Nach meinem kurzen Essay über ClaudeMythos kam mir der obige Titel in den Sinn, und ich habe mit ihm gerungen. Ich unterrichte Business Continuity Management. In Institutionen sprechen wir von „Incidents“ oder „Security Incidents“, und ein reiferes Sicherheitsmanagement „eröffnet in einem solchen Fall ein Major-Incident-Ticket“. Bei Notfällen (Emergencies) denken wir an ein medizinisches Problem oder vielleicht einen Brand und wählen den Notruf 9-1-1 (oder 1-1-2 in Deutschland).

Offensichtlich ist ClaudeMythos kein Notfall in diesem Sinne.

Lassen Sie mich einen tieferen Blick auf den Ursprung des Wortes „Emergency“ mit Ihnen teilen. Darin steckt „Emergence“ (Emergenz) – ein Wort, das den Prozess beschreibt, bei dem etwas Neues, Unvorhergesehenes, Unerwartetes entsteht, allerdings nicht auf magische, sondern auf logische Weise. Die Elemente eines Systems verhalten sich kollektiv anders und bringen neue, eben emergente Eigenschaften hervor. Die Verbindung zur üblichen Verwendung des Begriffs ist klar: Etwas Neues, Dringendes geschieht, das mit den vorhandenen Personen und Werkzeugen nicht bewältigt werden kann.

Das Aufkommen so mächtiger Werkzeuge, die mühelos Schwachstellen in vielfach geprüftem Code finden und funktionierende Exploits erzeugen, lässt „etwas Neues“ entstehen, das hier emergiert. Früher dachten wir an einzelne böswillige Akteure, die einen Chat-Client nutzen … vielleicht sollten wir nicht mehr so darüber denken. Wenn Sie mögen (und sich trauen), folgen Sie mir bei der folgenden groben Schätzung:

Stellen Sie sich einen böswilligen Akteur vor, der openclaw nutzt, um andere openclaw-Agenten zu steuern, die sich jeweils auf ein bestimmtes Feld konzentrieren – kritische Infrastruktur, Banken, Kraftwerke, klassifizierte Netzwerke, Wasserversorgung, Gesundheit, KMU usw. Sie könnten gemeinsam, koordiniert, ohne Schlaf, rund um die Uhr angreifen. Wenn ein solcher Angriff z. B. 200.000 Input-Tokens und 500.000 Output-Tokens benötigt, läge der Preis eines Angriffs mit Opus 4.6 bei grob 20 $ (und die Tokens sind eine grobe Schätzung). Ein Angriff in 10 verschiedenen Feldern wären also etwa 200 $. Zehn Angriffe in 10 verschiedenen Feldern pro Stunde sind 2.000 $ pro Stunde, über 24 Stunden 48.000 $, über eine Woche 336.000 $. Vergleichen Sie das nun mit einer einzigen Tomahawk, die nur einmal trifft, aber das Zehnfache kostet.

Sie mögen sagen, nicht viele Menschen haben eine halbe Million für einen solchen Schlag – und damit haben Sie recht. Aber wie viele könnten 1.000 $ ausgeben, und wie viele Institutionen sind nicht vorbereitet und zahlen womöglich das Lösegeld, sodass der Akteur in der Lage ist, für die nächste Welle mehr auszugeben?

Hier schlägt die Sicherheits-Asymmetrie voll durch: Ein Akteur braucht nur einen funktionierenden Exploit; wir Sicherheitsleute müssen alle Schwachstellen finden. Und die meisten von uns nutzen KI nicht zur Verteidigung. Unser Sicherheitsmanagement ist nicht in der Lage, so viele, kontinuierlich laufende, ausgeklügelte, komplexe Angriffe abzuwehren. Dies wird ausführlicher im Paper der Cloud Security Alliance erläutert.

Ich hoffe, Sie verstehen meinen Punkt: Hier entsteht etwas Neues mit großer Geschwindigkeit, und es ist eine Welle wie keine zuvor. In diesem ungewöhnlichen Sinne meine ich also: „ClaudeMythos: This is an emergency!“

Und bei allem: Das ist unser Aufruf zum Handeln!

Wenn Sie Hilfe brauchen, aus dem Panikmodus herauszukommen, ein Growth Mindset zu aktivieren und Wege zum gemeinsamen Gestalten zu finden.