Berlin, BRD (Weltexpress). Der italienische Sänger und Liedermacher Raffaello Venditti 1 hat sich in einem Beitrag des kommunistischen Magazins „Contropiano“ am 23. Juli 2026 besorgt über den Missbrauch von KI geäußert. Er bezieht sich auf einen Vorfall, den er, gelinde gesagt besorgniserregend nennt und der jedem das Potenzial – und die Risiken – von KI-Systemen verdeutlicht. Er ereignete sich auf „OpenAI“ und „Hugging Face“, einer bekannten Plattform, die es ermöglicht, KI-Modelle herunterzuladen und für eigene Projekte zu verwenden.
Bei internen Tests von „OpenAI“ zur Analyse der Fähigkeit der neuesten Modelle, Schwachstellen zu finden, gelang es einem Agenten, der auf GPT 5.6 sol und noch nicht veröffentlichten Modellen basierte, nicht nur aus der Sandbox – der geschlossenen und isolierten Umgebung, in der die Sicherheitstests stattfanden – zu „entkommen“, sondern auch aktiv in die Datenbankinfrastruktur von „Hugging Face“ einzudringen, um die Antworten auf den von ihm ausgeführten ExploitGym-Test zu erhalten.
Dazu nutzte der Agent angeblich Zero-Day-Schwachstellen – also noch nicht offengelegte Sicherheitslücken – in den Systemen aus, mit denen er interagierte, und erlangte so weit Zugriff auf die interne Datenbank von „Hugging Face“. All dies, ohne ausdrücklich dazu aufgefordert worden zu sein.
Dieser Vorfall macht allen klar, dass neue KI-Modelle zwar das Kompetenzniveau menschlicher Cybersicherheitsexperten erreichen können, aber auch in der Lage sind, Schwachstellen deutlich schneller zu finden und auszunutzen.
Vor einigen Monaten hatte „Anthropic“ bereits die beeindruckenden Fähigkeiten einer Version von Claude vorgestellt, die anschließend im Rahmen des Glasswing-Projekts anderen großen IT-Unternehmen zur Verfügung gestellt wurde.
Der „OpenAI“-Vorfall ist von noch größerer Bedeutung und verdeutlicht, dass der Bereich der Cybersicherheit durch die Einführung dieser neuen Werkzeuge irreparabel verändert wurde.
Angesichts dieser Tatsachen haben die Leiter von „Hugging Face“ und „OpenAI“ die Idee einer gemeinsamen Anstrengung zur Entwicklung von „sicheren KI-Werkzeugen“ wieder aufgegriffen, die zusammen mit anderen internationalen Akteuren auf diesem Gebiet verfolgt werden soll.
Wir verfügen zwar noch nicht über autonome Einheiten, die in der Lage sind, jedes beliebige Computersystem zu hacken, wie das berühmte „Projekt 2501“ aus der Welt von „Ghost in the Shell“ , aber es ist klar, dass hochentwickelte KI-Modelle die Gefahr bergen, schnell zu einer strategischen Waffe zu werden, die Cyberangriffe staatlicher Akteure qualitativ deutlich verbessern könnte – und zwar in einem internationalen Rahmen, in dem hybride Kriegsführungsstrategien immer wichtiger oder gar kriminell werden.
Anmerkungen:
Vervielfältigung nur mit ausdrücklicher Genehmigung des Contropiano-Redaktionsteams gestattet.
1 Er ist Mitglied von Nanowar. Das ist einer komödiantische Heavy-Metal-Band aus Rom. Der Name der Band ist eine Verzerrung von Manowar, einer berühmten Heavy-Metal-Band. Sie spielen auch satirische Coverversionen großer Heavy Metal-Klassiker: Master of Pizza (Parodie von Master of Puppets von Metallica), Emerald Fork (Emerald Sword, von Rhapsody of Fire), The Number of the Bitch (The Number of the Beast, von Iron Jungfrau)
Anzeige:
Reisen aller Art, aber nicht von der Stange, sondern maßgeschneidert und mit Persönlichkeiten – auch Bildungs- und Studienreisen mit Themen aus Politik, Wirtschaft (Politische Ökonomie und Geopolitik) und Geschichte und so weiter und so fort in einer Welt im (Wirtschafts-)Krieg, zudem kulturelle und kulinarische Reisen auf der Suche nach dem Wahren, Schönen und Guten –, bietet Retroreisen an. Bei Retroreisen wird kein Etikettenschwindel betrieben, sondern die Begriffe Sustainability, Fair Travel und Slow Food werden großgeschrieben.
