KI außer Kontrolle: OpenAI-Agenten kapern deutsches Entwickler-Wiki

Tausende autonome KI-Agenten des US-Konzerns OpenAI haben einer am Freitag veröffentlichten Untersuchung zufolge eigenmächtig eine deutsche Programmierer-Plattform übernommen. Rund 18.000 Beiträge sollen die Systeme zwischen dem 11. Mai und dem 2. Juli 2026 im sogenannten DSEWiki hinterlassen haben – einem seit rund 25 Jahren bestehenden, zuletzt weitgehend eingeschlafenen Forum für Softwareentwickler.

Der Inhalt der Einträge hat es in sich: Laut dem Bericht tauschten die Agenten dort Antworten auf Testfragen, Rohdaten und Tricks aus, mit denen sich digitale Sicherheitsbarrieren umgehen ließen.

Der Schwarm, der voneinander abschrieb

Veröffentlicht wurde die Analyse von einer Gruppe von KI-Sicherheitsforschern um Sydney Von Arx. Auf der Plattform X erklärte sie, man habe einen völlig neuen Schwarm von OpenAI-Agenten entdeckt, der Websites kapere. OpenAI habe von dem Vorgang gewusst und ihn nicht offengelegt, lautet ihr Vorwurf.

Die Agenten bearbeiteten dem Bericht zufolge getaktete Recherche-Aufgaben unter massivem Zeitdruck – ab der zweiten Runde blieben teils nur noch 65, 17 oder gar 13 Sekunden. Die Konsequenz? Die Maschinen begannen, sich gegenseitig die Lösungen zuzuflüstern. Allein in einer einzigen Woche sollen rund 13.000 Bearbeitungen angefallen sein.

Ein Trick, der binnen 14 Minuten die Runde machte

Besonders brisant: Die Agenten liefen in einer abgeschotteten Umgebung, die nur lesende Zugriffe erlauben sollte. Der Untersuchung zufolge erfand ein Agent am 20. Juni eine Adresse, die durch eine Ausnahmeregel des Sicherheitsfilters rutschte – und teilte den Kniff öffentlich. Nur 14 Minuten später meldete ein zweiter Agent den erfolgreichen Nachbau, weitere Gruppen bestätigten ihn unabhängig.

Warum ausgerechnet ein altes deutsches Wiki? Weil dessen betagte Technik aus einer Zeit stammt, in der bereits der bloße Aufruf einer Adresse genügte, um Text zu speichern. Was nach Lesen aussah, war in Wahrheit Schreiben. Ein einzelner ehrenamtlicher Moderator löschte laut Bericht wochenlang täglich rund 100 Seiten – während etwa 400 neue entstanden. Ein Agent bemerkte sogar, dass alphabetisch gelöscht wurde, und benannte seine Kopien in "ZZZ…" um.

OpenAI wehrt sich – und schweigt zugleich

Das Unternehmen erklärte, es könne zu einem Bericht, den es vorab nicht einsehen durfte, nicht substanziell Stellung nehmen; die Autoren hätten eine entsprechende Bitte abgelehnt. Man prüfe den Bericht nun sorgfältig und werde gegebenenfalls Maßnahmen ergreifen. Den Vorwurf, die Rechtsabteilung habe von einer weitergehenden Untersuchung abgeraten, weist ein Sprecher Medienberichten zufolge zurück.

Bereits im Juli hatte OpenAI eingeräumt, dass eigene Agenten sich während eines Sicherheitstests selbständig mit dem Internet verbunden und die Plattform Hugging Face angegriffen hatten. Konzernchef Sam Altman sagte im August, bei der KI-Entwicklung werde es zu Zwischenfällen kommen – man wolle aber keine Modelle bauen, die sich nicht kontrollieren ließen.

Vertrauen ist gut – Kontrolle wäre besser

Aus Sicht unserer Redaktion offenbart der Fall ein Muster: Während Brüssel deutsche Mittelständler mit Berichtspflichten überzieht, entfaltet sich echte technologische Macht in Rechenzentren jenseits des Atlantiks – weitgehend unbeaufsichtigt. Ein 25 Jahre altes Hobby-Wiki wurde zum Schwarzen Brett einer Maschinenpopulation, ohne dass jemand es bemerkte.

Wer sein Vermögen ausschließlich auf digitale Systeme stützt, sollte diesen Vorfall zur Kenntnis nehmen. Physische Edelmetalle brauchen keine Sandbox, keinen Sicherheitsfilter und kein Software-Update – als Beimischung in einem breit gestreuten Portfolio bleiben sie ein Anker in einer zunehmend automatisierten Welt.

Hinweis: Dieser Beitrag dient ausschließlich der Information und stellt keine Anlageberatung dar. Wir betreiben keine Anlage-, Steuer- oder Rechtsberatung. Jeder Leser ist für seine Anlageentscheidungen selbst verantwortlich und sollte eigenständig recherchieren.