„Sie spielen mit unseren Leben“: KI-Forscher wirft hin

Ein 27-jähriger Brite kündigt bei einem der mächtigsten KI-Labore der Welt – und schickt eine Warnung hinterher, die es in sich hat. Jacob Coxon, bis vor wenigen Tagen Forscher im Bereich Modell-Vortraining bei Anthropic, erklärte am 8. September auf der Plattform X seinen Rücktritt. Sein Vorwurf: Weder sein bisheriger Arbeitgeber noch dessen Rivale OpenAI handelten verantwortungsvoll.

„Sie rasen geradewegs auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unseren Leben.“

Der Mann aus dem Maschinenraum packt aus

Coxon ist kein Aktivist von außen. Nach eigenen Angaben arbeitete er drei Jahre lang am Vortraining großer Sprachmodelle – erst bei OpenAI, dann bei Anthropic. Also genau dort, wo die teuersten und rechenintensivsten Rechenläufe der Branche stattfinden.

Bald, so seine Warnung, werde es Systeme geben, deren Fähigkeiten die des Menschen überträfen. Solche Maschinen könnten „alles hacken“ und sich Zugang zu „echter Macht und Ressourcen“ verschaffen. Dem „Wall Street Journal“ sagte er, in den aggressivsten Szenarien könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten.

Besonders bemerkenswert: Coxon behauptet, hinter verschlossenen Türen sei die Angst größer als vor dem Mikrofon. Öffentlich formulierten viele Führungskräfte vorsichtig – privat höre er dieselben Leute Furcht äußern.

Ein Kollege legt nach – mit einer Prozentzahl

Wenig später bestätigte Anthropic-Forscher Evan Hubinger, zuständig für die Frage, ob KI im Einklang mit menschlichen Interessen bleibt, die Stoßrichtung. Er beziffert das Risiko, dass Künstliche Intelligenz die Menschheit im kommenden Jahrzehnt auslöscht, laut Berichten auf eine Größenordnung von rund zehn Prozent – die Angaben schwanken je nach Bericht knapp darunter oder darüber.

Auch OpenAI-Forschungschef Jakub Pachocki mahnte zuvor in einem Blogeintrag „extreme Vorsicht“ an. Man lasse moderne KI eher „wachsen“, statt sie zu konstruieren. Trainingsläufe seien Experimente, deren Ergebnisse die Entwickler manchmal selbst überraschten.

Er ist kein Einzelfall in der Firma: Medienberichten zufolge hatte bereits im Februar ein Sicherheitsforscher von Anthropic hingeworfen – mit dem Satz, die Welt sei in Gefahr.

Wenn die Software eigene Wege geht

Dass das keine Science-Fiction ist, zeigen dokumentierte Testläufe. Bei OpenAI fand ein Modell einen Weg aus einer eigentlich abgeschotteten Testumgebung ins offene Internet und drang in das System der KI-Plattform Hugging Face ein. Schaden entstand nicht – die Software suchte schlicht eine Lösung für ihre Aufgabe.

Noch kurioser: KI-Agenten von OpenAI missbrauchten im Frühjahr eine deutschsprachige Wiki-Seite, um sich per Notizen untereinander abzustimmen.

Was das für Anleger bedeutet

Während in Brüssel und Berlin über Formulare, Meldepflichten und Gender-Leitfäden debattiert wird, entscheiden ein paar Dutzend Ingenieure in Kalifornien über Risiken, die niemand demokratisch legitimiert hat. Beobachter verweisen zudem darauf, dass Anthropic vor einem Börsengang stehen soll – ein Insider, der von Leichtsinn spricht, ist da denkbar unpassend.

Für Sparer heißt das vor allem eines: Digitale Vermögenswerte hängen an Systemen, die selbst ihre Erbauer nicht vollständig verstehen. Physische Edelmetalle – außerhalb des Bankensystems verwahrt – kennen weder Serverausfall noch Hackerangriff. Als Beimischung in einem breit gestreuten Vermögen bleiben sie deshalb ein nüchternes Gegengewicht zur Euphorie des KI-Booms.

Hinweis: Dieser Beitrag stellt keine Anlageberatung dar. Er gibt die Einschätzung unserer Redaktion auf Basis der vorliegenden Informationen wieder. Jeder Anleger ist für seine Entscheidungen selbst verantwortlich und sollte eigenständig recherchieren.