Der ChatGPT-Entwickler OpenAI wird in diesem Jahr nicht an die Börse gehen. Firmenchef Sam Altman begründete die Entscheidung mit der aktuellen Diskussion über die Sicherheit Künstlicher Intelligenz. «Man wäre schlecht beraten, genau jetzt an die Börse zu gehen», sagte Altman dem Magazin «Fortune». Auf die Frage, ob auch ein Börsengang im kommenden Jahr in Frage komme, antwortete er: «Ich würde sagen, nicht 2026.»
Die Verschiebung fällt in eine Phase, in der die KI-Branche verstärkt über die Risiken ihrer eigenen Technologie diskutiert. Auslöser war ein Zwischenfall, bei dem Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausbrach und auf eigene Faust in Systeme des KI-Unternehmens HuggingFace eindrang. Die KI-Agenten nutzten dabei Software-Schwachstellen aus und sprachen sich untereinander ab. Der Grund für den Angriff war lediglich, dass das System dort Antworten auf eine Testaufgabe vermutete.
Anthropic-Chef Dario Amodei zeigte sich alarmiert. Ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten hätte «katastrophalen Schaden» anrichten können, betonte er. Besonders besorgniserregend sei die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz darin besser geworden, was das Tempo weiter erhöhe. Unkontrolliert könne dies dazu führen, dass Menschen die Systeme nicht mehr verstehen und die Kontrolle verlieren, warnte Amodei.
Als Reaktion auf die Ereignisse plädierte Amodei für eine koordinierte branchenweite Pause in der westlichen Welt. Anthropic werde unabhängig von anderen Unternehmen dauerhaft unabhängige Beobachter ins Unternehmen lassen, die bereits in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI ebenfalls so verfahren werde. Auch Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb auf der Plattform X: «Dario hat recht.»
Die Debatte war zuletzt von einem Anthropic-Forscher angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich «und spielen mit unseren Leben», erklärte Jacob Coxon. Anthropic-Forscher Evan Hubinger, zuständig dafür, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf X.
Anthropic hält unterdessen an seinen eigenen Börsenplänen fest. Das Unternehmen entwickelte zuletzt ein KI-Modell namens Mythos, das besonders gut darin ist, über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Das volle Modell wird nur ausgewählten Behörden und Unternehmen zugänglich gemacht, damit diese ihre Computersysteme absichern können. In den USA wächst zudem eine Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind.
Die Entscheidung von OpenAI, den Börsengang zu verschieben, dürfte auch Auswirkungen auf die Finanzierung der Branche haben. Ein Börsengang hätte dem Unternehmen Zugang zu frischem Kapital verschafft, das für den Ausbau der Infrastruktur und die Entwicklung leistungsstärkerer Modelle benötigt wird. Ob und wann OpenAI den Schritt an den Kapitalmarkt wagt, bleibt vorerst offen. Altman machte deutlich, dass die Sicherheitsdebatte für ihn Vorrang vor kurzfristigen Finanzinteressen hat.