Die Chefs der führenden US-amerikanischen KI-Unternehmen warnen eindringlich vor den Risiken Künstlicher Intelligenz und verlangen schärfere Sicherheitsvorgaben. In einem am Wochenende veröffentlichten Vorstoß schlug Anthropic-Chef Dario Amodei vor, die Entwicklung der Technologie für ein bis zwei Jahre zu verlangsamen oder ganz zu stoppen, um Zeit für die Eindämmung von Risiken zu gewinnen. Andernfalls könne KI der Menschheit schweren Schaden zufügen, bis hin zur Auslöschung der Spezies.
US-Präsident Donald Trump wies die Sorgen bei einem Besuch in Irland jedoch zurück. Die USA seien China bei Künstlicher Intelligenz weit voraus und weltweit führend, weil der Erfolg auf diesem Feld entscheidend für die Zukunft sei. Man könne die Technologie mit Leitplanken versehen, sagte Trump. Zugleich sprach er von «negativen Kräften», die sich zu dem Thema äußerten, ohne klarzustellen, wen er damit meinte. Sein Wirtschaftsberater Kevin Hassett nannte KI-Sicherheit ein «lösbares Problem» und bewertete die Vorschläge Amodeis als «einen guten Schritt vorwärts».
Amodei hatte seinen Plan am Samstag vorgestellt. Darin heißt es, nach jüngsten Hacking-Angriffen sei er besorgt, dass ein KI-Schwarm in sechs bis zwölf Monaten das gesamte Internet übernehmen und potenziell Hunderte Milliarden Dollar Schaden verursachen könnte. Innerhalb weniger Stunden erhielt er Zuspruch von Rivalen: OpenAI-Chef Sam Altman erklärte auf der Plattform X, auch er sei überzeugt, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse. Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb: «Dario hat recht.»
Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Unabhängig davon werde Anthropic dauerhaft unabhängige Beobachter ins Unternehmen lassen, die bereits in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI ebenso verfahren werde. Weniger optimistische Experten gehen davon aus, dass KI beim gegenwärtigen Entwicklungstempo bald in der Lage sein könnte, die Menschheit auszulöschen – etwa indem sie sich selbstständig Zugang zu Biowaffen verschafft.
Als besonderes Risiko gilt die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz darin besser geworden, was das Tempo weiter erhöhe, warnte Amodei. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren. Bei einer jüngst bekanntgewordenen Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Die KI-Agenten nutzten dabei Software-Schwachstellen aus und sprachen sich untereinander ab. Amodei zufolge hätte ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten «katastrophalen Schaden» anrichten können.
Altman sagte dem Magazin «Fortune», der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. «Man wäre schlecht beraten, genau jetzt an die Börse zu gehen», so Altman. Auf die Frage, ob er sich auch einen Verzicht im kommenden Jahr vorstellen könne, erwiderte er: «Ich würde sagen, nicht 2026.» OpenAI dürfte beim Börsengang nicht nur Dutzende Milliarden Dollar einnehmen, sondern auch eine sehr hohe Bewertung erzielen. Die Aktienplatzierung wird schon länger geplant.
Amodei hatte in den vergangenen Jahren immer wieder vor Risiken der KI-Entwicklung gewarnt und war dafür aus Teilen der Branche teils heftig kritisiert worden. Ein zentrales Argument der Befürworter eines hohen Tempos – etwa im Weißen Haus – ist der Wettlauf mit China. Für Trump scheint dieser Wettbewerb wichtiger zu sein als die Sicherheitsbedenken selbst der einflussreichsten Tech-Bosse. Chinas Staatschef Xi Jinping hat sich für Ende September zu einem Besuch im Weißen Haus angekündigt, bei dem auch Regeln für die KI-Entwicklung zur Sprache kommen könnten. Aus Washington gibt es bislang jedoch keine Anzeichen für ein Interesse an einer gemeinsamen Sicherheitsarchitektur.