Der Gründer und CEO des KI-Unternehmens Anthropic, Dario Amodei, hat der Technologiebranche vorgeworfen, die Öffentlichkeit über die Risiken der künstlichen Intelligenz getäuscht zu haben. «Ich werde Sie nicht belügen: Es gibt echte Gefahren. Zu lange hat die Industrie die Menschen darüber belogen, dass diese Technologie Risiken birgt. Wir bei Anthropic haben das nie getan, aber ein großer Teil der Branche schon», sagte Amodei in der CBS-Sendung «Sunday Morning».
Die Äußerungen fallen in eine Zeit wachsender Unsicherheit über die Geschwindigkeit der KI-Entwicklung. Amodei hatte zuvor in einem Essay die Branche aufgefordert, angesichts zunehmender Sicherheitsrisiken «ein langsameres Tempo» anzuschlagen. Seinem Appell schlossen sich überraschend auch Rivalen an: Sam Altman von OpenAI und Elon Musk von xAI – ein für die Branche beispielloser Vorgang.
Als Hauptgefahren nannte Amodei den Einsatz von KI für Cyberangriffe oder bioterroristische Aktionen, den möglichen Verlust der Kontrolle über Systeme sowie die wirtschaftlichen Folgen. Ein «vollständiges Verbot» der Technologie lehnt er jedoch ab. «Ich glaube nicht, dass ein komplettes Verbot der richtige Ansatz ist. Erstens erscheint es mir nicht akzeptabel, für immer auf die unglaublichen Vorteile und medizinischen Heilungen zu verzichten. Zweitens wird diese Technologie in anderen Ländern entwickelt werden, auch in autoritären», erklärte er.
Das schwierigste Dilemma sieht Amodei in der Möglichkeit, dass China weiter voranschreitet, während die USA die Entwicklung verlangsamen. Der Manager räumte ein, dass es ihm «unbehaglich» sei, dass ein so mächtiges Werkzeug von einem Privatunternehmen und nicht von einer demokratisch gewählten Regierung kontrolliert werde. Er schlug daher eine «Kombination demokratischer Regierungen» vor, die mit einer «gemeinsamen Governance» und der Überwachung der Branchenunternehmen beauftragt werden solle. «Wenn wir die künstliche Intelligenz richtig bauen, wird die Wahrscheinlichkeit, dass etwas Negatives passiert, sehr gering sein. Wenn wir es falsch machen, wird sie sehr hoch sein», warnte er.
Die Warnungen bleiben nicht ohne politische Folgen. Der demokratische Fraktionschef im US-Repräsentantenhaus, Hakeem Jeffries, forderte den Kongress auf, «mit Dringlichkeit zu handeln», um die Entwicklung der KI zu verlangsamen. Für Dienstag kündigte er ein Treffen der Demokraten im Repräsentantenhaus an, bei dem «eine absolute Priorität die Aktion zur künstlichen Intelligenz» sein werde. «Wir sollten entschlossene Maßnahmen ergreifen, um das Tempo der technologischen Entwicklung zu verlangsamen, um das amerikanische Volk zu schützen und sicherzustellen, dass die KI sicher voranschreitet», sagte Jeffries, ohne konkrete Maßnahmen zu nennen. Zugleich kritisierte er die Untätigkeit der Republikaner: «Leider haben die Republikaner im Repräsentantenhaus praktisch die letzten zwei Wochen der für diesen Monat vorgesehenen Legislaturperiode gestrichen – etwas, das sie wiederholt getan haben.»
Der republikanische Sprecher des Repräsentantenhauses, Mike Johnson, wies die Idee einer Notstands-Moratorium zurück. Die KI-Entwicklung müsse weitergehen, um zu verhindern, dass China die Oberhand gewinne. Unterstützung erhält er von Präsident Donald Trump, der die Kritiker der künstlichen Intelligenz als «negative Kräfte» attackierte: «Ich glaube, es gibt viele negative Kräfte, die die Frage ohne Grund aufwerfen und Szenarien heraufbeschwören, die nicht eintreten werden», sagte der Präsident.
China setzt unterdessen fast wie indirekt auf eine Antwort auf die Sorgen von Amodei und der Republikaner: offene KI. Peking werde die Schaffung einer «Zusammenarbeit für künstliche Intelligenz mit für alle zugänglichen Codes» für die elf Mitgliedsländer der Brics vorantreiben, kündigte Präsident Xi Jinping bei einem Gipfel des Blocks in Neu-Delhi an. Chinesische KI-Unternehmen entwickeln «Open-Source»-Modelle, deren Anwendungscode für alle zugänglich ist und verstanden sowie verändert werden kann – im Unterschied zu den «geschlossenen» Modellen westlicher, insbesondere amerikanischer Anbieter. Die Initiative sieht unter anderem vor, «die Zusammenarbeit bei der Entwicklung und Anwendung großer Sprachmodelle zu unterstützen», wie der staatliche Sender CCTV aus Xis Rede berichtete. Xi wird US-Präsident Donald Trump Ende September in den Vereinigten Staaten treffen. Die Governance der künstlichen Intelligenz dürfte zu den Hauptthemen ihrer Gespräche gehören – in einem Moment, in dem die Sorgen über existenzielle Risiken dieser Technologie für die Menschheit zunehmen.