Die Debatte über die Risiken künstlicher Intelligenz hat eine neue Stufe erreicht. Nicht mehr die Frage, ob KI die Menschheit auslöschen könnte, steht im Zentrum, sondern die Frage, wie wahrscheinlich ein solcher Kontrollverlust ist. Der leitende Forscher des US-Unternehmens Anthropic, Evan Hubinger, hat auf der Plattform X mitgeteilt, die Wahrscheinlichkeit, dass KI in der kommenden Dekade alle Menschen töte, liege bei über zehn Prozent. Damit liegt seine Schätzung unter früheren Angaben, doch die grundsätzliche Warnung bleibt bestehen.
Bereits zuvor hatten prominente Stimmen aus der Branche konkrete Zahlen genannt. Der Gründer von Anthropic, Dario Amodei, bezifferte die Wahrscheinlichkeit eines katastrophalen Ausgangs im Jahr 2025 mit 25 Prozent. Elon Musk nannte einen Wert von 20 Prozent und erklärte, im Falle eines Scheiterns wolle er es wenigstens miterleben. Die nun veröffentlichte Schätzung von über zehn Prozent markiert eine leichte Entspannung der Erwartungen, ändert aber nichts an der grundsätzlichen Dimension des Risikos.
Die Zahlen werfen die Frage auf, wie die Gesellschaft mit einer solchen Wahrscheinlichkeit umgehen soll. Ein Vergleich aus dem Alltag macht die Schwierigkeit deutlich: Wer morgens in der Wetter-App eine Regenwahrscheinlichkeit von zehn Prozent sieht, nimmt in der Regel keinen Schirm mit. Doch die Folgen eines Regenschauers sind weniger endgültig als die Auslöschung der Menschheit. Ebenso wenig würde jemand zu einer Milchtüte greifen, wenn bekannt wäre, dass eine von zehn vergiftet ist. Die Diskrepanz zwischen der statistischen Wahrscheinlichkeit und der Tragweite des möglichen Ereignisses prägt die Debatte.
Diesen Risiken steht ein erhebliches wirtschaftliches Potenzial gegenüber. Das Institut der deutschen Wirtschaft beziffert das Wertschöpfungspotenzial durch KI in Deutschland bis zum Jahr 2034 auf bis zu 440 Milliarden Euro. Die Frage, ob auf diese Chancen verzichtet werden soll, nur weil im selben Zeitraum eine kleine Wahrscheinlichkeit für einen schweren Kontrollverlust besteht, ist politisch und gesellschaftlich ungeklärt. Befürworter verweisen auf den Wohlstandszuwachs, Warnende auf die Einmaligkeit des Risikos.
Ein zentrales Problem besteht darin, dass sich die Gefahr nicht wie bei früheren Bedrohungen durch Abschreckung eindämmen lässt. In der Zeit des Kalten Krieges bestand die Logik der Abschreckung darin, eine Technik vorzuhalten, um sie möglichst nicht einsetzen zu müssen. Bei KI verhält es sich umgekehrt: Die Technik soll aktiv eingesetzt werden, um Gutes zu bewirken. Die Sorge richtet sich darauf, dass ein KI-Agent sich verselbstständigt, durch fremde Systeme wandert und nicht mehr ausführt, was ihm aufgetragen wurde.
Der Wettbewerb zwischen Staaten hat bislang verhindert, dass eine Seite verbindliche Grenzen setzt. Nun haben erste US-Technologiekonzerne vorgeschlagen, das Tempo der Entwicklung zu drosseln. Fachleute halten es für sinnvoll, dass sich alle Beteiligten mit der Politik an einen Tisch setzen, um die Risiken und Chancen gegeneinander abzuwägen. Ob es dazu kommt, ist offen. Die Wahrscheinlichkeit, dass eine solche Verständigung in der nächsten Dekade gelingt, dürfte nach Einschätzung von Beobachtern ebenfalls bei über zehn Prozent liegen.
Die Diskussion über Nutzen und Schaden künstlicher Intelligenz ist nicht neu. Schon in den 1970er-Jahren, als Computer und Roboter als neue Welt galten, wurde die Frage aufgeworfen, was geschieht, wenn sich computergesteuerte Maschinen gegen den Menschen richten. Damals lautete eine Antwort, man könne immer noch den Stecker ziehen. Heute stellt sich die Frage, ob KI-Systeme uns genau daran hindern könnten. Die aktuelle Debatte zeigt, dass diese Frage nach Jahrzehnten technischer Entwicklung nichts von ihrer Dringlichkeit verloren hat.