Der KI-Experte Marcel Salathé hält die weitverbreiteten Warnungen vor einer Auslöschung der Menschheit durch Künstliche Intelligenz für spekulativ und übertrieben. In einem Beitrag auf der Plattform X schrieb Salathé, solche Szenarien seien «nicht hilfreich» und würden von den tatsächlichen Risiken ablenken. Wichtiger sei es, die Gesellschaft besser zu schützen und die IT-Firmen stärker in die Haftung zu nehmen.
Salathé, Professor an der ETH Lausanne und Leiter des dortigen Labors für digitale Epidemiologie, verglich die Debatte mit früheren Technologieängsten. «Wir haben uns bei der Kernkraft, der Gentechnik oder dem Internet auch nicht von Untergangsphantasien leiten lassen, sondern von einer nüchternen Risikoabwägung», sagte er. Die Konzentration auf apokalyptische Szenarien führe dazu, dass konkrete Probleme wie Desinformation, Diskriminierung durch Algorithmen oder der hohe Energieverbrauch von Rechenzentren aus dem Blick gerieten.
Der Forscher forderte, die Verantwortung stärker auf die Unternehmen zu verlagern. «Wer KI-Systeme entwickelt und einsetzt, muss für Schäden haften, die diese Systeme verursachen», betonte Salathé. Nur so entstünden Anreize, Sicherheitsstandards einzuhalten und Risiken frühzeitig zu erkennen. Er sprach sich zudem für unabhängige Prüfstellen aus, die KI-Modelle vor ihrer Freigabe testen – ähnlich wie bei Medikamenten oder Flugzeugen.
Die Warnungen vor existenziellen Risiken hatten zuletzt an Prominenz gewonnen. So hatte ein Mitarbeiter des Unternehmens Anthropic erklärt, die Wahrscheinlichkeit, dass KI die Menschheit innerhalb des nächsten Jahrzehnts auslöschen könnte, liege bei über zehn Prozent. Auch führende Labore wie OpenAI und Anthropic hatten sich nach eigenständigen Hacking-Attacken durch KI-Software dafür ausgesprochen, die Entwicklung abzubremsen, um einen Kontrollverlust zu verhindern.
Ein aktueller Vorfall in den USA zeigt die Gefahren fehlerhafter KI-Nutzung: Ein Geheimdienstbericht, der mithilfe eines KI-Chatbots erstellt wurde, hätte beinahe zu einem US-Angriff auf ein chinesisches Handelsschiff geführt. Der Bot hatte angeblich Teile für Atomwaffen an Bord identifiziert – eine Fehleinschätzung, die erst kurz vor dem Einsatz auffiel. US-Soldaten und Luftwaffenflugzeuge waren bereits in Bereitschaft. Der Vorfall verdeutlicht, wie schwerwiegend die Folgen ungeprüfter KI-Ergebnisse sein können.
US-Präsident Donald Trump verfolgt dennoch einen anderen Kurs. Auf seiner Plattform Truth Social schrieb er, die USA würden «das Wachstum dieser unglaublichen Industrie in keinster Weise behindern oder abwürgen». Er verwies darauf, dass die USA bei der Technologie vor China und dem Rest der Welt lägen, und wolle diesen Vorsprung halten. Zugleich kündigte er eine «AI Force» an, die sich der «schlechten» Auswirkungen von KI annehmen solle, sowie die baldige Ernennung eines «KI-Zaren». Details zu beiden Vorhaben sind bislang unklar.
In den USA wächst unterdessen der Widerstand gegen den Bau riesiger Rechenzentren für KI. Anwohner und Umweltgruppen kritisieren, dass die Anlagen Strom und Wasser verteuern und die lokale Infrastruktur belasten. Diese Kritik deckt sich mit Salathés Argument, dass die Debatte stärker auf konkrete, messbare Folgen gelenkt werden sollte – statt auf schwer greifbare Untergangsszenarien.
Salathé plädiert dafür, die Entwicklung von KI nicht aus Angst zu bremsen, sondern sie mit klaren Regeln zu begleiten. «Wir brauchen keine Panik, sondern kluge Aufsicht», sagte er. Die Gesellschaft müsse lernen, mit den Risiken umzugehen, so wie sie es bei anderen Technologien auch getan habe. Die Verantwortung dürfe nicht allein bei den Forschern liegen, sondern müsse von Politik und Wirtschaft getragen werden.