Führende KI-Forscher warnen eindringlich vor den Gefahren Künstlicher Intelligenz. Die Technologie könnte zur realen Bedrohung für die gesamte Menschheit werden – bis hin zur Auslöschung. Angesichts dieser Entwicklung richtet der Grünen-Politiker Konstantin von Notz gemeinsam mit seinem Büroleiter Jörn Pohl einen dringenden Appell an die Politik, endlich zu handeln. Bislang sei KI für die meisten Menschen ein abstraktes Thema gewesen, doch nun würden aus diffusen Ängsten sehr reale Bedrohungen.
Die Autoren beschreiben, wie die größten Tech-Konzerne der Welt Hunderte Milliarden einsammeln, Datenzentren aus dem Boden schießen und neue Firmen als Hoffnungsträger gefeiert werden. Warnungen vor den Folgen dieser massiven Investitionen und einem möglichen Finanzmarktcrash wurden kaum gehört. Auch die Forderung, die KI-Forschung abzuschalten, um eine Superintelligenz zu verhindern, blieb Randerscheinung. Stattdessen herrschte die Meinung vor, KI-Anwendungen würden das Leben bereichern – Diskussionen drehten sich vor allem um individuelle Chancen, weniger um gesellschaftliche, demokratische oder gar existenzielle Risiken.
Dabei sei der Wettstreit zwischen den USA und China längst ein Rüstungswettlauf um militärische Macht. Zu wenig wurde über Triebfedern wie Macht, Einflussnahme, Gier und Größenwahn gesprochen. Dass westliche Gesellschaften diese Entwicklung tolerierten und politische Verantwortliche sie weitgehend ignorierten, sei ein schwerer Fehler gewesen. Hinter den Kulissen der großen KI-Firmen tobe ein brutaler Wettkampf um Markt- und Meinungsführerschaft, um Billionen und die Frage, wer die mächtigste Firma der Welt wird.
Die EU hat mit dem AI-Act zwar versucht, die Technologie zu regulieren. Doch Rechtsstaaten hinken massiv hinterher. Drei Dilemmata bleiben: Erstens müsste eine europaweite Regulierung auch durchgesetzt werden – von Aufsichtsbehörden, die heute noch nicht existent oder in der Lage sind, den Code hinsichtlich seiner gesellschaftlichen Auswirkungen zu verstehen. Zweitens stößt selbst eine europaweite Regulierung angesichts der globalen Verbreitung von Technologie schnell an Grenzen, was internationale Diskussionen zwingend macht. Drittens kommen die führenden KI-Firmen aus den USA und China. In den USA habe sich eine Allianz aus einem «gänzlich durchgeknallten Staatslenker» und «völlig unverantwortlich agierenden Tech-Bros und Oligarchen neuen Typs» gebildet, die sich gegen jede Regulierung wehren. China, das als Diktatur die eigene Bevölkerung mit KI massenüberwacht, habe wenig Interesse an Regulierung.
Derzeit erleben wir einen Wettkampf milliardenschwerer Firmen unter Leitung extrem verantwortungsloser Menschen, protegiert von den beiden Großmächten, in einem bizarren Wettstreit ohne echte Regeln. Relevante Regulierung haben sie auch künftig nicht zu befürchten – im Gegenteil. Seit einigen Tagen wird die Diskussion unter gänzlich anderen Vorzeichen geführt: Plötzlich wird vollkommen ernsthaft über die prozentuale Wahrscheinlichkeit diskutiert, dass KI-Anwendungen die gesamte Menschheit innerhalb kürzester Zeit auslöschen könnten. Gleichzeitig mehren sich die Stimmen derjenigen, die in den entsprechenden Firmen sehr nah an Entwicklungsprozessen beteiligt sind. Sie glauben offenbar selbst nicht mehr an eine harmlose Zukunft.
Die Autoren machen deutlich, wie sehr die Zeit drängt. Die Politik müsse jetzt handeln, um die Kontrolle über eine Technologie zurückzugewinnen, die zunehmend außer Kontrolle gerate. Es reiche nicht, auf europäische Regulierung zu warten. Nötig seien internationale Abkommen, schlagkräftige Aufsichtsbehörden und der politische Wille, sich gegen die Interessen der Tech-Konzerne durchzusetzen. Andernfalls drohe die Menschheit zum Spielball einer unkontrollierten Superintelligenz zu werden.