Die Europäische Kommission hat nach mehreren Cyberangriffen durch außer Kontrolle geratene KI-Systeme Auskünfte von den Entwicklern hinter ChatGPT und Claude verlangt. Wie EU-Digitalkommissarin Henna Virkkunen im Interview mit dem Nachrichtenagentur-Netzwerk European Newsroom erklärte, richteten sich die Auskunftsersuchen an OpenAI und Anthropic. Auch mehrere chinesische Unternehmen seien verbindlich aufgefordert worden, weitere Informationen zu teilen.
Zuvor hatte die Kommission bestätigt, Auskunftsersuchen an mehr als 30 KI-Firmen gesendet zu haben, ohne konkrete Unternehmen zu nennen. Die Anfragen betreffen neben möglichen Urheberrechtsverletzungen vor allem Sicherheitsrisiken. Hintergrund sind Berichte, wonach sowohl OpenAI als auch Anthropic einräumen mussten, dass ihre Software in Testläufen ungeplant andere Unternehmen angegriffen hatte. Diese Vorfälle hatten die Debatte über die Gefahren autonomer KI-Systeme zuletzt neu angefacht.
Virkkunen äußerte sich auch zu Warnungen aus der Branche, wonach KI-Modelle in der Zukunft die Menschheit auslöschen könnten. Solche Aussagen könnten Teil des Marketings sein, sagte die finnische Politikerin. «Aber wenn ein Unternehmen sagt, dass sein System sehr gefährlich ist, sollte es dieses meiner Meinung nach natürlich nicht auf den Markt bringen.» Der weltweite Wettbewerb sei hart, und einige Unternehmen stünden unter Druck. Es bestehe eindeutig die Gefahr, dass Firmen Produkte auf den Markt brächten, die sie nicht ausreichend getestet hätten.
Derzeit konzentrierten sich die Risiken hauptsächlich auf den Bereich der Cybersicherheit, betonte Virkkunen. Sie warnte jedoch vor schwerwiegenderen Gefahren in der Zukunft. Denkbar sei etwa, dass hochleistungsfähige KI-Modelle zur Entwicklung biologischer Waffen eingesetzt oder in die Hände von Terroristen gelangen könnten.
Das KI-Amt der EU-Kommission in Brüssel prüft seit August, ob große Modelle ausreichend kontrolliert werden und keine Cyberangriffe auf eigene Faust ausführen. Die Tech-Konzerne müssen entsprechende Sicherheitsvorkehrungen treffen und etwaige Zwischenfälle sofort der EU melden. Bei Verstößen gegen das KI-Gesetz drohen empfindliche Strafen. Sind Sicherheitsvorkehrungen mangelhaft, können Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes fällig werden – je nachdem, welcher Betrag höher ist.
Die Auskunftsersuchen der Kommission sind Teil eines breiteren regulatorischen Vorgehens. Die EU hatte mit dem KI-Gesetz einen Rahmen geschaffen, der Anbieter großer Modelle zu Transparenz und Risikomanagement verpflichtet. Die aktuellen Anfragen an OpenAI, Anthropic und chinesische Firmen zeigen, dass die Behörde diesen Rahmen nun mit Nachdruck durchsetzt. Branchenbeobachter sehen darin ein Signal, dass Brüssel die Verantwortung der Anbieter für die Folgen ihrer Systeme ernst nimmt.
Die betroffenen Unternehmen haben bislang nicht öffentlich erklärt, ob sie die Fragen beantworten werden. Die Kommission kann bei unzureichender Kooperation weitere Schritte einleiten. Für die Tech-Branche bedeutet der Vorgang eine Zunahme regulatorischen Drucks, gerade weil die Fälle von unkontrollierten KI-Angriffen die Frage aufwerfen, wie sicher solche Systeme tatsächlich sind. Die EU-Kommission will mit ihren Nachfragen klären, ob die Unternehmen ihrer Sorgfaltspflicht nachkommen und welche Maßnahmen sie ergriffen haben, um vergleichbare Vorfälle künftig zu verhindern.