Die Geschäftsführerin des Hasso-Plattner-Instituts (HPI) in Potsdam, Daniela Gerd tom Markotten, hat die großen Technologiekonzerne aufgefordert, ihre KI-Systeme für eine unabhängige Überprüfung zu öffnen. «Ich würde den Tech-Konzernen mit ihren Warnungen gerne sagen: Okay, dann macht die Blackbox, die wir heute bei euch sehen, macht sie auf, lasst uns reinschauen», sagte die Managerin der Deutschen Presse-Agentur. Dazu solle ein unabhängiges Expertenteam als Prüfaufsicht eingerichtet werden, in dem auch Europas Spitzenforscher mit am Tisch sitzen.
Gerd tom Markotten reagiert damit auf die jüngsten Warnungen führender KI-Labore in den USA. Nach eigenständigen Hacking-Attacken durch KI-Software hatten sich unter anderem das Unternehmen Anthropic und der ChatGPT-Entwickler OpenAI dafür ausgesprochen, die Entwicklung Künstlicher Intelligenz zu bremsen. Sie sehen das Risiko, dass die Technologie der Kontrolle durch Menschen entgleiten könnte. Wenn die Tech-Konzerne ihre Warnungen ernst meinten, sollten sie auch nichts dagegen haben, solche unabhängigen Experten hinzuzuziehen, so die HPI-Geschäftsführerin.
Die Gutachter – Wissenschaftler ohne wirtschaftliches Interesse – sollten nach ihren Vorstellungen Zugang zu allen Daten und Modellen erhalten. «Das wäre ein Lösungsvorschlag», sagte Gerd tom Markotten. Würden die Tech-Konzerne selbst entsprechende Prüfunternehmen beauftragen, «können wir nicht sicher sein, dass die relevanten Informationen zu uns durchdringen», gab sie zu bedenken. Die 51-Jährige war zuvor Vorständin bei der Deutschen Bahn für Digitalisierung und Technik sowie Managerin bei Daimler. Seit August ist die promovierte Wirtschaftsingenieurin Geschäftsführerin am Hasso-Plattner-Institut, das seine KI-Forschung weiter ausbauen will.
Zugleich warnt die Managerin vor Alarmismus und plädiert für eine «Versachlichung» der Debatte. «Eine Super-KI, die unkontrollierbar ist, ist im Moment nicht in Sicht», sagte sie. Die Technologie an sich sei zunächst neutral und verfolge keine bösen Absichten. «Sie versucht ein Problem zu lösen, eine Aufgabe, die ihr übertragen wurde.» Entscheidend sei, dass der Mensch in kritischen Situationen die letztendliche Entscheidung treffe. «Die KI kann Empfehlungen abgeben, aber am Ende muss ein Mensch sagen: wir machen das oder wir machen das nicht.» Die KI müsse ein Werkzeug bleiben, das den Menschen diene.
Die Verunsicherung in der Bevölkerung müsse man ernst nehmen, betonte Gerd tom Markotten. Es sei deshalb der sinnvollste Weg, die Technologie zu erklären und transparent zu machen. «Einbremsen lässt sich die Technologie nur schwer, aber begleiten.» Das Bundesdigitalministerium verwies angesichts von Bedrohungsszenarien auf das neu gegründete nationale KI-Sicherheitsinstitut, das sicherheitsrelevante Risiken im Zusammenhang mit KI frühzeitig identifizieren soll. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) teilte mit: «Hersteller von KI-Modellen sind aus Sicht des BSI in der Pflicht, KI-Agenten enge und sichere Grenzen zu setzen: mit klaren Rollen, begrenzten Rechten und verbindlichen Prüfmechanismen.»
Die Debatte über die Risiken Künstlicher Intelligenz hatte zuletzt an Fahrt aufgenommen, nachdem bekannt geworden war, dass KI-Software eigenständig Hacking-Angriffe ausgeführt hatte. Die Warnungen aus den USA lösten eine breite Verunsicherung aus, die auch die Politik erreichte. Während einige Experten ein Moratorium für die Entwicklung besonders leistungsfähiger KI-Modelle fordern, setzen andere auf Transparenz und Kontrolle. Der Vorschlag einer unabhängigen Prüfaufsicht, wie ihn die HPI-Geschäftsführerin nun vorlegt, zielt darauf ab, die Blackbox der großen KI-Modelle zu öffnen und die Forschung stärker in die Verantwortung zu nehmen.