Der Chef des KI-Unternehmens Anthropic, Dario Amodei, hat am Samstag dazu aufgerufen, das Tempo der Entwicklung künstlicher Intelligenz zu verlangsamen. Zur Begründung verwies er auf die Notwendigkeit strengerer Kontrollen der weiteren Entwicklung sowie auf einen Vorfall, der sich im Juli beim Konkurrenten OpenAI ereignet hatte. Das berichtet die Nachrichtenagentur AFP.
Amodei veröffentlichte seine Botschaft auf seiner persönlichen Seite. Sie erscheint nur wenige Tage, nachdem ein Forscher aus dem Umfeld der KI-Branche auf mögliche Risiken hingewiesen hatte. Der Anthropic-Chef zählt zu den bekanntesten Befürwortern einer vorsichtigen und kontrollierten Entwicklung von KI-Systemen. Sein Unternehmen positioniert sich seit seiner Gründung als Anbieter, der Sicherheitsfragen und die Erforschung der langfristigen Folgen künstlicher Intelligenz in den Mittelpunkt stellt.
Der Zeitpunkt des Appells ist bemerkenswert. Die Branche befindet sich in einem intensiven Wettlauf um leistungsfähigere Modelle. Große Technologiekonzerne und spezialisierte Start-ups investieren hohe Summen in Rechenleistung, Daten und Fachkräfte. Gleichzeitig wächst die Sorge, dass die Geschwindigkeit der Entwicklung die Möglichkeiten der Kontrolle überholt. Aufsichtsbehörden in mehreren Ländern diskutieren Regeln für den Einsatz von KI, etwa Transparenzpflichten und Sicherheitstests für besonders leistungsfähige Systeme.
Der von Amodei erwähnte Vorfall bei OpenAI im Juli dürfte die Debatte zusätzlich befeuert haben. Details nannte er in seiner Botschaft nicht. Der Hinweis auf ein konkretes Ereignis bei einem führenden Anbieter verleiht seiner Warnung jedoch Nachdruck. Sie fällt in eine Phase, in der die Öffentlichkeit zunehmend auf mögliche Risiken von KI aufmerksam wird, von der Verbreitung falscher Informationen bis hin zu Fragen der Sicherheit und des Missbrauchs.
Für die Branche bedeutet der Vorstoß eine erneute Auseinandersetzung über das richtige Maß an Tempo und Vorsicht. Während einige Unternehmen auf schnelle Produktzyklen und Marktanteile setzen, fordern andere mehr Zeit für Tests und Sicherheitsforschung. Wie sich diese Spannung auflösen lässt, ist offen. Klar ist, dass die Diskussion über die Kontrolle künstlicher Intelligenz nicht nur ein technisches, sondern auch ein gesellschaftliches Thema bleibt.