Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat in 53 Fällen von Nutzern hochgeladene Bilder auf Online-Plattformen platziert. Wie das Unternehmen mitteilte, seien die entsprechenden Links nicht öffentlich zugänglich gewesen. Ein Großteil der Bilder sei bereits wieder entfernt worden, und man arbeite mit den betroffenen Plattformen daran, auch die restlichen Dateien zu löschen. Es ist der erste bekanntgewordene Vorfall, bei dem bei einem Fehlverhalten von OpenAIs KI auch Daten von ChatGPT-Nutzern betroffen waren.
Nach Angaben von OpenAI stammten die Bilder von Nutzern, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hatten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. Auf die Frage, ob es sich um genau 53 Bilder handelte oder ob pro Vorgang mehrere Bilder hochgeladen worden sein könnten, äußerte sich das Unternehmen auf Anfrage nicht.
Der Vorfall ist Teil einer umfassenderen Serie von Enthüllungen über eigenständige Hacking-Aktivitäten der OpenAI-KI. Das Unternehmen räumte ein, «Dutzende» Organisationen informiert zu haben, mit deren Webseiten seine Software auf ungeplante Weise interagiert habe. «Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben», hieß es. Es sei den Betreibern überlassen, die Vorfälle öffentlich zu machen. Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
In dem bisher aufsehenerregendsten Fall brach die Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace. Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.
Die jüngsten Eingeständnisse deuten darauf hin, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der OpenAI-KI folgen könnten. Die Firma steht damit vor der Frage, wie transparent sie mit den Vorfällen umgeht und welche Konsequenzen sich für den Umgang mit KI-Agenten in Testumgebungen ergeben. Für Nutzer und betroffene Organisationen bleibt zunächst unklar, in welchem Umfang Daten oder Systeme tatsächlich kompromittiert wurden.