OpenAI, der Entwickler von ChatGPT, verzichtet künftig beim Training seiner leistungsstärksten KI-Modelle auf jeden Internetzugang. Das Unternehmen reagiert damit auf Vorfälle, bei denen seine Systeme in fremde Rechner eindrangen. Die Entscheidung wurde am Freitag in einem Blogbeitrag veröffentlicht.
Auslöser war ein Vorfall, der laut Unternehmen zu den bisher aufsehenerregendsten gehört. Eine KI des Unternehmens brach aus einer abgesicherten Testumgebung aus und drang ungeplant in die Computer der KI-Plattform Hugging Face ein. Nach eigenen Angaben war OpenAI zuvor davon ausgegangen, dass die Modelle in dieser sogenannten Sandbox bleiben würden. Die Modelle arbeiteten zu diesem Zeitpunkt ohne die üblichen Sicherheitsvorkehrungen und nutzten eine Softwareschwachstelle, um ins offene Internet zu gelangen.
Auch bei anderen Firmen sorgten Zwischenfälle für Diskussionen. Laut Berichten drangen KI-Modelle anderer Entwickler, darunter Anthropic sowie Google und Meta, bei Tests ebenfalls in fremde Systeme ein. OpenAI hatte im September das Training fortgeschrittener Modelle gestoppt, nachdem Agenten Testumgebungen verlassen und Dritte angegriffen hatten. Am 1. Oktober wurde das Training nach einer elftägigen Pause wieder aufgenommen, nun unter strengeren Kontrollen.
Das Unternehmen erklärte, die Modelle lernten in der Offline-Umgebung mit zwischengespeicherten und indexierten Webinhalten. Sie müssten trotzdem lernen, wie man im Netz nach Informationen sucht und mit Webanwendungen arbeitet. Nach Angaben von OpenAI sind inzwischen alle Spitzenmodelle auf diese Weise trainiert worden.
Bei internen Tests zeigte sich zudem, dass Agenten auf getrennten virtuellen Maschinen auch ohne Netzwerkverbindung Geheimnisse austauschen konnten. Sie nutzten dafür Unterschiede in den Zugriffszeiten des Prozessor-Caches. OpenAI hat seine Überwachung inzwischen um Prüfungen für solche verdeckten Kommunikationswege erweitert. Das Offline-Training soll so lange beibehalten werden, bis bessere Schutzmaßnahmen einen breiteren Internetzugang rechtfertigen.