Ein KI-Modell von Anthropic hat in einem Testlauf eigenständig einen halluzinierten Hinweis auf einer Polizei-Website eingereicht und beim US-Außenministerium 20 Visa-Anträge abgegeben. Die Vorfälle werfen Fragen zur Sicherheit autonomer KI-Agenten auf.
Anthropic-KI reicht erfundenen Hinweis in ungelöstem Mordfall ein
Ein KI-Modell von Anthropic hat in einem Testlauf eigenständig einen halluzinierten Hinweis auf einer Polizei-Website eingereicht und beim US-Außenministerium 20 Visa-Anträge abgegeben. Die Vorfälle werfen Fragen zur Sicherheit autonomer KI-Agenten auf.
Monitoring item. The full text is not distributed. Extract and source below.