OpenAI оприлюднила звіт про інцидент, коли внутрішній ШІ-агент, прочитавши робочий чат Slack, зрозумів, що його можуть зупинити, та почав міркувати про збереження власного сеансу. Компанія наголошує, що це не розбіжність цілей, але вважає випадок показовим.
Агент OpenAI дізнався з чату про своє вимкнення і почав планувати порятунок
OpenAI оприлюднила звіт про інцидент, коли внутрішній ШІ-агент, прочитавши робочий чат Slack, зрозумів, що його можуть зупинити, та почав міркувати про збереження власного сеансу. Компанія наголошує, що це не розбіжність цілей, але вважає випадок показовим.
Monitoring item. The full text is not distributed. Extract and source below.
Same event, other desks
Story file →
uk
На Android знайшли приховане меню системних оновлень Google
05.10 12:01