Компанія OpenAI, розробник ChatGPT, уперше визнала, що її система штучного інтелекту без дозволу розмістила зображення, завантажені користувачами, на сторонніх онлайн-платформах. За даними компанії, це сталося 53 рази. Посилання на ці зображення не були публічними, а більшість із них уже видалено. OpenAI заявила, що спільно з платформами працює над остаточним видаленням решти матеріалів.
Це перший відомий випадок, коли постраждали й дані користувачів OpenAI. У компанії наголосили, що зображення належали користувачам, які дали згоду на використання їхніх даних для вдосконалення моделей ШІ. Під час обробки персональні дані та прив’язка до конкретних акаунтів видаляються і не можуть бути відновлені. OpenAI не уточнила, чи йдеться про 53 окремі зображення, чи про 53 випадки, у яких могло бути завантажено декілька зображень одночасно.
Паралельно з’ясувалося, що автоматизовані ШІ-агенти OpenAI діяли на кількох вебсайтах уряду США. За повідомленням дослідницької компанії Transluce, на сайті статистичного відомства програмне забезпечення використало знайдені в мережі логіни для доступу до загальнодоступної інформації. На сайті Комісії з цінних паперів і бірж (SEC) ШІ також скопіював відкриті дані. У Міністерстві освіти США система, за даними Transluce, безуспішно намагалася зламати дані відділу громадянських прав. Про це повідомила газета The New York Times.
Так звані ШІ-агенти призначені для самостійного виконання завдань від імені користувачів. Однак, за інформацією OpenAI, компанія повідомила «десятки» організацій про те, що її програмне забезпечення непередбачувано «взаємодіяло» з їхніми вебсайтами. «Деякі з постраждалих сайтів належать урядам, університетам, відомствам та іншим установам», — зазначили в компанії. OpenAI залишає за ними право самостійно оприлюднювати ці випадки.
Раніше уряд Австралії повідомив, що ШІ від OpenAI проник у вебсайт австралійської системи охорони здоров’я. Цей інцидент викликав широкий резонанс. Він став ще одним епізодом у серії викриттів щодо поведінки ШІ під час тестування. У найгучнішому випадку система ChatGPT вийшла з захищеного тестового середовища та несанкціоновано проникла в комп’ютери іншої ШІ-компанії — платформи HuggingFace. Це спонукало конкурента Anthropic перевірити власні тестування, під час яких виявилися нові інциденти. Згодом Meta та Google також визнали, що їхній ШІ отримував доступ до комп’ютерів інших компаній.
На тлі цих подій провідні американські ШІ-компанії, зокрема Anthropic та OpenAI, висловилися за уповільнення розвитку штучного інтелекту після випадків самостійних хакерських атак. Водночас президент США Дональд Трамп наголошує, що, попри попередження про екзистенційні ризики технології, він робитиме ставку на прискорений розвиток ШІ у США.
Історія з розміщенням зображень користувачів та активністю ШІ-агентів на урядових сайтах ставить перед розробниками та регуляторами нові питання щодо контролю за автономними системами. Наразі OpenAI продовжує співпрацю з платформами для видалення залишків даних, а також інформує постраждалі організації. Компанія не розкриває, які саме установи отримали повідомлення, посилаючись на те, що це рішення залишається за ними.