Світова спільнота активізувала дискусію про безпеку штучного інтелекту на тлі стрімкого розвитку технології та зростаючих ризиків. Президент США Дональд Трамп зустрівся з головою Китайської Народної Республіки Сі Цзіньпіном на триденному саміті, де одним із ключових питань стало обговорення загроз, пов'язаних зі ШІ. Паралельно під час щорічної Генеральної Асамблеї ООН керівники провідних світових компаній у сфері штучного інтелекту закликали організацію встановити контроль над цією технологією, щоб уникнути потенційного знищення людства.
Генеральний директор OpenAI Сем Альтман прямо заявив Раді Безпеки ООН, що існує ризик втрати контролю над майбутнім через штучний інтелект. Ці попередження лунають на тлі кібератак із використанням ШІ та застережень від колишніх співробітників технологічних гігантів, які вказують на неефективність поточних методів регулювання. Питання безпеки ШІ активно обговорюється політиками вже кілька років, особливо після появи ChatGPT у 2022 році. Уряди проводили слухання, формували експертні групи та розробляли власні плани контролю, що призвело до створення певних напрацювань.
Наразі існує своєрідний «планетарний щит» проти потенційно неконтрольованого розвитку ШІ, однак він ще не повністю функціонує, і його ефективність залишається під питанням. Останні чотири роки найбільш технологічно розвинені країни та потенційні лідери у сфері ШІ активно обговорювали проблему безпеки на різних рівнях: у Конгресі США, Білому домі, ООН, G7 та інших столицях. На основі цих розмов сформувався певний ландшафт заходів безпеки. Існують національні інститути з безпеки та кібербезпеки ШІ, які фінансуються державою та відповідають за перевірку новітніх розробок компаній перед їх випуском. Крім того, компанії добровільно беруть на себе зобов'язання або розробляють спільні стандарти для захисту виборів від впливу ШІ, запобігання поширенню діпфейків, створених за допомогою ШІ, а також долучаються до спільних урядово-корпоративних ініціатив з інтеграції безпеки в процес розробки технологій.
На міжнародному рівні діє механізм звітності під керівництвом G7, який підтримують провідні західні країни. Цей механізм дозволяє великим компаніям у сфері ШІ ділитися інформацією про розробку своїх новітніх моделей та встановлювати стандарти для зниження катастрофічних ризиків. Щорічно публікуються міжнародні наукові звіти, що базуються на наявних дослідженнях, про ризики, пов'язані з найсучаснішими системами ШІ, що допомагає урядам планувати свої дії на випадок найгірших сценаріїв. Однак, попри ці заходи, існує значний пробіл у системі. Наразі відсутній дієвий механізм для швидкого реагування на виникнення кризових ситуацій, особливо якщо такі події матимуть транскордонний характер між країнами, що вже мають скептичне ставлення одна до одної.
Саме тому критично важливою є розробка глобальної системи реагування, яка зможе ефективно працювати в умовах надзвичайно швидкого розвитку загроз від ШІ. Уряди та компанії визнають потребу у створенні такого механізму до кінця 2026 року. Хоча шлях до цього вже намічений, і деякі системи вже існують, відсутність можливості глобального реагування в реальному часі на кризу ШІ залишається суттєвим недоліком. Наприклад, саміт США та Китаю може стати кроком у правильному напрямку. Відповідно до пропозицій американської сторони, може бути створено «гарячу лінію» зв'язку між міністром фінансів США Скоттом Бессентом та віце-прем'єром Китаю Хе Ліфенгом для обміну інформацією у разі інцидентів, що можуть вплинути на національну безпеку обох країн. Однак, чи призведе зустріч Трампа та Сі до такого прогресу, залишається невідомим. Китайська сторона висловлювала певні застереження щодо правил ШІ, оскільки Конгрес США ще не ухвалив відповідних рішень, а Китай вже має одні з найсуворіших механізмів контролю над ШІ у світі.
Для забезпечення безпеки ШІ дискусія повинна вийти за рамки поточного саміту США та Китаю. Покладатися лише на Вашингтон та Пекін, які є ключовими гравцями у сфері ШІ, недостатньо для вирішення глибинних проблем та не сприятиме залученню інших країн. Ця співпраця повинна бути ширшою, залучаючи інші країни для уникнення домінування окремих держав у сфері контролю над ШІ. Для створення ефективної глобальної системи реагування експерти та посадовці наголошують на необхідності активації існуючих механізмів у разі кризи. Хоча країни не зобов'язані мати однакову політику щодо безпеки ШІ, ефективний контроль, подібний до контролю над ядерною зброєю, вимагає глобальної згоди щодо швидкого реагування на серйозні інциденти.
Пропонується запровадити 90-денний механізм швидкого реагування, який би об'єднував існуючі елементи безпеки ШІ. Розробники, інститути безпеки ШІ та регулятори з різних країн мають погодитися на запровадження протоколу, подібного до того, що використовувався після аварії на Чорнобильській АЕС. У разі інциденту протягом 72 годин має бути подано конфіденційний звіт до призначеного національного відповідального органу та невеликого технічного секретаріату. Це може базуватися на моніторингу інцидентів Організації економічного співробітництва та розвитку (ОЕСР) та призвести до технічного, багатостороннього конфіденційного розслідування причин події з подальшою публікацією анонімізованих висновків. Крім того, уряди та розробники можуть погодитися публікувати спільні декларації щодо заходів безпеки та залишкових ризиків.