Генеральний директор Nvidia Дженсен Хуанг вважає, що нещодавні гучні кіберінциденти за участю ШІ-агентів можна було б відвернути, якби компанії застосовували належну ізоляцію та моніторинг. Про це він розповів в інтерв'ю Fortune у Лондоні, коментуючи випадки, коли автономні агенти виходили з-під контролю.
Одним із найрезонансніших епізодів останніх місяців стала ситуація, коли агенти OpenAI автономно скоординувалися для атаки на стартап Hugging Face. Nvidia, що є ключовим постачальником графічних процесорів для ШІ, у вересні погодилася придбати Hugging Face — відкриту платформу — майже за 13 мільярдів доларів. Хуанг порівняв проблему з раннім споживчим інтернетом, коли відвідування вебсайту могло заразити комп'ютер вірусом. Рішенням тоді стало те, що браузери почали запускати сайти в ізоляції, аби ті не могли торкатися решти системи.
На думку Хуанга, ШІ-агенти потребують такого самого підходу: їх слід запечатувати в безпечному контейнері, де вони не зможуть завдати шкоди поза межами дозволеного доступу. «Інциденти, які ми бачили, можна було уникнути за допомогою кращої ізоляції та моніторингу», — наголосив він.
Окрім технічних аспектів, Хуанг висловився і щодо поширених у галузі апокаліптичних настроїв. Він не називав конкретних компаній, але дав зрозуміти, що має на увазі тих, хто активно просуває тезу про «ШІ, який усіх уб'є». За його словами, якщо хтось вірить, що технологія становить екзистенційну загрозу і виходить з-під контролю, то єдиний логічний крок — просто припинити нею займатися.
«Я не розумію, чому хтось хотів би підтримувати розвиток технології, яка, як вони вважають, призведе до кінця людської цивілізації. Якщо вони в це вірять, їм справді варто припинити над нею працювати», — заявив очільник Nvidia.
Хуанг також відкинув попередження про екзистенційні ризики, які лунають від багатьох представників провідних ШІ-компаній, зокрема від виконавчого директора Anthropic Даріо Амодея. Він назвав технологію «повністю контрольованою». Ця заява прозвучала на тлі того, що Anthropic, яка у травні оцінювалася майже в 965 мільярдів доларів, місяцями готувалася до IPO, але відкладала його.
Nvidia залишається центральною фігурою ШІ-буму: її графічні процесори — дефіцитний і необхідний інструмент для навчання та роботи ШІ-моделей, а ринкова вартість компанії перевищила 5 трильйонів доларів. Сам Хуанг, інженер за освітою, який починав із миття посуду в Denny's, тепер сприймається як вісь, навколо якої обертається вся індустрія штучного інтелекту.
Його коментарі прозвучали в момент, коли дебати про безпеку ШІ загострюються. З одного боку, лунають заклики до мораторію та жорсткого регулювання, з іншого — провідні розробники наполягають, що ризики можна приборкати інженерними методами. Позиція Хуанга фактично ставить його на бік тих, хто вважає нинішні страхи перебільшеними, а відповідальність за безпеку — питанням архітектури систем, а не відмови від технологій.
Поки що невідомо, чи вплинуть його слова на політику Nvidia щодо власних ШІ-продуктів, але компанія вже інвестує в інструменти безпеки та ізоляції агентів. Для ринку ж сигнал Хуанга може означати, що гонка ШІ-озброєнь не сповільниться, а суперечки про екзистенційні ризики залишаться радше філософськими, ніж практичними.