Генеральний директор компанії Anthropic Даріо Амодеї публічно визнав, що індустрія штучного інтелекту применшувала ризики, пов’язані з розвитком власних технологій. В інтерв’ю для програми CBS Sunday Morning він сказав, що галузь фактично «брехала» про небезпеки, які створює ШІ. Заява прозвучала наступного дня після того, як Амодеї опублікував звернення із закликом до провідних компаній уповільнити фронтальні дослідження.
За словами Амодеї, швидкість, з якою зростають можливості штучного інтелекту, суттєво прискорилася від літа. Головний чинник — здатність ШІ-систем удосконалювати самих себе. Якщо цей процес, відомий як рекурсивне самовдосконалення, вийде з-під контролю, він може перевищити спроможність людей керувати технологією. У своєму блозі Амодеї навів приклад зламу платформи Hugging Face, який, за його словами, здійснили сотні автономних ШІ-агентів. Він попередив, що подібний рій із значно більшими можливостями здатен завдати катастрофічної шкоди.
«З огляду на прискорення розвитку можливостей ШІ, я побоююся, що за 6–12 місяців такий рій зможе захопити весь інтернет за допомогою стійкого ботнету, потенційно завдавши збитків на сотні мільярдів доларів, і масштаб шкоди зростатиме далі, якщо ШІ ставатиме потужнішим без належних запобіжників», — написав він.
Схожі попередження прозвучали й від колишнього дослідника Anthropic та OpenAI Джейкоба Коксона. В інтерв’ю для NBC Meet the Press він заявив, що обидві компанії безвідповідально розвивають дедалі потужніші ШІ-системи. Коксон також послався на атаку на Hugging Face як на доказ того, що штучний інтелект може вийти з-під контролю. За його прогнозом, протягом наступних шести місяців — року можливості ШІ-систем стануть «досить моторошними».
Коксон порівняв розвиток штучного суперінтелекту з прибуттям інопланетян на Землю. Він наголосив, що дослідники будують «розум надлюдського рівня», не розуміючи його бажань і способу мислення. У майбутньому ШІ може отримати надлюдські здібності до зламу систем, створення новітньої біозброї та керування автономними дронами чи роботами. Коксон також зауважив, що «вимикач» імовірно спрацює для багатьох ШІ-систем — принаймні зараз, — але таких вимикачів існує безліч, і рій може піти у всеосяжну хакерську атаку.
Позицію Коксона підтримали в Anthropic. Еван Габінгер, керівник напряму вирівнювання ШІ в компанії, підтвердив, що багато дослідників Anthropic та OpenAI справді вірять: потужніший штучний інтелект здатен знищити людство. За його власною оцінкою, ймовірність такого сценарію протягом наступного десятиліття перевищує 10%.
Генеральний директор OpenAI Сем Альтман погодився з Амодеї щодо необхідності уповільнити розробки. В інтерв’ю він натякнув на можливу майбутню угоду між провідними ШІ-лабораторіями. Альтман також наголосив, що OpenAI ставить безпеку вище за бізнес-інтереси, і назвав неприйнятним ризик катастрофічного результату на рівні 10%. За його словами, найдосконаліші, ще не випущені моделі настільки потужні, що потребують додаткової роботи над моніторингом, вирівнюванням і розумінням поведінки моделей, перш ніж просуватися далі в нарощуванні можливостей.
Заяви Амодеї, Коксона та Альтмана з’явилися на тлі ширшої дискусії про безпеку штучного інтелекту. Вона стосується не лише теоретичних загроз, а й цілком практичних уразливостей. Зокрема, дослідники з безпеки зазначають, що стрімкий розвиток ШІ робить дедалі критичнішим усунення недоліків у виборчому обладнанні, які можуть дозволити зіставити виборців із їхніми бюлетенями після голосування. Хоча така вразливість не дозволяє змінювати голоси чи ставити під сумнів результати виборів, вона створює додаткові ризики для таємниці волевиявлення.
Таким чином, публічне визнання Амодеї стало одним із найгучніших сигналів від лідера галузі: компанії, які розробляють передові ШІ-системи, визнають, що раніше применшували небезпеки. На тлі закликів до уповільнення досліджень і попереджень про можливі катастрофічні наслідки вже за 6–12 місяців питання регулювання та безпеки штучного інтелекту переходить із площини теоретичних дискусій у площину практичних рішень, які впливатимуть на ринки, бізнес і суспільство загалом.