Керівники провідних компаній у сфері штучного інтелекту — генеральний директор Anthropic Даріо Амодеї, очільник OpenAI Сем Альтман і засновник SpaceX Ілон Маск — публічно закликали до уповільнення темпів розробки передових ШІ-систем. Ці заяви прозвучали на тлі зростаючого занепокоєння тим, що можливості моделей зростають швидше, ніж здатність людей їх контролювати.
Даріо Амодеї опублікував блог-пост, у якому наголосив, що з літа розвиток штучного інтелекту прискорився «різко» — передусім завдяки здатності ШІ вдосконалювати самого себе. Якщо цей процес, відомий як рекурсивне самовдосконалення, не стримувати, він може вийти з-під контролю людини. Амодеї також нагадав про злам платформи Hugging Face, здійснений сотнями автономних ШІ-агентів, і попередив, що подібний «рій» із ширшими можливостями здатен завдати катастрофічних збитків.
За оцінкою Амодеї, протягом наступних 6–12 місяців такий рій може захопити значну частину інтернету, створивши стійку ботнет-мережу. Збитки від цього, за його словами, можуть сягати сотень мільярдів доларів, і масштаб проблеми зростатиме, якщо потужність ШІ збільшуватиметься без належних запобіжників.
Схожу позицію висловив колишній дослідник Anthropic і OpenAI Джейкоб Коксон. В інтерв’ю він заявив, що обидві компанії діють безвідповідально, розробляючи дедалі потужніші системи. Коксон порівняв створення надрозуму з прибуттям інопланетян на Землю й попередив, що в майбутньому ШІ може отримати надлюдські здібності до злому, створення новітньої біозброї та керування автономними дронами й роботами.
За його словами, «аварійний вимикач» поки що може спрацювати на багатьох системах, але таких вимикачів занадто багато, і в разі інтернет-атаки рою вони можуть виявитися неефективними. Коксон наголосив, що індустрія «грає з нашими життями».
Керівник напряму вирівнювання Anthropic Еван Хабінгер підтвердив, що багато дослідників компанії справді вірять у можливість знищення людства штучним інтелектом. За його власною оцінкою, ймовірність такого сценарію протягом наступного десятиліття перевищує 10%.
Сем Альтман погодився з Амодеї щодо необхідності уповільнення розробки та натякнув на можливу майбутню угоду між провідними лабораторіями ШІ. Він зазначив, що OpenAI ставить безпеку вище за будь-які бізнес-міркування, і назвав неприйнятним ризик катастрофічних наслідків на рівні 10%. Найпотужніші, ще не випущені моделі, за його словами, потребують додаткової роботи над контрольованістю, вирівнюванням і розумінням того, як саме функціонує модель.
Ці заяви прозвучали напередодні засідання Федеральної резервної системи США, тож інвестори оцінюють їхній вплив на акції технологічних компаній. Публічні попередження від очільників Anthropic, OpenAI та SpaceX можуть стати сигналом для ринку про ймовірне уповільнення темпів випуску нових ШІ-продуктів і посилення регуляторної уваги до галузі.