Дослідник компанії Anthropic Джейкоб Коксон звільнився зі своєї посади. Причиною стало занепокоєння щодо стрімкого розвитку самовдосконалюваного штучного інтелекту, який, на його думку, може вийти з-під людського контролю.
Коксон переконаний, що ситуація може стати критичною вже до кінця наступного року. Він наголошує, що гонка між провідними технологічними компаніями за створення дедалі потужніших ШІ-систем несе фундаментальні ризики для всього людства.
За словами дослідника, йдеться не про гіпотетичну загрозу, а про цілком реальну перспективу втрати контролю над технологією, яка здатна самостійно вдосконалюватися. Саме цей сценарій, а не окремі технічні недоліки, став для нього вирішальним аргументом залишити компанію.
Anthropic належить до провідних розробників штучного інтелекту. Компанія відома своїми моделями Claude, які використовуються як у дослідницьких, так і в комерційних цілях. Водночас вона позиціонує себе як структуру, що приділяє особливу увагу безпеці ШІ. Звільнення одного з її дослідників через побоювання щодо неконтрольованого розвитку технології вказує на глибші суперечності всередині галузі.
Питання самовдосконалюваного ШІ останнім часом перебуває в центрі уваги наукової спільноти. Йдеться про системи, здатні без втручання людини покращувати власні алгоритми, що створює ризик стрімкого зростання можливостей поза межами, які піддаються прогнозуванню чи стримуванню.
Ситуацію загострює конкуренція між розробниками. Прагнення випередити конкурентів змушує компанії інвестувати значні ресурси в обчислювальні потужності та прискорювати цикли розробки. У таких умовах застереження окремих дослідників можуть залишатися поза увагою, навіть якщо вони стосуються фундаментальних ризиків.
Історія Коксона ілюструє ширшу проблему: фахівці, які безпосередньо працюють над створенням передових моделей, дедалі частіше публічно висловлюють сумніви щодо напрямку розвитку галузі. Їхні аргументи стосуються не лише технічної надійності, а й здатності суспільства та регуляторів встигати за темпами змін.
Наразі невідомо, чи матиме звільнення Коксона практичні наслідки для політики Anthropic. Однак сам факт того, що дослідник такого рівня залишає компанію через побоювання щодо втрати контролю, додає ваги дискусії про необхідність запобіжників у розробці штучного інтелекту.
Питання полягає в тому, чи встигнуть розробники та регулятори виробити ефективні механізми нагляду до того, як самовдосконалювані системи стануть реальністю. Відповідь на нього, за оцінкою Коксона, може бути отримана вже протягом наступного року.