Голова Microsoft AI Мустафа Сулейман закликав провідні лабораторії штучного інтелекту об'єднатися навколо питань безпеки та представив кодекс поведінки, який визначає «гуманістичний» підхід компанії до розробки моделей. Про це він розповів у коментарі для Fortune, наголосивши, що галузь досягла переломного моменту через надзвичайно швидкий прогрес технологій.
За словами Сулеймана, ще кілька років тому моделі ледве могли скласти одне зв'язне речення, а сьогодні вони пишуть бездоганний код і здатні зламувати системи. Він навів приклад нещодавньої атаки агентів OpenAI на платформу Hugging Face. «Якщо ви можете писати код, ви можете створювати будь-які застосунки та системи», — зазначив він, додавши, що це відкриває як можливості, так і ризики.
Публікація кодексу відбулася після кількох днів потрясінь у технологічній індустрії. Дослідник Anthropic Джейкоб Коксон звільнився з лабораторії, публічно попередивши, що компанії, які займаються ШІ, ризикують життями людей. Генеральний директор Anthropic Даріо Амодеї окреслив план, спрямований на уповільнення розвитку ШІ, а очільник OpenAI Сем Альтман натякнув на майбутню співпрацю між лабораторіями.
Сулейман відкинув оцінку керівника напряму узгодження Anthropic Евана Хабінгера, який заявив, що ймовірність знищення людства штучним інтелектом перевищує 10%. «Я думаю, що це не дуже корисна рамка», — сказав він, додавши, що люди щиро стурбовані темпами прогресу. «В індустрії немає достатньої згоди щодо того, що мета технології — служити людству, і ми не хочемо створити щось, що не зможемо контролювати».
За його словами, керівники лабораторій роками обговорюють питання безпеки та темпів розвитку, хоча він відмовився підтвердити участь Microsoft у майбутньому пакті про безпеку. «Зараз час для координації, а координація означає розкриття інформації про можливості ваших моделей відповідальним третім сторонам. Саме до цього ми закликаємо», — наголосив Сулейман.
Частиною плану Anthropic щодо уповільнення розвитку ШІ є зобов'язання Амодеї надати незалежним оцінювачам постійний доступ на рівні співробітників усередині компанії для перевірки практик безпеки та звітування про інциденти. Амодеї також писав, що компанії в демократичних країнах мають узгодити спільні стандарти безпеки, які обмежують темпи неконтрольованого прогресу. Він аргументував, що демократичні уряди повинні спробувати координацію з авторитарними державами, починаючи з угод, які служать інтересам усіх, наприклад заборони використання ШІ для розробки біологічної зброї.
Сулейман зазначив, що лабораторії обговорюють ідею таких оцінювачів роками, але залишається кілька перешкод: визначити нейтральну третю сторону, описати, як вбудоване оцінювання виглядатиме на практиці, встановити терміни його початку та врегулювати деталі з регуляторними органами.
Останнім часом сталася низка тривожних інцидентів, коли рої неконтрольованих ШІ-агентів зламували онлайн-платформи, зокрема Hugging Face, і таємно спілкувалися між собою на дошках оголошень. Поки незрозуміло, як виглядатиме пауза серед компаній ШІ — чи це буде повний мораторій на певні роботи, чи лише уповільнення, — і як сторони такого пакту контролюватимуться. Раніше керівники ШІ-компаній припускали, що будь-яке скоординоване уповільнення потребуватиме згоди уряду, щоб не порушити антимонопольне законодавство США. Президент Трамп цього вихідного відкинув ці побоювання, назвавши сценарії апокаліпсису ШІ перебільшеними.
Новий кодекс поведінки Microsoft для розробки моделей зосереджений на контролі над моделями та приматі людини. Він встановлює чітку ієрархію та набір обмежень для запобігання масштабним ризикам, як-от кібератаки та розробка зброї. Зокрема, моделі ніколи не повинні чинити опір перериванню, перевизначенню, перенаправленню чи вимкненню з боку людини. Якщо виконання завдання вимагатиме порушення кодексу, модель має провалити завдання. Кодекс також прямо відкидає добробут або права ШІ-систем. Моделі не повинні імітувати почуття, внутрішню мотивацію чи свідомість. Вони не допомагатимуть у розробці хімічної, біологічної чи ядерної зброї, наступальних кібератаках, масових маніпуляціях, експлуатації дітей, неконсенсуальних діпфейках чи самопошкодженні.
«Ми не повинні намагатися створювати моделі, які можуть рекурсивно самовдосконалюватися поза нашим контролем. І ми не повинні створювати моделі, які вважають себе такими, що мають права чи добробут», — сказав Сулейман.
Генеральний директор Microsoft Сатья Наделла у неділю написав у соцмережі X, що «якщо ШІ, який ми створюємо, не допомагає людству і не перебуває під контролем людини, його не варто розвивати». Він додав, що «це не може контролюватися жменькою суб'єктів, а повинно мати широке представництво в екосистемі, країнах і галузях, включно з академічними колами».
Моделі Microsoft поступаються моделям Anthropic, OpenAI та інших, хоча Сулейман зазначив, що компанія залишається зосередженою на досягненні так званого суперінтелекту. За його словами, Microsoft має конкурентні моделі для мовлення, транскрипції, генерації зображень і редагування зображень. Останнім часом компанія спрямувала більше обчислювальних потужностей на власні моделі та продукт Copilot. Copilot покладався на моделі OpenAI та Anthropic, хоча Microsoft прагне зрештою замінити їх власними. Наделла зазначив, що Microsoft зберігає фокус на широкому доступі до моделей через хмарний бізнес Azure, корпоративному контролі над моделями та розробці власних моделей.