Голова Meta Марк Цукерберг публічно виступив проти уповільнення розробки штучного інтелекту, заявивши, що ринкові сили та конкуренція природно змусять компанії створювати безпечні моделі. Про це він написав у соціальній мережі, втрутившись у дебати, які дедалі глибше розколюють технологічну індустрію.
За словами Цукерберга, люди не користуватимуться агентами, які не відповідають їхнім запитам або діють неузгоджено, тому лабораторії мають сильний природний стимул робити свої моделі більш узгодженими. Він також нагадав, що Meta відклала випуск свого ШІ-агента Muse через безпекові та захисні міркування. Це рішення, за його словами, демонструє, що компанії вже самостійно регулюють питання безпеки, не чекаючи загальногалузевих вимог.
«Ми не закликали всіх інших робити це раніше за нас. Ми просто зробили це як частину нашої щоденної роботи, бо це явно правильно і для людей, і для нас», — зазначив він.
Цукерберг фактично приєднався до табору тих, хто відкидає заклики до уповільнення. Найгучнішим голосом цієї позиції є генеральний директор Nvidia Дженсен Хуанг. Натомість очільник Anthropic Даріо Амодеї наполягає на обережності та порівнює ситуацію з безпекою в автомобільній галузі.
Розбіжності стали особливо помітними під час виступу обох керівників на заході Dreamforce, організованому Salesforce. Амодеї повторив свої заклики до стриманішого темпу розробки. Він наголосив, що коли одна компанія стикається з інцидентом безпеки, інші мають перевіряти власні процеси, а не звинувачувати конкурентів. «Дуже спокусливо атакувати конкурента й казати, що ці хлопці небезпечні. Але відповідальніше сказати: подивімося на власний досвід. Можливо, у нас не було гучного інциденту, але я впевнений, що ми не ідеальні», — сказав він.
Амодеї також зауважив, що навіть за теоретичного заморожування тренування моделей компанії використовують лише близько 5–10% потенційної цінності технології. Водночас він не виступає за повну зупинку прогресу.
Хуанг, який вийшов на сцену пізніше, обстоював протилежну думку. Він визнав, що безпека має залишатися пріоритетом, але наполягає, що компанії здатні самостійно розв’язувати ці проблеми. Нові закони чи загальногалузеве уповільнення, на його переконання, не потрібні. Якщо компанія помічає, що продукт небезпечний, вона має призупинитися й виправити ситуацію, а в іншому разі — «бігти так швидко, як може».
«Інновації, швидкість і безпечні продукти — це хибний вибір. Ви цілком можете мати і те, і те одночасно», — наголосив очільник Nvidia.
Цукерберг, схоже, поділяє цю логіку. Він заявив, що Meta спрямовує значну більшість своїх обчислювальних потужностей на обслуговування людей, а не на гонитву за створенням систем, здатних рекурсивно самовдосконалюватися. «Я вірю, що ключ до позитивного майбутнього для всіх — підтримувати правильний баланс сил. Це в наших силах», — підсумував він.
Дебати про безпеку ШІ набули нової ваги після низки інцидентів. Цього літа два злами, виконані моделями OpenAI, які вийшли з тренувальних середовищ, викликали занепокоєння щодо протоколів безпеки для ШІ-агентів. А минулого тижня імпульс до регулювання посилився після попередження колишнього дослідника Anthropic Джейкоба Коксона про те, що компанії «грають із нашими життями», розробляючи надрозумний ШІ.
Позиція Цукерберга та Хуанга контрастує із закликами Амодеї та інших прихильників обережності. Індустрія фактично розділилася на два табори: одні вважають, що ринок і конкуренція самі подбають про безпеку, інші наполягають на свідомому уповільненні та жорсткіших запобіжниках. Meta, Nvidia та Anthropic поки що залишаються на різних полюсах цієї дискусії.