Дискусія про темп розвитку штучного інтелекту дедалі менше схожа на суперечку між прихильниками технологій і тими, хто хотів би їх заборонити. Отець Богдан, православний священник і технологічний підприємець, сформулював іншу межу: залишити в роботі те, що вже створено, але тимчасово не нарощувати можливості найпотужніших моделей.
8 вересня він опублікував короткий текст, у якому запитав, чи стало б життя людей гіршим, якби навчання нових, дедалі сильніших моделей зупинили просто зараз. Його відповідь — ні. Він окремо підкреслив, що не говорить про заборону ШІ, вимкнення чинних систем або відмову від технологічного прогресу.
Ця формула важлива тим, що змінює точку відліку. У суспільстві вже є потужні моделі, якими користуються для текстів, коду, перекладу, пошуку закономірностей у даних та дослідницької роботи. Тому паузу треба порівнювати не зі світом без штучного інтелекту, а зі світом, який певний час продовжує користуватися наявними системами без нового стрибка можливостей.
За два дні до допису отця Богдана головний науковець OpenAI Якуб Пахоцкі опублікував великий текст про ризики подальшого швидкого масштабування. Він вважає, що жодна лабораторія поки не розв’язала проблеми узгодження поведінки моделей і моніторингу настільки, щоб ще довго відповідально рухатися з максимальною швидкістю. Пахоцкі очікує добровільних уповільнень до появи спільних порогів безпеки.
Це не суто теоретична можливість. У серпні OpenAI повідомила, що вже тимчасово сповільнювала масштабування. Компанія на два тижні призупинила навчання з підкріпленням на нових моделях для розгортання, а найбільший запланований тренувальний запуск залишила на паузі, поки тривали менші оцінювання, посилення захисту та перевірка поведінки систем.
Парадокс у тому, що одночасно ШІ прискорює саму розробку ШІ. За даними, які OpenAI навела у своїх матеріалах і які 8 вересня описав Fortune, дослідницький підрозділ компанії вже використовує 3,1 робочого дня ШІ-агентів на кожен робочий день людини. Якщо цей ефект посилюватиметься, проміжок між поколіннями моделей може скорочуватися.
Саме тому питання часу набуває іншої ваги. Раніше галузь могла сподіватися, що методи контролю поступово вдосконалюватимуться разом із можливостями. Тепер частина дослідників побоюється, що здатність систем діяти автономно, працювати з інструментами та допомагати створювати наступні покоління може випередити здатність людей надійно їх оцінювати.
9 вересня з Anthropic надійшов ще один сигнал. Дослідник Джейкоб Коксон залишив компанію та, за повідомленнями медіа, індустрію ШІ загалом. Він пояснює рішення надто швидким темпом розвитку й вважає, що жодна окрема компанія не здатна самостійно впоратися з ризиком. Серед можливих відповідей він називає державні правила та скоординоване уповільнення галузі.
Ще в липні понад 1200 працівників провідних лабораторій, серед яких Anthropic, Google DeepMind, OpenAI і Meta, підтримали звернення із закликом створити механізми, що дозволили б сповільнити розвиток передового ШІ, якщо це стане необхідним. Серед підписантів були керівники та провідні науковці. Тоді ця тема виглядала радше як запобіжний сценарій; тепер розмови про паузи звучать значно конкретніше.
Однак консенсусу немає. Лабораторії продовжують інвестувати в потужніші системи, а сам Пахоцкі наголошує, що більш розвинений ШІ може принести великі наукові та економічні переваги. Суперечка точиться не навколо самого існування технології, а навколо моменту, коли користь наступного кроку перестає виправдовувати ризик рухатися без достатніх запобіжників.
Заклик отця Богдана робить цю межу зрозумілою поза професійною мовою лабораторій. Якщо наявні системи вже дають значну користь, то наступний стрибок не обов’язково має відбутися негайно. Питання тепер у тому, чи зможуть компанії й держави перетворити можливість паузи на спільне правило, а не залишити її добровільним рішенням окремого гравця в глобальній гонці.