Провідні компанії у сфері штучного інтелекту хочуть, щоб до 2028 року смартфони могли локально запускати моделі зі щонайменше 100 мільярдами параметрів. Про це розповів генеральний директор Qualcomm Крістіано Амон в інтерв'ю подкасту Sources, який веде Алекс Гіт. За його словами, такі запити вже надходять від кількох лідерів ШІ-ринку, і вони безпосередньо впливають на те, як Qualcomm проєктує майбутні чіпи.
«Деякі з компаній, що стоять на передньому краї ШІ, кажуть Qualcomm: до 2028 року мені потрібно мати можливість запускати на телефоні модель щонайменше на сто мільярдів параметрів», — цитує Амона видання. Інтерв'ю записали в штаб-квартирі Qualcomm під час заходу Snapdragon. Це не просто побажання розробників застосунків, а вимога до апаратної платформи, яка визначатиме архітектуру мобільних процесорів на кілька років уперед.
Сто мільярдів параметрів — це порядок величини, який донедавна асоціювався виключно з серверними моделями. Для порівняння, більшість сучасних мобільних ШІ-функцій працюють із моделями на кілька мільярдів параметрів, і навіть вони вимагають ретельного балансу між продуктивністю, енергоспоживанням і обсягом пам'яті. Перехід до 100 млрд означає, що смартфон має мати достатньо оперативної пам'яті, пропускну здатність і спеціалізовані блоки для прискорення обчислень, аби не перетворитися на обігрівач із батареєю на кілька годин.
Для Qualcomm це сигнал, що конкуренція зміщується з частоти процесора та кількості ядер на здатність ефективно виконувати інференс великих моделей. Компанія вже інвестує в NPU (нейронні процесори) та інші прискорювачі, які дозволяють запускати ШІ-задачі без постійного звернення до хмари. Якщо запит на 100 млрд параметрів справді стане ринковим стандартом, це прискорить гонку між виробниками чипів — від Apple і MediaTek до Samsung — і змусить їх переглянути підходи до компонування пам'яті та тепловідведення.
Для українських продуктових команд це має цілком практичне значення. Локальний запуск великих моделей на пристрої відкриває можливості для застосунків, які працюють без стабільного інтернету, з чутливими даними або в умовах обмеженої інфраструктури. Це стосується, зокрема, медичних, освітніх і польових сервісів, де затримка або відсутність зв'язку критичні. Водночас українським розробникам варто вже зараз закладати в архітектуру продуктів гнучкість під різні апаратні можливості — від бюджетних пристроїв до флагманів.
Окремо постає питання доступності. Якщо ШІ-моделі на 100 млрд параметрів з'являться у флагманах 2028 року, вони навряд чи будуть доступні на бюджетних смартфонах одразу. Це може поглибити розрив між користувачами преміальних і масових пристроїв, а отже, українським командам слід планувати два сценарії: локальний ШІ для топових моделей і хмарний або гібридний — для решти.
Наразі невідомо, які саме компанії висувають такі вимоги до Qualcomm. Амон не назвав конкретних партнерів, але з контексту зрозуміло, що йдеться про розробників великих мовних моделей, які шукають шляхи розширення на мобільні пристрої. Для Qualcomm це також аргумент у переговорах із виробниками смартфонів: якщо чіп підтримує такі моделі, він стає привабливішим для партнерів, які хочуть пропонувати ШІ-функції без залежності від хмари.
Практичний висновок для українського ринку: варто стежити за анонсами Qualcomm і конкурентів щодо NPU та обсягів пам'яті в наступних поколіннях чіпів. Командам, які розробляють мобільні застосунки з ШІ, слід тестувати свої моделі на доступних пристроях і готувати сценарії масштабування. Агенціям і продуктовим студіям — закладати в пропозиції клієнтам можливість локального інференсу як окрему перевагу, особливо для проєктів із підвищеними вимогами до приватності.