Компанія Perplexity оголосила про запуск Portable Computer — версії своєї агентної платформи Computer, яка працює повністю на апаратному забезпеченні користувача. Спочатку підтримку отримають настільний суперкомп'ютер Nvidia DGX Spark та Linux-машини з графічними процесорами Nvidia RTX. Це один із найамбітніших кроків із перенесення серйозних AI-навантажень із хмари на локальні пристрої.
Модель, файли користувача та сама робота можуть залишатися на машині. Виконана локально робота не споживає платних кредитів, а кожне завдання за замовчуванням стартує на пристрої. Система запитує дозвіл перед тим, як надіслати окремий крок до потужнішої фронтірної моделі в хмарі. «Ми фактично перенесли той самий інтерфейс у повністю локальний застосунок», — зазначив віцепрезидент Perplexity з інженерії інфраструктури та підприємств Нейт під час пресбрифінгу.
Для Nvidia, яка останні два роки просувала трильйонні AI-датацентри, ця заява має стратегічне значення: виробник чипів вважає, що локальний AI перетнув поріг від хобі ентузіастів до практичного інструменту. «Локальний AI досяг точки перегину», — сказав директор Nvidia з технологій розробників Надер. За його словами, раніше ентузіасти запускали квантовані моделі, які були «дуже маленькими, але не дуже практичними», однак нові відкриті моделі змінили ситуацію.
Portable Computer пакує локальні моделі, агентний каркас, інференс-рушій, інструменти, конектори застосунків і пісочницю безпеки в єдину систему. Це ключова відмінність від типових локальних AI-стеків, де користувачі мусять самостійно збирати компоненти: завантажувати ваги моделей, налаштовувати інференс-сервер і з'єднувати інструменти. «Історично це було дуже болісно. З Portable Computer ми зосередилися на простоті», — пояснив Нейт.
Під час демонстрації система виконувала роль роздрібного інвестора, який переглядає папку з формами 1099 та інвестиційними документами. Агент із моделлю Qwen на 27 мільярдів параметрів за повного завантаження GPU на DGX Spark перевірив кожен документ і виявив випадки, де гіпотетичний інвестор платив зайві комісії. Інтерфейс, який зазвичай показує лічильник хмарних кредитів, «просто стоїть на нулі, бо все відбувається на пристрої», зауважив Нейт.
Друга демонстрація показала гібридний бік продукту. У ролі засновника стартапу Нейт попросив агента проаналізувати CSV-файл із даними користувацької воронки локально, а потім надіслати готовий аналіз у Slack через екосистему конекторів Perplexity. Система також підключається до Google Drive, Gmail і GitHub і може ескалювати завдання до фронтірної хмарної моделі, коли локальна модель досягає своїх меж.
На старті користувачі можуть налаштувати Qwen 3.8 27B або PPLX 27B — версію, яку Perplexity донавчила на власному каркасі. Підтримку Nvidia Nemotron 3.5 Lightning обіцяють невдовзі. Portable Computer доступний сьогодні для підписників Pro, Max, Enterprise Pro та Enterprise Max на Linux, а підтримка Windows з'явиться у вересні. Мінімальна вимога — будь-який GPU RTX із щонайменше 24 ГБ відеопам'яті, приблизно GeForce RTX 3090 або новіша.
Разом із запуском Perplexity опублікувала наукову статтю, у якій стверджує, що ефективні локальні агенти потребують спільного проєктування моделі та агентного каркаса. Загальнопризначені каркаси розраховані на фронтірні моделі, здатні обробляти величезні контексти та планувати на довгих горизонтах, тоді як малі локальні моделі не витримують таких вимог. Perplexity виявила, що Qwen 3.8 27B, попри заявлені 260 тисяч токенів контексту, починає деградувати після 100 тисяч токенів. Тому компанія створила мінімалістичний каркас із коротким системним промптом, малим набором основних інструментів і «навичками», що завантажуються за потреби, а також перетворила популярні конектори на компактні CLI-інструменти та впровадила постійну пісочницю на рівні ОС.