Індійський стартап Simplismart отримав підтримку Nvidia. Компанія допомагає бізнесу запускати ШІ-моделі на меншій кількості графічних процесорів, що для команд, які працюють з інференсом, означає нижчі витрати на інфраструктуру. За даними самої Simplismart, її річний показник виторгу (annualized revenue run rate) за останні шість місяців зріс у чотирнадцять разів. Понад половину доходів компанія отримує зі США.
Проблема, яку вирішує Simplismart, добре знайома кожній команді, що виводить генеративні моделі в продакшн. Навчання великих моделей вимагає кластерів з сотнями чи тисячами GPU, але й після навчання запуск моделі для мільйонів запитів коштує дуже дорого. Оптимізація інференсу, тобто того, як модель відповідає на запити в реальному часі, дозволяє обслуговувати той самий трафік меншою кількістю обчислювальних ресурсів. Саме на цьому сегменті працює Simplismart.
Для українського ринку історія важлива з кількох причин. По-перше, українські продуктові команди, агенції та студії, які інтегрують ШІ у свої сервіси, стикаються з тими самими питаннями вартості інференсу, і вибір між хмарними API та власним розгортанням моделей напряму залежить від таких рішень. По-друге, зростання Simplismart саме за рахунок американського ринку показує, що індійські інфраструктурні стартапи вже виходять на глобальний рівень, минаючи внутрішній ринок як основне джерело виручки. Для українських технологічних компаній, які орієнтуються на експорт, це приклад моделі, де продукт продається на зовнішніх ринках з першого дня.
Поки що в публічних матеріалах немає деталей про суму інвестицій Nvidia, розмір раунду чи оцінку компанії, тому говорити про масштаб підтримки можна лише з огляду на сам факт участі найбільшого виробника ШІ-чипів. Для команд, які планують інфраструктуру для ШІ-продуктів, це сигнал: ринок оптимізації інференсу розвивається швидко, і вибір інструментів для зниження витрат на GPU варто переглядати регулярно.