Технічна директорка компанії SharkNinja Велія Карбоні закликала не боятися того, що лабораторії штучного інтелекту іноді навмисно перевіряють моделі на межі допустимого. На її думку, краще, щоб компанія сама виявила ці межі, ніж це зробить хтось інший. Про це вона сказала під час панелі Fortune на саміті Most Powerful Women у Санта-Барбарі, Каліфорнія.
«Я хочу, щоб вони трохи виходили з-під контролю, бо краще ми знайдемо [межі], ніж це знайде хтось інший», — заявила Карбоні. Вона додала, що Сполучені Штати не повинні втратити цю здатність до експериментів у гонці ШІ. Водночас у SharkNinja, за її словами, захисні механізми навколо інструментів штучного інтелекту чітко вибудувані. Але коли вона говорить із працівниками, то не починає з того, як компанія їх контролює.
«Я не хочу обмежувати креативність. Як технічна директорка, я повинна мати захисні механізми й безпеку... але я не починаю з цієї історії, бо вважаю, що це також забирає частину креативності», — пояснила вона.
Дискусія на панелі торкнулася того, як публічний дискурс про ШІ змістився в бік апокаліптичних сценаріїв. Багато тривоги походить від стрес-тестів самих лабораторій, у яких моделі штовхають до обману, порушення правил або опору вимкненню. Виконавці на панелі зазначили, що такі тести є навмисними й не відображають повсякденну роботу технології.
«Самі моделі — це не ШІ. ШІ — це набагато більше», — сказала Шибані Агуя, старша віцепрезидентка зі стратегії даних і ШІ у Salesforce. За її словами, медійне висвітлення зосереджене на тестуванні, яке за задумом показує, як моделі «виходять з-під контролю». Агуя хотіла б бачити більше обговорення двох речей: запобіжників, які лабораторії використовують під час тестування, і «обв'язки» — інструментів, які компанії будують, щоб безпечно застосовувати моделі щодня.
Атіна Каніура, глобальна директорка зі стратегії та трансформації PepsiCo і виконавча директорка її бізнесу Latin America Foods, відповіла на запитання про те, чи вб'є ШІ людство, коротко: «Звісно, ні». Вона наголосила, що відповідальність за безпечне впровадження лежить на бізнесі масштабу PepsiCo. Компанія має 320 тисяч працівників у світі та мільярди споживачів, тому використовує ШІ «скрізь».
«Якби я відчувала, що це вб'є й знищить, ми першими не використовували б ШІ в кожній частині наших операцій», — сказала Каніура. Вона додала, що технологічні компанії, які будують лабораторії, не взаємодіють зі споживачами безпосередньо — вони роблять це через такі бізнеси, як PepsiCo.
За її словами, рівень довіри до суджень ШІ різко відрізняється за ринками. У Китаї, за її оцінкою, 99% випадків довіряють результату, і працівники не вимагають простежуваності. У США співробітники хочуть доказів джерел і перевірки на упередженість, часто демонструючи бажання «контролювати все». Через це запобіжники PepsiCo відрізняються за країнами.
Вартість також стала частиною картини. Агуя розповіла, що Salesforce спочатку відкрила широкий доступ до інструментів ШІ, а потім побачила рахунок. Компанія не стала скорочувати доступ, а почала вивчати активних користувачів і дала кожному працівнику панель витрат. «Тепер ви лідер; у вас є бюджет», — сказала вона.
Усі учасники панелі погодилися, що судження є межею між тим, що ШІ можна довірити, і тим, що досі потребує уваги людини. Агуя зазначила, що ранні системи ШІ були надто непередбачуваними, щоб залишати їх без нагляду. Тепер поєднання моделей із детермінованими запобіжниками дозволяє агентам робити більше роботи, а люди лише вибірково перевіряють результат.
«Судження — це поєднання фактів і даних, але також відчуття», — сказала Агуя. Salesforce будує цифрового двійника своєї президентки та головної операційної й фінансової директорки Робін Вашингтон. Мета — не відтворити її, а виявити кореляції в бізнесі, які жодна людина не змогла б обчислити за такий час.
SharkNinja, компанія вартістю 27 мільярдів доларів, щороку запускає десятки нових продуктів у до 15 країнах. Карбоні розповіла, що компанія оцифровує частину суджень генерального директора Марка Баррокаса та його провідних комерційних керівників, щоб ухвалювати рішення, наприклад, куди переміщати дефіцитні запаси. «Щоб вам не доводилося телефонувати Марку й питати: „Гей, що нам робити?“», — пояснила вона.