Президентка Anthropic Даніела Амодеї вважає створення ШІ-партнерів для романтичних стосунків поганим застосуванням технології. Про це вона заявила в передзаписаному інтерв'ю з Аріанною Гаффінгтон, засновницею та CEO Thrive Global, підготовленому для конференції Think Health, що відбулася в п'ятницю в Бентонвіллі, штат Арканзас. Про це повідомляє Business Insider.
«Я думаю, що це жахливе використання ШІ», — наводить видання слова Амодеї. Вона зазначила, що такі інструменти ризикують ще більше віддалити людей одне від одного, тоді як головна обіцянка штучного інтелекту — допомагати та зближувати.
Заява прозвучала на тлі стрімкого зростання популярності чатботів із романтичним або інтимним підтекстом. Такі сервіси, як Character.AI, Replika та численні менші застосунки, дозволяють користувачам створювати віртуальних співрозмовників і вести з ними тривалі «стосунки». Для багатьох це спосіб впоратися з самотністю, але водночас — і бізнес-модель, що будується на утриманні уваги та підписках.
Anthropic, яку очолює брат Даніели Даріо Амодеї, відома своїм акцентом на безпеці ШІ. Компанія розробляє моделі Claude і позиціонує себе як розробника, що приділяє особливу увагу етичним питанням та обмеженням у використанні своїх продуктів. Критика з боку президентки компанії — сигнал, що індустрія починає публічно окреслювати межі прийнятного застосування генеративних моделей.
Для українського ринку ця дискусія має практичне значення. По-перше, чатботи з романтичним сценарієм уже доступні українським користувачам — переважно через глобальні застосунки, які не мають локальної підтримки та працюють англійською або російською. По-друге, продуктові команди, які розробляють ШІ-асистентів, мають визначитися з політикою щодо інтимних сценаріїв: чи дозволяти їх, як модерувати та як захищати вразливих користувачів.
Окреме питання — безпека даних. Романтичні чатботи збирають надзвичайно чутливу інформацію про користувача, і українським командам, які працюють із подібними продуктами, варто заздалегідь продумати, як зберігати ці дані та чи відповідає це вимогам GDPR для європейських користувачів.
Амодеї не пропонує регуляторних рішень — її теза радше про те, що компанії самі мають обирати, які сценарії підтримувати. Це перегукується з ширшою дискусією про те, чи несе розробник ШІ відповідальність за те, як люди використовують його продукт.
Практичний висновок для українських продактів і маркетологів: якщо ви будуєте ШІ-продукт із емоційною складовою, варто чітко сформулювати, які сценарії ви вважаєте прийнятними, і зафіксувати це в правилах продукту. Це не лише питання етики, а й репутації та довіри користувачів.