Wireva

Дейтинг-застосунки використовують ШІ-ботів, щоб обманювати користувачів і вимагати гроші

Дослідники виявили понад 20 застосунків для знайомств, де переписку ведуть автоматизовані ШІ-боти, а користувачів підштовхують купувати внутрішню валюту.

Дослідники виявили щонайменше 28 застосунків для знайомств, у яких більшість розмов ведуть автоматизовані ШІ-боти, а не живі люди. Користувачам обіцяли безпечні й справжні знайомства, але насправді їх намагалися втягнути в платні переписки. За оцінками, від такого обману постраждали тисячі людей, переважно чоловіки середнього віку.

Журналіст Метью Голт-Корманіч протестував один із застосунків, Dora. Під час відеодзвінка з «Дженніфер» він побачив лише рухому тканину, а з аудіо було чутно фоновий шум, без ознак присутності реальної людини. Саме такі деталі, за словами авторів розслідування, допомогли відрізнити автоматизовану систему від живого співрозмовника.

Розслідування почалося з підозрілої активності на платформі Claude компанії Anthropic, яку дослідники перевіряли після сигналів про незвичну поведінку. Один оплачений обліковий запис генерував понад 100 000 запитів щодня. Це спонукало дослідників детальніше вивчити зв’язки між застосунками. Окрім Dora, у списку фігурують Romi і Doni, які просувалися як платформи для пошуку партнерів і позиціонувалися як безпечне місце для справжніх знайомств.

Як пояснили дослідники, застосунки були пов’язані між собою спільним кодом, серверами, електронними адресами та номерами телефонів. Це свідчило не про випадкові збіги, а про єдину інфраструктуру, якою керують одні й ті самі люди. Claude використовували для створення персонажів, а інші моделі — для генерації зображень, емодзі та модерації повідомлень. Таким чином, різні складові системи працювали разом, імітуючи живе спілкування.

Диалоги були побудовані так, щоб утримувати користувача в чаті та підштовхувати його до покупки внутрішньої валюти застосунку, аби продовжити розмову. Чоловікам, які вже витратили гроші, пропонували нові кроки, а саме розмови ставали дедалі інтимнішими й більше прив’язували людину до платформи. Саме на цьому, за висновками дослідників, і будувався основний заробіток схеми.

Витік китномовного посібника, за словами дослідників, описував моніторинг «людських операторів» і рейтинг оплат. Документ свідчив про те, що частину переписки все ж могли контролювати люди, а їхню ефективність вимірювали за тим, скільки грошей вдавалося отримати. Розробники, на думку експертів, пов’язані з Китаєм: у інфраструктурі застосунків згадуються хмарні сервіси Tencent і аналітика ByteDance. Втім, остаточно встановити особи розробників поки не вдалося, а повний перелік постраждалих і масштаби фінансових втрат залишаються невідомими.

Після видалення застосунків із магазинів додатків шахраї швидко відновили діяльність, випустивши нові продукти з подібною логікою. Це демонструє, наскільки складно зупинити такі схеми, якщо вони не блокуються на рівні платіжних систем і постачальників ШІ-моделей. Експерти закликають розробників застосунків, платіжні системи та компанії, що надають ШІ-технології, об’єднати зусилля для виявлення та припинення подібних зловживань.

Користувачам радять із підозрою ставитися до надто привабливих співрозмовників, які швидко переходять до розмов про гроші, інтимні теми чи покупки в застосунку. Перевірка відеозв’язку, зокрема фонового шуму та рухів співрозмовника, може допомогти виявити автоматизовану систему. Не варто також переказувати кошти чи купувати внутрішню валюту на прохання людини, з якою ви знайомі лише через застосунок.

Same event, other desks

Story file →