Instagram розпочинає системну боротьбу з акаунтами, які використовують штучний інтелект для створення контенту, що маскується під реальних людей. Про це повідомляє видання PetaPixel. За останні роки кількість AI-генерованих профілів, які видають себе за справжніх користувачів, значно зросла, і тепер платформа вживає заходів проти такого контенту.
Проблема набула особливої гостроти через поширення так званих «AI-інфлюенсерів» — віртуальних персонажів, які публікують фотореалістичні зображення та ведуть активну діяльність у соцмережі. Багато з цих акаунтів не маркують свій контент як згенерований штучним інтелектом, що вводить користувачів в оману. Вони можуть рекламувати товари, брати участь у трендах і навіть вступати в комунікацію з підписниками, залишаючись при цьому повністю віртуальними.
Рішення Instagram стало відповіддю на зростаюче невдоволення аудиторії, яка дедалі частіше скаржиться на обман і маніпуляції з боку таких акаунтів. Користувачі відчувають розчарування, коли виявляють, що стежили за неіснуючою людиною або купували продукти, рекламовані віртуальними персонажами. Це підриває довіру до платформи загалом і створює ризики для брендів, які співпрацюють з такими інфлюенсерами без належної перевірки.
Нові правила передбачають посилену модерацію та перевірку акаунтів, які демонструють ознаки використання штучного інтелекту. Платформа планує впровадити додаткові інструменти для виявлення синтетичного контенту, а також вимагатиме від авторів чіткого маркування матеріалів, створених за допомогою AI. У випадках, коли таке маркування відсутнє, акаунти можуть бути обмежені або видалені.
Експерти зазначають, що цей крок є частиною ширшої тенденції в індустрії соціальних медіа, яка намагається адаптуватися до стрімкого розвитку генеративних технологій. Meta, материнська компанія Instagram, раніше вже впроваджувала системи маркування AI-контенту в інших своїх продуктах, однак нові заходи свідчать про те, що проблема потребує жорсткішого регулювання.
Водночас залишається відкритим питання, наскільки ефективною буде нова політика на практиці. Технології генерації зображень і відео розвиваються швидше, ніж інструменти їх виявлення, тому платформам доводиться постійно вдосконалювати свої алгоритми. Для звичайних користувачів це означає, що найближчим часом варто бути уважнішими до профілів, які виглядають «занадто ідеально», та звертати увагу на наявність маркування про використання штучного інтелекту.