15-річний хлопець ішов до школи, а за кілька хвилин опинився зв’язаним у машині людей, які виявилися співробітниками поліції. Так події 4 травня на московській вулиці Гарібальді описує його родина. Тепер у цій історії з’явилася ще одна деталь: батьки стверджують, що причиною помилки могла бути система розпізнавання з елементами штучного інтелекту.
Про саме затримання писали ще навесні. «Новая газета Европа» повідомляла, що мати підлітка розповіла про удар зі спини, зв’язані ременем руки та поїздку до відділу без своєчасного повідомлення батьків. У поліції, за її словами, з’ясувалося, що хлопець просто був схожий на людину, яку підозрювали у злочині.
У новій розповіді Осторожно Media батько уточнює: сина нібито запідозрили в розповсюдженні наркотиків, а матері сказали про 85–90% збігу з орієнтуванням за даними системи зі штучним інтелектом. Це поки що твердження сім’ї. Ні назви системи, ні технічного протоколу збігу, ні окремої публічної заяви поліції про такий показник немає.
Чому це має значення? Тому що відсоток на екрані легко сприйняти як готову відповідь. Насправді системи розпізнавання облич працюють із балами схожості й порогами. NIST, який регулярно оцінює сотні алгоритмів, показує: у пошуку «один проти багатьох» існують хибнопозитивні результати, коли неправильна людина потрапляє до списку кандидатів. Показник залежить від конкретного алгоритму, якості фотографії, бази та налаштувань.
Москва давно використовує розпізнавання для пошуку людей. Офіційний транспортний портал розповідає про систему «Сфера» у метро: камера формує біометричний шаблон, звіряє його з базами й передає поліції сигнал про людину з розшуку. Але немає даних, що травневе затримання школяра сталося саме через «Сферу».
Сім’я стверджує, що наслідки помилки були фізичними. Після звільнення хлопцю діагностували струс мозку; це повідомляла й «Новая газета Европа». Пізніший матеріал Осторожно Media наводить із медичних документів ще кілька травм — гематому, крововилив на спині та садна на зап’ястях.
Поліція пояснює силу інакше. У відповіді, яку отримала родина, зазначено, що підліток нібито опирався, травмував співробітників і намагався втекти. Сім’я з цим не погоджується.
Батьки звернулися до поліції та Слідчого комітету. Осторожно Media пише, що перевірка триває, але остаточний результат їм ще не повідомили. Саме він має встановити, що було первинною причиною затримання та як діяли співробітники після того, як побачили перед собою 15-річного школяра.
Історія добре показує межу між автоматизацією й відповідальністю. Навіть якщо комп’ютер справді позначив обличчя як схоже, зв’язати людину, доставити у відділ і застосувати силу може лише людина. Помилка алгоритму стає небезпечною тоді, коли її перестають сприймати як сигнал для додаткової перевірки.