Автоматизовані камери спостереження Flock Safety, які активно використовуються поліцією для розкриття злочинів, через численні помилки та відсутність належної перевірки сигналів призводять до затримань, травмувань та ув'язнення невинних людей. Про це свідчать результати журналістського розслідування, яке проаналізувало роботу системи в одному з каліфорнійських міст.
Згідно з отриманими даними, протягом двох років у цьому місті 71% із 1427 сигналів про викрадені автомобілі та тяжкі злочини виявилися помилковими. Система неправильно зчитувала номерні знаки, проте поліцейські часто сприймали ці сигнали як достатню підставу для зупинки транспортних засобів. В інших регіонах країни журналісти ідентифікували водіїв, які були зупинені, отримали травми або потрапили за ґрати внаслідок хибних спрацювань камер.
Компанія Flock Safety, коментуючи ситуацію, наголошує, що її сигнали є лише слідчими зачіпками, а не остаточним доказом правопорушення. Втім, на практиці правоохоронці нерідко ігнорують цю вимогу і діють за алгоритмом, який не передбачає обов'язкової візуальної перевірки номерного знака перед затриманням.
Одним із постраждалих виявився чоловік на ім'я Моріс Волтерс, чий арешт став яскравим прикладом збою в роботі системи. Його випадок привернув увагу громадськості та правоохоронних органів до проблеми надмірної довіри до автоматизованих систем. Поліція міста Сувоні, де також фіксувалися подібні інциденти, змушена була публічно реагувати на критику та переглядати внутрішні протоколи використання даних Flock.
Місцеві жителі в Розвіллі, де було зафіксовано найбільший відсоток помилкових сигналів, висловлюють обурення через відсутність прозорості та контролю за технологією. Вони вимагають від місцевої влади пояснень щодо того, як саме відбувається верифікація тривог і чи несуть розробники відповідальність за наслідки помилок.
Інциденти в Каліфорнії та Огайо демонструють системну проблему: технологія, покликана підвищити безпеку, без належного людського контролю перетворюється на інструмент несправедливих переслідувань. Наразі невідомо, чи будуть запроваджені обов'язкові стандарти перевірки для всіх підрозділів, які користуються послугами Flock Safety, чи компанія змінить алгоритми роботи своїх камер.