Пропозиція Biometrica до Мілуокі не є нейтральним інструментом – це крок до дистопійського майбутнього

Начальник поліції Мілуокі все ще хоче, щоб техніка розпізнавання обличчя, незважаючи на опозицію
За чотири місяці з моменту, коли відділ поліції Мілуокі оголосив, що сподівається придбати технологію розпізнавання обличчя, його зустріли майже рівномірний відштовхування.
Департамент поліції Мілуокі розглядає тривожну пропозицію: торгувати 2,5 мільйона зображень та даних, що належать жителям Мілуокі – переважно чорними та коричневими людьми – з приватною компанією «великі дані», Biometrica, в обмін на «безкоштовні» ліцензії на пошук розпізнавання обличчя. Додаткові ліцензії надійдуть вартістю 12 000 доларів. Але справжня вартість набагато вища: ерозія конфіденційності громади, націлювання на маргіналізовані громади та розширення інфраструктури спостереження, яка історично завдала нам шкоди.
Biometrica, компанія, що базується в Лас-Вегасі, з корінням в казино-промисловості, відстежувала відстеження гравців до відстеження мирних жителів. Зараз їх системи інтегруються в правоохоронні органи по всій країні, і Мілуокі може бути наступним. Але в той час, як поліція обізнана за закритими дверима, люди, чиї тюрми записуючи та маточки, можна було передати цій корпорації, не проводили консультації.
Будемо зрозумілим: тільки тому, що запис технічно “публічний” не означає, що його слід упаковувати та доставити оптом приватній корпорації. Якщо чиновники Мілуокі та лідери правоохоронних органів вважають, що це нешкідливо, вони повинні включати власні обличчя та записи в наборі даних.
Якщо політики Мілуокі хочуть, щоб ми відмовилися від конфіденційності, вони повинні спочатку віддати свої
Офіцери, обрані лідери та міський персонал повинні добровільно подати свої біометричні дані, оскільки це просить усіх інших, особливо тих, хто вже переселений і безперечний, нести ризик, який вони самі ніколи не будуть плече.
Люди, які були заарештовані або ув'язнені – багатьом з яких ніколи не звинувачували, не кажучи вже про засудження – заслуговують на приватне життя. Забронювання до в'язниці не повинно засуджувати вас на все життя біометричного спостереження. Особливо, коли ці дані можуть опинитися в руках казино, приватних корпорацій, політичних оперативників чи федеральних відомств, таких як ICE.
Як професор Алан Рубель з UW-Madison попереджає: “Після того, як інформація має хтось поза урядовим контролем, вона може бути використана для всіх видів речей, і насправді не існує жодного юридичного обмеження”. Хто може біометрика продати нашу біометричну ідентичність наступному?
Пропозиція Biometrica до Мілуокі не є нейтральним інструментом – це крок до дистопічного майбутнього. Коли розпізнавання обличчя використовується поряд з мережею камер, воно по суті змушує кожну людину в Мілуокі ходити з підірваною фотографією посвідчення водія на грудях, а також несе трекер GPS. Це створює інфраструктуру для масової ідентифікації та відстеження в громадських просторах: хто ви, куди ви їдете, і з ким зустрічаєшся.
Мер Кавальє Джонсон по праву позиціонував себе як суперник порядку денного Трампа. Але якщо це правда, дозволення розширеного використання розпізнавання обличчя в Мілуокі є антитетичним для цієї позиції. Не потрібно багато уяви, щоб побачити, як ця техніка може бути викрадена Трампом або його союзниками, щоб піти за незадокументованими іммігрантами, шукачами абортів, транс-людьми, які отримують доступ до гендерної стійки та політичні протестуючі. Все, що потрібно, – це один офіцер, співчутливий до Трампа – або однією ділянкою даних з центром синтезу – і ця система стає зброєю. Наївно думати, що ми можемо побудувати такий вид апарату спостереження та захистити його від зловживань.
Саме тому так важливим є прозорий і демократичний процес. Насправді MPD використовував ФРТ протягом двох -трьох років без політики. Ми вважаємо, що громада та обрані чиновники – не лише поліція – повинні сказати, які технології спостереження використовуються та за яких умов. Це розмови, які ми повинні вести, перш ніж придбати нові інструменти, а не після того, як вони вбудовані в таємницю.
Технологія спостереження має поганий досвід
Визнання обличчя призвело до неправомірних арештів – неодноразово. Роберт Вільямс, чорношкірий чоловік у Детройті, був ув'язнений на 30 годин після того, як його неправильно визнали за розпізнаванням обличчя. Муніципалітети виплатили сотні тисяч у поселеннях через ці помилки, майже всі з яких включали неправильно ідентифікацію чорношкірих людей.
Ми є У розпал кризи громадянських свобод. Такі агенції, як DHS, використовують автоматизовані інструменти для вискоблювання даних, створення чорних списків та проведення депортацій. Такі інструменти, як Palantir, активуються для подачі цього зростаючого цифрового драгнету. Оскільки AI стає більш потужним і широко використаним, ФРТ дозволить уряду відстежувати, куди їдуть люди, з ким вони зустрічаються, і що спричиняє, що вони підтримують – іноді протягом багатьох років.
Деякі керівники міста та офіцери можуть по -справжньому хочуть, щоб нові інструменти вирішувати злочини та зменшити шкоду. Але будьмо чесними: технології спостереження мають жахливий досвід, коли справа стосується фактично запобігання злочину – за винятком, можливо, у гаражах для паркування. А якщо мова йде про вирішення злочинів, у всьому місті вже є незліченна кількість приватних камер. Уряду не потрібно створювати власний драгнет.
У Мілуокі є вибір. Ми можемо відкинути майбутнє алгоритмічної поліції, цифрового профілювання та корпоративного спостереження – або ми можемо стати попереджувальною казкою.
Торгувати ідентичності наших сусідів до Biometrica в ім'я безпеки – це зрада – не лише приватне життя, а справедливість, справедливість та наше колективне майбутнє. Мілуокі повинен відхилити цю ідею, забороняти розпізнавання обличчя та вимагати не обстежувати таємно.
Джон Маккрей Джонс – аналітик політики для ACLU Вісконсіна.