Flock은 전국 규모 자동번호판인식 시스템으로 미국인의 차량 이동을 기록·저장해 경찰에 제공한다.
최근에는 AI로 운전자의 이동 패턴을 분석해 ‘의심스러운 활동’으로 판단되면 경찰에 자동 보고하는 기능을 도입했다.
‘다주 통합 인사이트’, ‘연결 차량 검색’, ‘다중 위치 검색’ 등으로 단순 추적에서 적극적 의심 생성으로 감시 범위를 확대한다.
해당 AI 알고리즘의 작동 원리, 학습 데이터, 오류율 등은 공개되지 않아 투명성과 책임성이 부족하다.
과거 범죄 데이터의 편향이 반영되면 저소득층·유색인종에 대한 차별적 의심이 강화될 우려가 있다.
ACLU는 공공감시 확대와 사전 의심생성의 위험을 이유로 경찰의 Flock 사용 거부를 촉구한다.
Get notified when new stories are published for "heavy-ties-deny"