Flock использует ИИ для доносов в полицию

Компания Flock создала национальную базу данных с записями о передвижении автомобилей по номерным знакам.

Теперь система использует ИИ для оценки «подозрительного» поведения и автоматически сообщает полиции о предполагаемых нарушителях.

Новые функции включают «Межштатные сведения», «Связанные автомобили» и поиск по нескольким локациям для выявления схем передвижения.

Отсутствует какая-либо прозрачность в отношении алгоритмов, на которых основана система, их логики, данных обучения и ошибок.

Алгоритмы могут воспроизводить и усиливать существующие предубеждения, особенно против малообеспеченных районов и сообществ цветных людей.

Использование такой системы со стороны полиции без надлежащего контроля и прозрачности ведёт к неконтролируемой массовой слежке.

ACLU призывает сообщества отказаться от участия в этой системе массового наблюдения.