El departamento de policía de Roseville, California, reveló en una investigación interna de dos años que un sistema de reconocimiento de placas basado en IA de una empresa marcó a 1.427 vehículos como robados o involucrados en delitos, pero el 71% de estas alertas resultaron ser falsas.
La mayoría de los falsos positivos se debieron a errores simples de reconocimiento, como la confusión del número 9 con el 8 debido a imágenes borrosas o marcos de placas que obstruían la vista; aunque la empresa atribuyó los errores a la inusual disposición de las cámaras en Roseville, el problema de precisión se vuelve crítico considerando que el sistema procesa 20 mil millones de escaneos de vehículos mensuales.
Los funcionarios de la ciudad tuvieron que verificar manualmente cada informe, por lo que las alertas erróneas no llevaron a detenciones o arrestos; sin embargo, mientras varias municipalidades en el país desactivaron cámaras debido a preocupaciones de privacidad, un gran departamento policial no renovó su contrato después de detener a 161 personas inocentes en dos meses.