#ConMiCaraNo: Reconocimiento facial en la Ciudad de Buenos Aires

A comienzos de abril, el Gobierno de la Ciudad de Buenos Aires (GCBA) anunció la implementación de un software de reconocimiento facial, instalado sobre la infraestructura de las cámaras de seguridad (CCTV) y los centros de monitoreo en la ciudad. El objetivo del gobierno es identificar a las personas con pedidos de captura, como parte de una medida enmarcada en la lucha contra el delito.

Al día siguiente del anuncio, presentamos una solicitud de información ante el GCBA para obtener mayor precisión y detalles sobre el uso del reconocimiento facial en el espacio público. Se vuelve indispensable realizar las preguntas apropiadas sobre medidas que interfieren con el pleno goce y ejercicio de derechos fundamentales. Sobre todo teniendo en cuenta el antecedente de la implementación de tecnologías de vigilancia, como los globos aerostáticos y los lectores automáticos de patentes, de forma poco transparente de cara a la ciudadanía y sin el debido debate públicos.

Al día siguiente de la presentación del pedido, obtuvimos un primer contacto del Ministerio de Justicia y Seguridad pidiendo una prórroga para recopilar «la totalidad de la información requerida y dar cabal respuesta a la solicitud presentada», postergando así hasta el 14 de mayo la fecha de vencimiento.

Mientras tanto, el Sistema de Reconocimiento Facial de Prófugos comenzó a funcionar el 24 de abril, con la publicación de la Resolución 398/19 del Ministerio de Justicia y Seguridad y su Anexo. Esa misma semana el GCBA realizó un nuevo anuncio público. Finalmente, el 21 de mayo recibimos la documentación con las respuestas.

En principio, el Gobierno remite a los considerandos de la Resolución y su anexo como respuesta a » la totalidad de los puntos que contiene el cuestionario inicial», sin embargo, ampliaron la contestación para abordar cada punto de nuestras preguntas. A pesar de ello, entendemos que las respuestas brindadas no respondieron a la totalidad de los interrogantes que planteamos.

A continuación reseñamos los aspectos principales de las preguntas formuladas y las respuestas producidas por el gobierno.

reconocimiento facial

¿Cómo sustenta legalmente el GCBA la implementación de reconocimiento facial y cuál es su finalidad?

El «Sistema de Reconocimiento Facial de Prófugos» (SRFP) se incorporó al «Sistema Público Integral de Video Vigilancia» (creado por la Ley 5688), con la Resolución 398/MJYSGC/19. La finalidad, determinada en el artículo 2 del Anexo de la Resolución, establece que será utilizado «únicamente para tareas requeridas por el Ministerio Público Fiscal, el Poder Judicial de la Nación, Provincial y de la Ciudad Autónoma de Buenos Aires, como así también para detección de personas buscadas exclusivamente por orden judicial, registradas en la Base de Datos de Consulta Nacional de Rebeldías y Capturas (CONARC)».

La primera inquietud que surge es que además de la «detección de personas buscadas exclusivamente por orden judicial» se habla de «tareas requeridas», la falta de precisión en la finalidad del Sistema es problemática, en principio, al permitir una interpretación abierta por parte de las entidades Estatales mencionadas.

¿Qué dependencia del Gobierno está encargada de la administración del sistema?

«La operación del SRFP está a cargo del Centro de Monitoreo Urbano de la Policía de la Ciudad de Buenos Aires.» esto quedó también establecido en el artículo 6º del Anexo.

¿A qué base de datos biométricos accede la dependencia encargada del Gobierno de la CABA, para confrontar los rostros capturados para el funcionamiento del Sistema?

El SRFP utiliza la base de datos de Consulta Nacional de Rebeldías y Capturas (CONARC), de carácter pública y administrada por el Ministerio de Justicia de la Nación, junto con los datos biométricos del Registro Nacional de las Personas (RENAPER).

Según la respuesta del GCBA «los archivos que se generan se encuentran en poder de la autoridad policial y su tratamiento queda sujeto a sus protocolos de seguridad, privacidad y confidencialidad, encontrándose prohibida su cesión a ninguna otra autoridad administrativa de la CABA».

Además, añaden que al finalizar el tratamiento de los datos, «por agotamiento o cese de la orden judicial que motivó la creación del registro, los archivos son destruidos».

Aspectos técnicos sobre la tecnología de reconocimiento facial

Debido a que el reconocimiento facial utiliza algoritmos para evaluar los rasgos de cada persona y contrastarlos para determinar el nivel de probabilidad en la identificación, es importante conocer la tasa de error que puede llevar a falsos positivos, es decir, que el sistema identifique mal a una persona, y en el caso del SRFP, como si fuera una presunta prófuga.

El software de reconocimiento facial puede llegar a tener altos porcentajes de falsos positivos, como en el caso de las pruebas realizadas por la Metropolitan Police de Londres entre 2016 y 2018, las cuales resultaron en un 96% de personas mal identificadas como presuntas criminales.

Para profundizar sobre las potenciales injerencias del Sistema en derechos fundamentales, preguntamos cómo se evaluaron las tasas de error, si se llevaron a cabo análisis sobre la discriminación (tanto racial como de género) que puede resultar de los falsos positivos y las auditorías técnicas realizadas en todas las etapas de desarrollo del Sistema. Además consultamos si se llevaron a cabo análisis de impacto en protección de datos personales y/o derechos humanos respecto al uso de la biometría en el espacio público.

El GCBA afirmó en su respuesta que «De forma previa a la implementación del sistema, la mayor preocupación de las autoridades ministeriales se centró en maximizar sus potencialidades y beneficios para la seguridad pública al tiempo que minimizar sus impactos negativos en términos de derechos humanos. Por tal motivo se llevaron a cabo las pruebas correspondientes a fin de reducir en la mayor medida admisible la tasa de error, junto con otras restricciones impuestas en torno a la conformación del registro de datos y las medidas de control del personal con acceso al sistema».

Insisten asimismo en que «el SRFP, en rigor, escanea y contrasta exclusivamente los datos biométrico de las personas incorporadas a la base del CONARC y con la única finalidad de identificar a un posible prófugo y cooperar con el Poder Judicial en su detención, luego de lo cual se destruye el registro de la base».

Frente a nuestro pedido de que informen sobre las condiciones y términos en que fue pactada la contratación de la tecnología de reconocimiento facial, junto con el costo incurrido en la implementación del Sistema, el Ministerio se limitó a señalar que «No correponden a la competencia del suscripto».

Sin embargo, de la consulta del Boletín Oficial y del Sistema de Compras Públicas de la Ciudad, encontramos que el 3 de abril fue publicado el pliego de bases y condiciones para la «contratación directa de un servicio de análisis integral de video» a integrarse «nativamente con la plataforma de gestión y control de video que actualmente utiliza la Policía de la Ciudad en el Anillo Digital, Centro de Monitoreo Urbano, y Comando de Operaciones, entre otros».

Entre los requerimientos técnicos del pliego se establece que el servicio debe:

  • Permitir la detección facial contando con una base de datos fotográfica de individuos los cuales serán buscados en las imágenes en vivo capturadas por las cámaras de video pertenecientes a la Policía de la Ciudad. La base de datos de búsquedas será provista por el Ministerio de Justicia y Seguridad (MJYSGC), al momento de la adjudicación.
  • Contar con una base de datos fotográfica de hasta cien mil (100.000) rostros para su posterior identificación formando una lista negra de personas buscadas.
  • Contar con alertas sobre identificaciones positivas sobre las reglas aplicadas y sobre la identificación de rostros.
  • Resguardar las alertas en forma encriptada.

La contratación directa del servicio fue adjudicada a la empresa DANAIDE S.A., el 22 de abril, por un total de 1.511.300 dólares, bajo el proceso de compra 2900-0472-CDI19.

[Actualización 24/05: El Ministerio de Justicia y Seguridad complementó su respuesta original brindando una copia de las actuaciones sobre la adjudicación del servicio, las cuales se encuentran disponibles en el vínculo del párrafo anterior del Sistema de compras públicas.]

Rendición de cuentas y control

Es fundamental contar con protocolos y políticas estrictas para evitar abusos del Sistema, así como también medidas que transparente la manera en que la tecnología es utilizada. Es por esto que preguntamos por la existencia y diseño de dichas medidas y protocolos.

El Ministerio afirmó que «El uso indebido, irregular e incluso ilícito del SRFP por parte del personal policial o civil que presta servicio en el CMU de la fuerza se encuentra sujeto al régimen disciplinario ordinario previsto en la Ley N° 5688 y su reglamentación (Decreto N° 53/17) y en la Ley N° 471 de Relaciones Laborales en el ámbito del GCBA y sus normas reglamentarias.«

Próximos pasos

A raíz de la insuficiente precisión en algunos de los puntos de nuestra solicitud original, presentamos un nuevo pedido para seguir profundizando en la transparencia que merece el uso de tecnologías de vigilancia.

El reconocimiento facial, en particular cuando se lo usa con fines de investigación criminal, tiene el potencial de interferir directamente con derechos como la privacidad, la libertad de expresión, reunión y asociación, la no discriminación y garantías constitucionales como el debido proceso y la presunción de inocencia.

Deja un comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.