Entidades da Sociedade Civil acionaram o Ministério Público (MP) do Estado de São Paulo contra o edital, lançado pela Secretaria Municipal de Segurança Urbana da prefeitura de São Paulo, para a contratação de uma plataforma de videomonitoramento na capital paulista.
Segundo o Instituto Brasileiro de Defesa do Consumidor (Idec) e o Laboratório de Políticas Públicas e Internet (Lapin), que assinam a representação ao MP, a plataforma irá impactar de forma desigual populações vulneráveis, especialmente os negros, em razão de os sistemas de reconhecimento facial resultarem “em gravíssimos erros baseados na discriminação algorítmica”.
Notícias relacionadas:
- Facebook é acusado de priorizar público-alvo em anúncios de emprego .
Chamado de Smart Sampa, o sistema tem a previsão de integrar mais de 20 mil câmeras na cidade até 2024 e investimento estimado de R$ 70 milhões por ano. No edital, publicado em 17 de novembro, é previsto que o sistema a ser contratado possua recursos de identificação facial e detecção de movimento. “As câmeras reconhecerão atitudes suspeitas, pessoas procuradas, placas de veículos e objetos perdidos”, diz o texto do edital. A data prevista para o pregão eletrônico é o próximo dia 5.
Experiência
“As cidades de Feira de Santana (BA) e Rio de Janeiro, precursoras no uso do reconhecimento facial para fins de segurança pública, são constantemente criticadas pelo uso massivo e errôneo destas tecnologias. No caso da cidade baiana, durante o carnaval de 2019, apenas 3,6% dos 903 alertas gerados pelo sistema de reconhecimento facial resultaram em mandados de prisão”, destacaram as entidades na representação, protocolada ontem (30).
“Já no Rio de Janeiro, em um projeto-piloto, a Secretaria de Estado de Polícia Militar admitiu que dentre os onze casos de pessoas detidas com o uso da tecnologia de reconhecimento facial nas partidas do Maracanã, sete foram erros da máquina, ou seja: falsos positivos. Desta forma, o sistema errou em 63% dos casos”, acrescentaram.
Idec e Lapin ainda ressaltaram que, nos quatro meses correspondentes à segunda fase do projeto no Rio de Janeiro, não foram registradas reduções nos principais indicadores de criminalidade, e as câmeras instaladas não cumpriram a função de melhorar a segurança e, atualmente, encontram-se desativadas.
Edital
Na primeira versão do edital, publicado no dia 17 de novembro, estava previsto que as câmeras fossem capazes de rastrear pessoas suspeitas, monitorando todos os movimentos e atividades. “A pesquisa deve ser feita por diferentes tipos de características como cor, face, roupas forma do corpo/aspecto físico e outras características”. Os equipamentos deveriam possuir “analíticos embarcados” para identificar “vadiagem/permanência”. Ontem (30), em publicação do Diário Oficial da cidade, os trechos foram retificados e retiradas as palavras “cor” e “vadiagem”.
“A implementação da plataforma de videomonitoramento, na prática, produzirá impactos negativos desproporcionais para a população negra em razão do enviesamento racial inerente ao uso dessa tecnologia, assim como para as pessoas transgênero, independentemente das supostas boas intenções que eventualmente norteiem a adoção desta tecnologia pelos gestores públicos, contribuindo para reprodução e até aprofundamento da marginalização social historicamente imposta a esses grupos”, dizem as entidades na representação.
Idec e Lapin chamam a atenção ainda para outra funcionalidade da plataforma prevista no edital, que consiste em criar um sistema de monitoramento de mídias sociais, incluindo Facebook, Instagram, Twitter, YouTube. “Em outras palavras, a Prefeitura do Município de São Paulo quer saber o que cidadãos fazem nas redes sociais em tempo real, podendo usar isso contra os mesmos e analisar cada conteúdo por sentimento, categorizando cada texto em positivo, neutro ou negativo”.
Entidades
Idec e Lapin são integrantes da Coalizão Direitos na Rede, rede de entidades que reúne mais de 50 organizações acadêmicas e da sociedade civil em defesa dos direitos digitais, tendo como temas principais de atuação: acesso, liberdade de expressão, proteção de dados pessoais e privacidade na Internet.
Prefeitura
Procurada, a prefeitura de São Paulo ainda não se manifestou sobre a representação apresentada pelas entidades ao MP. Em seu portal, a administração municipal diz que a iniciativa busca a modernização e ampliação no monitoramento de câmeras na capital, “agregando o conceito de cidades Inteligentes e permitindo maior eficácia e agilidade no atendimento de ocorrências da Guarda Civil Metropolitana e demais órgãos de segurança”.
A prefeitura diz ainda que a plataforma Smart Sampa facilitará a integração, em uma única plataforma, de diversos serviços municipais, como os da Companhia de Engenharia de Tráfego, da Defesa Civil, do Serviço de Atendimento Móvel de Urgência (Samu) e da Guarda Civil Metropolitana.
“Os órgãos de segurança terão como monitorar escolas, unidades básicas de saúde (UBS) e demais equipamentos públicos, aumentando significativamente a segurança nesses locais. As câmeras contarão ainda com monitoramento de calor, facilitando a supervisão em praças e parques, que normalmente possuem árvores e áreas verdes que podem prejudicar uma vigilância mais precisa”.
