artigos

Uma crítica sobre cidades inteligentes: O que são e a quem servem?

#blogpost #inteligência artificial #smart cities #vigilância

Artigo de Vanessa Koetz, fellow de dados e feminismos da Coding Rights, originalmente publicado em inglês no site da ADAPT/Internews

Não é de hoje que existe uma tendência entre os gestores do poder público de reivindicar o tema das cidades inteligentes para justificar quaisquer ações de implementação de tecnologia sem discutir a fundo suas finalidades. Câmeras, reconhecimento facial, sensores, medidores inteligentes, wi-fi, etc. são trazidos ao espaço público municipal sem informações de como, para quê e porquê essas tecnologias poderiam contribuir para o bem estar de sua população. Muito menos a população decide previamente sobre a sua implementação. Pelo contrário, são impostas sob a racionalidade de que uma cidade necessita ser inteligente sob pena de cair no “atraso”. Tomadas como neutras, o uso de determinadas tecnologias passa a reforçar estratégias de moldagem do espaço pouco reveladas, como a militarização e a mercantilização da vida urbana.

O Centro de Operações Rio (COR), no Município do Rio de Janeiro, e o Projeto City Câmeras, no Município de São Paulo, são exemplos dessa construção militarizada do espaço urbano, da conformação da cidade para a guerra. O COR não só representa, como mantém uma sala de controle com um telão de 65 metros quadrados, monitorando 800 câmeras da Prefeitura do Rio de Janeiro e outras “700 câmeras gerenciadas por concessionárias de serviços públicos e pela Secretaria Estadual de Segurança Pública”¹. Cerca de 500 profissionais estão à disposição deste “quartel-general”² todos os dias e horas da semana que integra cerca de trinta órgãos e concessionárias de serviço público. O objetivo do COR seria o de “antecipar soluções” em casos de chuvas fortes, deslizamentos, acidentes de trânsito, etc.

Já no Município de São Paulo, em 2017, foi lançado o Projeto City Câmeras pela Prefeitura. O projeto “visa inibir a ação de criminosos e aumentar a segurança e o bem-estar da população por meio da instalação de mais de 10 mil câmeras, em São Paulo”. O programa prevê além de câmeras de monitoramento dos órgãos públicos, o monitoramento de câmeras residenciais e comerciais em parceria. O modelo de vigilância “funciona de forma integrada, de modo que as imagens são transmitidas para o Comando da Guarda Civil Metropolitana e compartilhadas com os demais órgãos de segurança (Polícia Militar e Civil) por um canal de comunicação de dados da internet, sendo possível a realização de uma triagem de ações que acontecem em ruas e avenidas da cidade”³.

“Quartel-general”, “operações”, “triagem”. Nestes dois exemplos, presentes nas maiores cidades brasileiras, a linguagem revela a concepção de moldagem da cidade a partir da lógica militar. As autoridades pintam a cidade como doente, um território de guerra, para justificar intervenções estratégicas a fim de um objetivo militar e potencializado por uma crença em uma “onisciência tecnológica”⁴, na qual câmeras e os dados são elementos essenciais daqueles que tudo vigiam.

A cooperação vigilante paulista tem como desculpa uma estratégia de combate à criminalidade. Poder público e agentes privados se unem para combater a presença de um inimigo que é monitorado 24 horas por dia.

A questão é que toda lógica militar necessita de um inimigo para combater, que é externo — outro país, um determinado grupo internacional, etc — ou interno — reside dentro do seu território e circula dentro do seu território.

Considerando que o Brasil é o terceiro país que mais encarcera no mundo e a vasta maioria de pessoas encarceradas são negras; que uma pessoa negra tem 2,6 vezes mais chances de ser assassinada no Brasil⁵; e que 83% daqueles que foram encarcerados injustamente por reconhecimento fotográfico são jovens, pobres e negros⁶, fica evidente quem é o “inimigo” contra o qual as cidades e os aparatos de segurança pública se estruturam.

As polícias estaduais no Brasil são militarizadas e diversas guardas municipais⁷ fazem uso de armas de fogo. Em 2020, durante a pandemia, 6.416 pessoas foram mortas pelas forças de segurança do país⁸.

A partir desta lógica de combate ao inimigo interno, a cidade é conformada como território hostil à maioria da população negra, periférica, moradora de favelas. É elaborada e formatada para identificar, monitorar, conter, encarcerar e executar essa população se acharem necessário.

A localização de equipamentos públicos, de espaços públicos de lazer, de infra-estrutura, a disponibilidade de transporte urbano, de saneamento básico, de habitação popular, de equipamentos culturais, etc., todos os esses elementos de urbanização se estruturam orientados para a estratégia militar.

A utilização de novas tecnologias encontra essa lógica militarizada de construção dos espaços urbanos:

“A gigantesca proliferação global de projetos de vigilância governamental altamente tecnófilos (…) é um sinal da impressionante militarização da sociedade civil — a extensão das ideias militares de rastreamento, identificação e seleção nos espaços e meios de circulação da vida cotidiana. De fato, projetos como esse são mais do que reações do Estado a ameaças à segurança que estão em mutação. Em um mundo marcado pela globalização e pela crescente urbanização, eles representam tentativas drásticas de traduzir antigos sonhos militares de onisciência e racionalidade altamente tecnológicas para o controle da sociedade civil urbana.” 

Embora esteja mais do que provado que a tecnologia de reconhecimento facial tem baixa acurácia e reforça opressões, especialmente contra a população negra e a população transgênero¹⁰¹¹, o uso de tal tecnologia continua sendo uma peça central na construção de espaços urbanos militarizados. Então, como é que esta tecnologia tem um impacto desproporcional sobre estas populações? Tecnologias, como as de reconhecimento facial, são majoritariamente desenvolvidas e testadas por homens brancos, o que significa que ela tem uma maior precisão quando se trata de um banco de dados de homens brancos. Mas quando se trata de pessoas não-brancas, negras, indígenas, marrons, trans, etc., ela tem uma maior probabilidade de erro.

Para falar sobre a implementação dessa tecnologia em espaços públicos, especialmente para fins de segurança pública, é necessário evidenciar que um match no banco de dados tem o poder de findar a liberdade de uma pessoa, de encarcerar um inocente¹². E não só, no caso de pessoas trans ou pessoas não binárias, o uso da tecnologia reforça estereótipos de gênero e a invisibilização dessa população.

O poder público brasileiro ignora seus efeitos deletérios, patrocinando a sua ampliação. A tecnologia de reconhecimento facial já é utilizada em mais de 20 estados brasileiros¹³.

A insistência da Companhia Metropolitana de São Paulo, responsável pela execução da política pública de transporte metroviário na segunda maior metrópole da América Latina, no uso e na permissão de uso dessa tecnologia, é exemplo disso. A implementação do reconhecimento facial ganhou dois novos episódios relacionados ao metrô de São Paulo, que abriga cerca de 5 milhões de passageiros diariamente.

No último semestre de 2019, a Companhia do Metropolitana de São Paulo (Metrô de São Paulo) lançou um edital para contratação de um sistema de monitoramento eletrônico das linhas 1-Azul, 2-Verde e 3-Vermelha do metrô do Município, que incluiria um sistema de reconhecimento facial¹⁴.

As razões alegadas para a implementação dessa tecnologia seriam várias: coibir infrações penais, incrementar a segurança de passageiros, buscar pessoas desaparecidas, procurados de Justiça, evitar casos de importunação sexual, etc¹⁵.

Com esse marketing apelativo, o Metrô de São Paulo passaria a captar e tratar dados biométricos sensíveis de milhões de passageiros para fins diversos da execução da política pública de transporte, a sua área de atuação. E sem informar os passageiros, muito menos buscar seu consentimento.

Diante disso, Defensoria Pública do Estado de São Paulo (DPE-SP), Defensoria Pública da União (DPU), Instituto Brasileiro de Defesa do Consumidor (Idec), Artigo 19, Intervozes — Coletivo Brasil de Comunicação Social e Coletivo de Advocacia em Direitos Humanos — CADHu ajuizaram uma ação civil pública para cessar a captação de dados biométricos dos passageiros pelo Metrô de São Paulo. O processo ainda corre no Judiciário Paulista e a boa notícia é que, liminarmente, o pedido foi concedido e está suspensa a captação de dados biométricos pela empresa.

Mas, como alertado, esse não é um caso único envolvendo o metrô de São Paulo. Em abril de 2018, a concessionária de serviço público ViaQuatro, que opera a Linha 4-Amarela do metrô de São Paulo, anunciou a instalação de portas de plataforma interativas em algumas estações¹⁶.

Essas plataformas interativas foram constituídas por um sensor e lente que reconhecia a presença e a quantidade de pessoas que passavam pela ferramenta instalada na Linha 4-Amarela. As portas fizeram parte de um projeto experimental com duração de um ano e apenas dois anunciantes, a multinacional LG e a empresa farmacêutica Hypera Pharma¹⁷. Essas plataformas também identificavam gênero e faixa etária daqueles captados em imagem, bem como emoções eram capturadas diante de exposição a propagandas publicitárias. Era uma espécie de pesquisa de mercado obtida de maneira automatizada, sem informações e sem quaisquer consentimentos dos passageiros.

Diante disso, o Instituto Brasileiro de Defesa do Consumidor — IDEC, com auxílio da Rede Latino-Americana de Estudos de Vigilância — LAVITS e do Programa de Educação Tutorial da Faculdade de Direito da Universidade de São Paulo, ingressou com ação civil pública contra a concessionária ViaQuatro para cessar o uso dessas portas de plataformas interativas. A empresa foi impedida pela Justiça de utilizar o sistema, sob pena de multa¹⁸.

Em ambos os casos envolvendo o Metrô a violação à privacidade e à proteção de dados é gritante. No Brasil, o direito à privacidade é garantido pela Constituição Federal (artigo 5º, LXXIX) e a recém-aprovada Emenda Constitucional nº 115/2022 incluiu a proteção de dados pessoais entre os direitos e garantias fundamentais.​​ O Marco Civil da Internet — a Lei nº 12.965/2014 — e a Lei Geral de Proteção de Dados Pessoais (LGPD) — Lei nº 13.709/2018 reafirmam e complementam a Constituição Federal.

No sistema jurídico brasileiro, a noção de privacidade não é mais apenas uma questão de privacidade individual, mas agora toca em como esse indivíduo pode controlar as informações sobre si mesmo. É por isso que o consentimento é um elemento fundamental para a proteção da privacidade.

Segundo a LGPD, a manifestação de consentimento deve ser livre, informada e inequívoca, para finalidade específica e informada previamente. Nos dois casos que envolvem o Metrô de São Paulo não houve nenhum consentimento e nem transparência no manejo de dados pessoais sensíveis dos passageiros. Eles sequer sabiam que estavam submetidos ao reconhecimento facial e muito menos que seus dados íntimos de emoções faziam parte de uma pesquisa de mercado. É incabível supor consentimento tácito de quem utiliza o transporte público, já que esse meio de transporte é imprescindível na vida de milhões de pessoas diariamente.

No entanto, nem mesmo a flagrante ilegalidade foi um obstáculo robusto para a implementação da tecnologia de reconhecimento facial pelos agentes de execução de políticas públicas.

O caso que envolve a ViaQuatro evidencia uma outra faceta da cidade conformada pela lógica militar: reside nela excelentes oportunidades de “negócios”. Territórios domesticados, submetidos e colocados à venda. A empresa se utilizou da condição de prestadora de serviço público, essencial ao ambiente urbano, para novas possibilidades de novos negócios. Considerando um potencial de extrair uma base de dados gigantesca, não hesitou em captá-los sem consentimento e informação aos passageiros e vendê-los em forma de pesquisa de mercado. Monetizou dados íntimos dos passageiros que circulavam por uma porção do território da cidade.

A cidade pode e deve ser, por excelência, um lugar de encontro de seus citadinos, de exercício radical da democracia, de realização de anseios humanos sob a lógica do bem-estar da população, de sua fauna e flora. A defesa da privacidade e dos dados pessoais são duas das lutas essenciais para isso.

A construção de uma cidade realmente democrática pressupõe que sua população seja livre para participar das decisões do território, para se reunir e se manifestar politicamente pelos territórios urbanos. A lógica de implementação de câmeras de monitoramento com e sem reconhecimento facial é o oposto disso, transforma em espaço vigiado e a mercantilização de porções do território vai contra a vocação da cidade de ser um bem comum a todos.

É necessário abandonar o que quer que seja o discurso de smart city e desvendar qual a real intencionalidade e as consequências da aplicação da tecnologia nas cidades. A defesa do banimento do uso dessa tecnologia nos espaços públicos, de transparência sobre uso de quaisquer dados da população nas cidades, da necessidade de soberania tecnológica e da participação e controle democrática são, portanto, bandeiras urgentes e essenciais para disputar os novos rumos das cidades em busca do direito à cidade.

O direito à cidade é a possibilidade de nos referirmos a ela como aquilo que pode ser. Não significa o usufruto da cidade que já temos e o que ela contém e comporta, mas a possibilidade de transformá-la, de projetar o novo. Uma utopia realizável¹⁹.

Vanessa Koetz é advogada e ativista. É bacharel e mestre em Direito pela PUC-SP. Membro do grupo de estudo e pesquisa “Violência em Tempos Sombrios” do Núcleo de Estudos da Violência da Universidade de São Paulo. Atuou como Diretora do Instituto Brasileiro de Direitos Urbanos e Coordenadora Jurídica de mandato parlamentar estadual. Feminista, defensora dos direitos humanos e coletivos, direito e tecnologia, direito à cidade e ao meio ambiente urbano. É diretora de projetos e pesquisadora da Coding Rights.

Notas de rodapé

[1] Disponível em: http://cor.rio/institucional/. Acesso em: 15.04.22.

[2] Disponível em: http://cor.rio/institucional/. Acesso em: 15.04.22.

[3] Disponível em: https://www.prefeitura.sp.gov.br/cidade/secretarias/subprefeituras/butanta/noticias/?p=109381. Acesso em: 15.04.22.

[4] GRAHAN, Stephen. Cidades sitiadas: o novo urbanismo militar. 1 ed. São Paulo: Boitempo, 2016. P. 23.

[5] CAMPOS, Ana Cristina Campos. Negro tem 2,6 vezes mais chances de ser assassinado no Brasil. Repórter Agência Brasil. 31/08/2021. Disponível em: https://agenciabrasil.ebc.com.br/direitos-humanos/noticia/2021-08/risco-de-negro-ser-assassinado-e-26-vezes-superior. Acesso em: 15.04.22.

[6] Exclusivo: 83% dos presos injustamente por reconhecimento fotográfico no Brasil são negros. G1. 21/02/2021. Disponível em: https://g1.globo.com/fantastico/noticia/2021/02/21/exclusivo-83percent-dos-presos-injustamente-por-reconhecimento-fotografico-no-brasil-sao-negros.ghtml Acesso em: 15.04.22.

[7] Apesar de sofrerem intensa militarização nas últimas décadas, no Brasil, são atribuídas às guardas municipais a defesa do patrimônio público dos municípios.

[8] ACAYABA, Cíntia et al. Nº de mortos pela polícia em 2020 no Brasil bate recorde; 50 cidades concentram mais da metade dos óbitos, revela Anuário. G1. 15/07/2021. Disponível em: https://g1.globo.com/sp/sao-paulo/noticia/2021/07/15/no-de-mortos-pela-policia-em-2020-no-brasil-bate-recorde-50-cidades-concentram-mais-da-metade-dos-obitos-revela-anuario.ghtml . Acesso em: 15.04.22.

[9] GRAHAN, Stephen. Cidades sitiadas: o novo urbanismo militar. 1 ed. São Paulo: Boitempo, 2016. P. 24.

[10] CODING RIGHTS. Tecnologias de reconhecimento facial na verificação de identidades trans. 2021. Disponível em: https://medium.com/codingrights/tecnologias-de-reconhecimento-facial-na-verifica%C3%A7%C3%A3o-de-identidades-trans-7d3ac3f49b92

[11] KREMER, Bianca. Reconhecimento Facial no Brasil: uma perspectiva de raça e gênero. 2021. Disponível em: https://medium.com/codingrights/reconhecimento-facial-no-brasil-uma-perspectiva-de-ra%C3%A7a-e-g%C3%AAnero-9fe027c3a176 Acesso em: 15.04.22.

[12] Os erros judiciários ocorrem, em grande parte, na fase de reconhecimento. Ver em: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/06022022-Reconhecimento-de-pessoas-um-campo-fertil-para-o-erro-judicial.aspx Acesso em: 15.04.22.

[13] DAMASCENO, Vitória et al. Sob críticas, reconhecimento facial chega a 20 Estados do país. Folhapress. 17/04/2021. Disponível em: https://valor.globo.com/brasil/noticia/2021/07/10/sob-crticas-reconhecimento-facial-chega-a-20-estados-do-pas.ghtml . Acesso em: 15.04.22

[14] SAKAMOTO, Leonardo. Metrô de SP é alvo de ação inédita que pede fim do reconhecimento facial. 03/03/22. Disponível em: https://noticias.uol.com.br/colunas/leonardo-sakamoto/2022/03/03/metro-de-sp-e-alvo-de-acao-inedita-que-pede-fim-do-reconhecimento-facial.htm . Acesso em: 15.04.22.

[15] Metrô de São Paulo terá câmeras com reconhecimento facial. Agência Estado. 24/06/2021. Disponível em: https://domtotal.com/noticia/1523868/2021/06/metro-de-sao-paulo-tera-cameras-com-reconhecimento-facial/ . Acesso em: 15.04.22.

[16] UOL. Portas da linha 4 do metrô de SP vão reconhecer seu rosto e expressões. TILT. 13/04/2018. Disponível em: https://www.uol.com.br/tilt/noticias/redacao/2018/04/13/com-cameras-em-plataformas-linha-do-metro-de-sp-captara-reacoes-de-pessoas.htm Acesso em: 15.04.22

[17] AMIGO, Inacio. The Metro Stations of São Paulo That Read Your Face. Bloomberg. 08/05/2018. Disponível em: https://www.bloomberg.com/news/articles/2018-05-08/s-o-paulo-metro-s-newest-platform-doors-can-read-your-face . Acesso em: 15.04.22.

[18] Disponível em: https://idec.org.br/noticia/justica-determina-suspensao-de-sistema-de-reconhecimento-facial-no-metro-de-sp

[19] KOETZ, Vanessa. Da cidade das águas à cidade sem água: o regime jurídico das águas e o Município de São Paulo. 2017. 157f. Dissertação (Mestrado em Direito Urbanístico) — Faculdade de Direito, Pontifícia Universidade Católica de São Paulo, São Paulo, 2017.