Por Malkia Devich-Cyril | Tradução: Simone Paz
Parte I – Por uma moratória no Reconhecimento Facial
Tecnologia tornou-se muito mais assustadora do que pensamos. Bilhões de rostos estão catalogados. Ultradireita controla empresa-líder. Viés racista é nítido e cria o pesadelo de um “enquadro” virtual permanente contra todos os negros.
Ahmaud Arbery. Breonna Taylor. Tony McDade. George Floyd. Rayshard Brooks. Oluwatoyin Salau. Robert Forbes. Enquanto [também nos Estados Unidos] vidas negras são violentamente aniquiladas pela polícia, por nacionalistas brancos ou outras formas de violência interpessoal, um movimento multiracial por essas vidas, liderado por ativistas negros, resiste fortemente e mantém o ritmo. O que também mantém seu ritmo normal são as perturbadoras tecnologias policiais, altamente avançadas, usadas para espionar esses ativistas. Minha mãe sobreviveu à vigilância do programa de contrainteligência do FBI sendo ativista dos direitos civis na década de 1960. Como ativista negra de segunda geração, já cansei de ser espionada pela polícia.
Em junho, em meio a uma imensa onda de protestos contra os assassinatos cada vez mais visíveis de negros, cometidos pela polícia, e numa pandemia de coronavírus simultaneamente explosiva que elimina vidas negras a taxas desproporcionais, a IBM comunicou, surpreendentemente, que iria parar de vender, pesquisar ou desenvolver serviços de reconhecimento facial. A Amazon e a Microsoft seguiram-na com seus próprios anúncios de que não venderiam mais serviços ou produtos de reconhecimento facial para departamentos de polícia estaduais e locais que estivessem aguardando regulamentação federal. Como os ativistas têm dado ênfase à antiga demanda de desfinanciar a polícia com estratégias mais modernas, de forma que as empresas de tecnologia cortem seus laços com as agências policiais, as empresas de reconhecimento facial enfrentam um momento de séria reformulação. Mas as empresas que decidem não vender mais esses polêmicos produtos, como se se tratasse de uma redenção, podem estar sendo mais motivadas por um cálculo cuidadoso dos riscos financeiros e de relações públicas do que pela real preocupação com as vidas negras.
Nos EUA, negros são mortos pela polícia numa taxa duas vezes maior do que a de americanos brancos e, em Minneapolis, onde George Floyd foi morto pela polícia em maio, os policiais têm sete vezes mais chances de usar a força contra negros do que contra brancos [No Brasil, num estado como o RJ, 78% dos mortos por forças policiais, em 2019, foram negros. E o número total de pessoas assassinadas pela polícia chegou a 4357 — dezessete vezes mais que nos EUA (Nota de Outras Palavras)]. Mas, no século XXI, a violência policial não se limita somente a sua forma física. Embora não possamos conhecer nunca toda a sua extensão, existem evidências reais de que a vigilância secreta e de alta tecnologia de ativistas e jornalistas negros ajuda a impulsionar um policiamento brutal.
Em 2015, a tecnologia de reconhecimento facial foi usada para rastrear e prender os manifestantes de Baltimore que reagiram ao assassinato policial de Freddie Gray, o jovem negro que morreu por lesões na coluna vertebral, sob custódia policial — crime pelo qual nunca ninguém foi responsabilizado. Nas últimas semanas, o Homeland Security, “Segurança Interna” espionou manifestantes em 15 cidades usando vigilância por drones, enquanto câmeras do corpo policial, equipadas com tecnologia de reconhecimento facial, capturaram imagens dos mesmos. O comediante John Oliver tem demonstrado a preocupação de que o reconhecimento facial descontrolado seja, agora, uma das ferramentas mais poderosas do policiamento.
Remetendo às desacreditadas teorias da pseudociência e da eugenia racista que asseguravam usar a estrutura facial e o formato da cabeça para avaliar a capacidade e o caráter mental, o software de reconhecimento facial automatizado usa inteligência artificial (IA), machine learning e outras formas de computação moderna para capturar os detalhes dos rostos das pessoas e comparar essas informações com os bancos de dados de fotos, com o objetivo de identificar, verificar, categorizar e localizar pessoas.
Embora agências policiais usem especificamente a tecnologia para monitorar ameaças detectadas e prever o comportamento criminoso, as capacidades de reconhecimento facial são muito mais amplas.
O software consegue monitorar seu corpo através de uma combinação de biometria (medidas de características físicas e comportamentais), antropometria (medidas de morfologia corporal) e fisiometria (medidas de funções corporais, como freqüência cardíaca, pressão arterial e outros estados físicos). Há muito tempo os Estados Unidos usam a ciência e a tecnologia para categorizar e diferenciar pessoas por hierarquias que, ainda hoje, determinam quem é capaz e incapaz, merecedor e não merecedor, legítimo e criminoso. Como no racismo científico antigo, o reconhecimento facial não se limita a identificar ameaças: ela as cria e, dessa forma, intensifica um contexto digital perigoso, que já tem um vasto histórico.
Há pelo menos dez anos, sou uma das muitas pessoas que defendem a justiça racial, os direitos civis e a privacidade, alertando sobre o uso do reconhecimento facial e das tecnologias biométricas para ampliar os abusos policiais do poder e piorar a discriminação racial. Menos de seis meses atrás, a Microsoft descartou a ideia de uma moratória. A Amazon tem desprezado muitas das preocupações com os direitos civis, apesar de as pesquisas mostrarem que sistemas de reconhecimento facial tendem a identificar erroneamente negros e mulheres numa proporção bem mais alta do que homens e brancos. Em um estudo, os asiáticos americanos e os negros tinham uma probabilidade até 100 vezes maior de serem identificados erroneamente do que os homens brancos, e os indígenas americanos tinham a maior taxa de falso positivo de todas as etnias. A Microsoft não tinha contratos de reconhecimento facial existentes com os departamentos de polícia locais dos Estados Unidos, mas afirma em seus próprios materiais ser líder no setor de reconhecimento facial.
A IBM foi mais receptiva às demandas dos ativistas, recusando-se a vender todos seus serviços de reconhecimento facial, devido ao seu potencial de abuso. O comunicado da IBM por escrito disse que a empresa “opõe-se firmemente” ao uso do reconhecimento facial “para vigilância em massa, perfis raciais, violações dos direitos humanos e liberdades básicas”. O executivo-chefe Arvind Krishna também chamou a um debate nacional sobre se o reconhecimento facial deve ou não ser usado pelas autoridades, e a empresa estabeleceu um conselho interno de ética em IA. Embora essa postura pareça motivada por preocupações genuínas de direitos humanos e possa ser o resultado direto do fato de Krishna ser o primeiro executivo-chefe não-branco da empresa em mais de 100 anos, é importante lembrar que, há menos de uma década, a empresa construía infraestruturas de vigilância nas Filipinas, fortalecendo os recursos de monitoramento de vídeo que permitiram diversas violações aos direitos humanos.
De acordo com Ruha Benjamin, autor do livro Race After Technology (“Corrida pela Tecnologia”), as tecnologias invasivas modernas, tais como reconhecimento facial e monitores eletrônicos, reproduzem e superam a desigualdade racial na era da big data e oferecem poucas métricas tangíveis para medir sua eficácia. Essas tecnologias são tão destrutivas para a democracia quanto discriminatórias. A discussão sobre como acabar com o policiamento excessivo, brutal e discriminatório está evoluindo e, à medida em que acumula vitórias, há uma crença crescente de que um desfinanciamento da infraestrutura de policiamento também deve desmantelar a abusiva estrutura da vigilância digital. Para defender as vidas negras no século XXI, é necessário proibir o acesso da polícia ao reconhecimento facial e a outras ferramentas de alta tecnologia usadas para criminalizar as comunidades negras.
O alcance dessa tecnologia e sua influência na segurança pública são impressionantes. Nos últimos anos, as tecnologias de reconhecimento facial expandiram-se no âmbito da aplicação da lei feito fogo em palha seca. Surpreendentemente, metade de todos os adultos norte americanos já estão nos bancos de dados de reconhecimento facial da polícia, devido a um tipo de monitoramento persistente, chamado de “formação permanente”, como consta num relatório de 2016 do Centro de Direito de Georgetown sobre Privacidade e Tecnologia. O relatório também descobriu que até um em cada quatro departamentos de polícia dos EUA pode acessar ferramentas de reconhecimento facial, e muitos as usam em investigações criminais de rotina.
O Departamento de Imigração e a Alfândega usaram a tecnologia de reconhecimento facial para explorar bancos de dados estaduais, incluindo o enorme acervo de registros de carteiras de habilitação, digitalizando milhões de fotos de pessoas sem seu conhecimento ou consentimento. Em Maryland, um estado que concede carteiras especiais a imigrantes sem documentos, a Imigração usou o software de reconhecimento facial para digitalizar milhões de fotos das carteiras de motoristas sem um mandado ou qualquer outra forma de aprovação do estado ou do tribunal, num nível de acesso sem precedentes e muito perigoso. O FBI entrou na briga, realizando 4.000 buscas de reconhecimento facial por mês. Vinte e um estados norte-americanos permitem esse acesso.
Eis mais uma maneira de pensar sobre o quão influente essa tecnologia emergente já é.
A Clearview AI é uma das empresas de reconhecimento facial mais poderosas dos EUA, enraizada na extrema-direita política estadunidense. Um dos principais investidores da Clearview AI é Peter Thiel, que foi também um dos primeiros investidores do Facebook e co-fundador da Palantir, uma startup de big data apoiada pela CIA. A Clearview AI possui uma tecnologia que permite não só que policiais ou assinantes corporativos privados (como NBA, Best Buy e Macy’s) conectem rostos a dados pessoais em tempo real, mas, agora, que também possam usar esses dados com óculos de realidade aumentada. Graças a uma inovação aterradora, os usuários destes dispositivos já são capazes de identificar todas as pessoas que veem.
O tamanho do banco de dados da Clearview excede significativamente o de outros em uso pela polícia, com cerca de 3 bilhões de fotografias. O banco de dados do FBI, que é retirado das fotos de passaporte e carteira de motorista, é o segundo maior, com 641 milhões de imagens dos rostos das pessoas. A Clearview AI construiu seu banco de dados extraindo bilhões de fotos de plataformas de mídia social como Facebook e Twitter, violando seus termos de serviço. O banco de dados da Clearview está amplamente disponível para órgãos estatais nos EUA e sua tecnologia foi adotada por mais de 600 agências policiais apenas no ano passado. Em resposta a objeções legais de algumas das plataformas das quais tirou suas 3 bilhões de fotos, o executivo-chefe da Clearview, Hoan Ton-That, fez uma reivindicação legal bastante tênue de que a empresa tinha o direito de acesso aos dados pela Primeira Emenda, porque as imagens estavam disponíveis ao público
Um dos departamentos de polícia que usa o banco de dados do Clearview AI é o Departamento de Polícia de Minneapolis. É claro que este é o departamento que provocou os levantes recentes; o policial (agora demitido) Derek Chauvin foi acusado de assassinato em segundo grau, depois de pressionar seu joelho sobre o pescoço de George Floyd por quase nove minutos. Em fevereiro de 2020, centenas de buscas haviam sido feitas pelo Departamento de Polícia de Minneapolis, pelo Gabinete do Xerife do Condado de Hennepin, pelo Departamento de Polícia de St. Paul e pelo Minnesota Fusion Center.
Muito assustador? Espere, que há muito mais.
Parte II – A luta decisiva contra o reconhecimento facial
Embora invisível na mídia, cresce em todo o mundo a resistência a tecnologias que ameaçam ampliar o controle e a discriminação entre as sociedades — com claro viés racista. Já há vitórias. É sintomático que pouco se fale a respeito.
O reconhecimento facial já é grave nas mãos da polícia, mas sua ameaça e sua capacidade de difundir lógicas racistas vão muito além. Este tipo de tecnologia tem sido utilizado em escolas e aeroportos, e nos dispositivos que usamos em nosso cotidiano. Em janeiro de 2020, o Distrito Escolar de Lockport City, no Estado de Nova York (EUA), tornou-se um dos primeiros daquele país em adotar a tecnologia de reconhecimento facial nas instalações da escola. Em 2017, o presidente Donald Trump assinou uma ordem executiva para instaurar o uso da biometria de reconhecimento facial no aeroporto para todos os viajantes internacionais. Enquanto isso, empresas como o Facebook e a Apple integraram o reconhecimento facial em suas plataformas e dispositivos para permitir que os usuários desbloqueiem telefones e marquem fotos. A questão é que o reconhecimento facial é generalizado, e muitos desses dados são extraídos por um sistema policial sem limites, que é violento e racista.
Faz tempo que os rostos negros são considerados uma ameaça também pela polícia norte-americana. É desconfortável, e até distópico, pensar que quando eu sair de casa para exercer meu direito constitucional de protestar, vou ao encontro de um sistema que parece determinado a acabar com minha vida. Meu rosto preto pode ser identificado, verificado e rastreado sem meu consentimento ou conhecimento. Embora os anúncios da IBM, Amazon e Microsoft tenham gerado forte pressão e respondido ostensivamente ao crescente movimento liderado pelos negros contra a violência policial, ainda há motivos para se preocupar seriamente.
Inclusive o Facebook, a Nike, o McDonald’s e a Coca-Cola, marcas que enfrentaram acusações de racismo fazem, agora, todo tipo de compromissos públicos em nome da luta pela vida dos negros. Embora os protestos pelos direitos civis dos negros não sejam uma marca que possa ser comprada nem um modismo destinado a desaparecer com o tempo, não é raro que empresas privadas se aproveitem desses momentos de conscientização em massa a seu favor. A indústria de reconhecimento facial não escapa a essa lógica.
Poucos dias antes de a Microsoft fazer seu anúncio aparentemente magnânimo de que deixaria de vender uma tecnologia que nunca vendeu para os departamentos de polícia locais dos EUA, mais de 250 funcionários da empresa divulgaram uma comovente carta sobre suas experiências pessoais com a violência policial, pedindo que se cortassem os laços com esses departamentos — laços que se estendem para muito além do mercado de reconhecimento facial. A Microsoft assegura que não permitirá que sua tecnologia de reconhecimento facial seja usada de forma a por em risco os direitos fundamentais dos cidadãos. Mas, há mais de uma década, a mesma Microsoft estabeleceu uma parceria com o Departamento de Polícia de Nova York (NYPD, na sigla em inglês) para criar o Domain Awareness System (DAS, na sigla em inglês; e “Sistema de Reconhecimento de Domínio”, em português), espinha dorsal do sistema de aparelhos de vigilância de uma cidade cujos oficiais são mais de cinco vezes mais propensos a matar nova-iorquinos negros do que brancos. Num movimento alarmante em resposta aos ativistas negros que querem desfinanciar a polícia, a Microsoft chegou a propor o DAS como uma alternativa aos altos salários dos policiais.
Enquanto isso, por e-mail, a Microsoft pediu ao popular artista negro Shantell Martin que fizesse um mural do Black Lives Matter em Manhattan “enquanto os protestos ainda são relevantes”. Claramente ciente do momento, no auge dos protestos em junho, a empresa também publicou poderosas citações no Twitter sobre o impacto do racismo sistêmico em seus funcionários negros — que, a propósito, constituem apenas 4,4% da força de trabalho global da Microsoft, incluindo trabalhadores de varejo e armazéns, e menos de 3% de seus executivos, diretores e gerentes nos EUA, de acordo com o relatório de diversidade e inclusão de 2019 da empresa. A dissonância entre as ações e os valores declarados pela empresa não pode ser ignorada.
A Amazon também tem o mesmo conflito entre sua retórica e suas ações. A empresa passou os últimos dois anos comercializando agressivamente o Rekognition, seu sistema de reconhecimento facial, para centenas de departamentos de polícia e agências federais dos EUA, atualizando-o até com o novo parâmetro de “detecção de medo”. A Amazon também comercializou fortemente um produto de campainha “inteligente” chamado Ring, que grava imagens de vídeo de pessoas que chegam à sua porta, às quais a polícia pode ter acesso. No ano passado, a Amazon alegou ter feito parceria com mais de 200 agências policiais norte-americanas para compartilhar os locais das câmeras Ring instaladas e promover o Ring em suas comunidades locais
Especialistas em privacidade da Electronic Frontier Foundation expuseram a preocupação de que a tecnologia se tornasse simplesmente um “mecanismo digital de alta velocidade pelo qual as pessoas pudessem fazer julgamentos rápidos sobre quem pertence ou não ao seu bairro e convocar a polícia para enfrentá-los.” À medida em que os protestos contra a violência policial aumentavam, a Amazon expandia fortemente as parcerias entre Ring e a polícia.
Desde que ocorreu o assassinato de George Floyd, o Prime Video da Amazon está passando filmes sobre a questão negra. A Amazon também anunciou que doará 10 milhões de dólares a organizações que apoiem a justiça e a equidade; a empresa declarou “solidariedade com nossos funcionários, clientes e parceiros negros” e que está “comprometida em ajudar a construir um país e um mundo onde todos possam viver com dignidade e livres do medo”. Menos de duas semanas depois, a Amazon está sendo duramente criticada por anunciar uma comemoração da décima terceira “Festa do frango e dos waffles” para seus trabalhadores, num armazém de Chicago. Cinco anos atrás, 27% da força de trabalho da Amazon nos EUA era composta por negros, mas a grande maioria, 85%, de seus trabalhadores negros possuía empregos não qualificados e com baixos salários. No ano passado, os números de diversidade para os funcionários negros da Amazon não mudaram muito: apenas 8% dos gerentes da empresa eram negros em dezembro de 2019, de acordo com os dados que eles mesmos forneceram.
Embora a Amazon e a Microsoft tenham anunciado que não venderão mais produtos e serviços de reconhecimento facial para as autoridades locais, as empresas não indicaram que não venderiam esses perigosos produtos para o governo federal ou, no exterior, para clientes internacionais. Exceto pela IBM, que disse que está abandonando seus serviços de reconhecimento facial para sempre, nenhuma outra empresa se comprometeu com uma moratória ou proibição da venda de sua tecnologia de reconhecimento facial a órgãos federais de aplicação da lei, como a Alfândega e Proteção de Fronteiras dos EUA, a Imigração e o Drug Enforcement Administration (DEA), entre outros.
De fato, embora atualmente a Microsoft não tenha nenhum contrato de reconhecimento facial com órgãos policiais, de acordo com a American Civil Liberties Union, e-mails publicados recentemente indicam que, em 2017, a corporação apresentou insistentemente sua tecnologia de reconhecimento facial ao DEA: órgão policial responsável pela “guerra às drogas”, que expandiu significativamente a vigilância policial e encheu as prisões de corpos negros, latinos e indígenas, gerando uma profunda desigualdade, como resultado. Quando o presidente da Microsoft, Brad Smith, foi diretamente questionado se a empresa venderia tecnologia de reconhecimento facial para as autoridades federais, ele contornou a questão, respondendo que não deixariam a tecnologia ser usada em cenários que levassem a preconceitos contra mulheres e pessoas de cor.
O presidente Trump retweetou a publicação do ex-diretor interino de Inteligência Nacional Richard Grenell no dia 12 de junho, onde dizia que a Microsoft deveria ser proibida de assinar contratos federais, em resposta ao anúncio da empresa de que não venderia tecnologia de reconhecimento facial à polícia. Parece evidente que o governo federal pretende expandir seu uso do reconhecimento facial.
Os gigantes por trás dessas tecnologias parecem estar em grande conflito. O Google favoreceu uma moratória na tecnologia de reconhecimento facial em janeiro, quando anunciou que não venderia sua tecnologia sem antes “resolver importantes questões políticas e de tecnologia”. No entanto, mesmo assim o Google foi duramente reprovado quando a mídia relatou que intermediários enviados pela empresa a várias cidades dos EUA, haviam coagido moradores de rua negros a permitir que seus rostos fossem digitalizados — numa tentativa equivocada de melhorar a precisão de sua tecnologia
E depois, ainda tem a IBM. Sair do mercado de reconhecimento facial não significa necessariamente estar cortando laços com a aplicação da lei. A IBM continuará a vender ferramentas de policiamento preditivo de inteligência artificial, apesar de evidências esmagadoras de que previsões de ameaças ou crimes com base em dados históricos, exacerbam os preconceitos raciais existentes. Tudo isso parece contradizer diretamente o anúncio de Krishna, que afirmou que a empresa se opõe ao uso de “qualquer tecnologia, incluindo a tecnologia de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, criação racista de perfis, violações dos direitos humanos e liberdades básicas ou qualquer propósito que não seja consistente com nossos valores.”
Para piorar essas contradições, Amazon, Microsoft e Google continuam seus esforços para garantir uma regulamentação federal que ofereça um mercado estável e lucrativo, no qual a tecnologia de reconhecimento facial é, de fato, usada pela polícia, em oposição direta ao movimento que estas empresas afirmam apoiar. O CEO da Amazon, Jeff Bezos, anunciou em 2019 que a equipe de políticas públicas da Amazon estava escrevendo suas próprias leis de reconhecimento facial para apresentar aos formuladores de políticas governamentais; também, um funcionário da Microsoft escreveu uma lei recentemente aprovada no Estado de Washington, que não faz quase nada para limitar ou proibir o governo de usar de reconhecimento facial.
IBM, Amazon e Microsoft são todas empresas-membros do Integrated Justice Information Systems Institute, que recentemente se uniu à Associação Internacional de Chefes de Polícia para divulgar um catálogo que detalha como as forças policiais podem usar o reconhecimento facial. Pelo menos meia dúzia de empresas já se posicionaram para fazer lobby contra a proibição do reconhecimento facial. As empresas de reconhecimento facial parecem não ter intenção de sair do jogo nem de perder nenhum dólar para uma regulamentação desfavorável.
Pelas comunidades negras e por todos os que já sofreram brutalidade geracional nas mãos da polícia, nosso futuro relacionamento com o policiamento não pode ser comandado pela indústria privada. Um movimento de protesto visionário e inclusivo para desmontar a tecnologia de reconhecimento facial já está lutando para garantir que não seja. Grupos como a Electronic Frontier Foundation, Fight for the Future, Color of Change, MediaJustice e Mijente, entre muitos outros, pediram a proibição total da tecnologia de reconhecimento facial para a aplicação da lei, em todos os níveis de governo.
Os legisladores acataram o apelo à ação. Nos últimos 12 a 18 meses, pelo menos nove cidades dos EUA proibiram o reconhecimento facial, incluindo Oakland, São Francisco, Berkeley e sete cidades de Massachusetts, entre elas Somerville, Brookline, Easthampton, Boston, Springfield, Cambridge e Northampton. Oregon e New Hampshire proibiram a tecnologia de reconhecimento facial em câmeras corporativas da polícia e a moratória de três anos da Califórnia entrou em vigor em janeiro de 2020. Estados como Nova York e Massachusetts também estão considerando uma legislação que proíba a tecnologia de reconhecimento facial em conexão com câmeras oficiais, imponha moratória a todos os usos da lei e decrete moratórias mais amplas a todo uso governamental de reconhecimento facial, a fim de abranger outras agências e autoridades estatais.
Nos EUA, legisladores do Partido Democrata propuseram recentemente uma moratória ao uso de reconhecimento facial por agências federais, bem como às tecnologias de reconhecimento de voz e de deslocamento, com restrições rígidas, que irão reter verbas federais dos governos estaduais e locais até serem aprovadas. Embora as moratórias perenes do governo não sejam tão restritivas ou eficazes quanto uma proibição definitiva, elas são muito mais úteis do que as moratórias corporativas de curto prazo e continuam sendo uma maneira útil de restringir o uso da tecnologia de reconhecimento facial pela aplicação da lei, no caminho para sua abolição. Agora, tudo o que as empresas de reconhecimento facial precisam fazer é sair do caminho.
Recentemente, em Detroit, uma cidade reconhecida pela atenta organização liderada pela sua comunidade, uma caravana de cerca de 40 carros circulou pelas casas dos membros do Conselho da Cidade, exigindo que votassem contra uma extensão de contrato de 219 mil dólares para um fornecedor de software de reconhecimento facial. O Departamento de Polícia de Detroit combina imagens tiradas de várias fontes, incluindo o Projeto Green Light — que instala câmeras de alta definição pagas por empresas locais — com seu software de reconhecimento facial para identificar suspeitos de crimes violentos. Pressionar os legisladores locais para votar contra contratos específicos de reconhecimento facial é outra maneira de desfinanciar a vigilância de face no nível das cidades.
A nível federal, este ano fiscal, o Departamento de Segurança Interna dos EUA disponibilizou cerca de 1,8 bilhão de dólares para as comunidades locais, por meio de seu programa de doações para o fundo de preparação contra desastres, mas, para receber alguns desses subsídios, as localidades devem concordar em alocar pelo menos 25% para a polícia. E ainda tem o Programa 1033 do Departamento de Defesa, que militariza a polícia civil, fornecendo equipamentos militares excedentes para as agências policiais. Outras fontes de financiamento adicionais para a tecnologia de reconhecimento facial são os orçamentos de programas federais, como da Alfândega e Proteção de Fronteiras dos EUA, da Administração da Segurança de Transporte, e do Serviço Secreto.
Há, também, os patrocinadores corporativos dos departamentos de polícia. Algumas empresas norte americanas estão fazendo parcerias com fundações policiais, doando milhões para departamentos policiais locais investirem em redes de vigilância, software e equipamentos. Amazon, Motorola, Verizon, Facebook, Google e AT&T são alguns dos principais apoiadores corporativos dessas fundações.
Joy Buolamwini, co-fundador da Liga da Justiça Algorítmica, disse em depoimento ao Congresso: “Essas ferramentas são poderosas demais, e o potencial de ter graves deficiências, incluindo preconceitos demográficos e fenotípicos extremos, é nítido. Não podemos permitir que as agências governamentais adotem essas ferramentas e comecem a tomar decisões com base em seus resultados hoje, e deixem para resolver como controlar os abusos só lá na frente”
A supremacia branca define como a sociedade é estruturada e como as novas tecnologias são usadas. Ela se move no ritmo do capital. O policiamento americano, durante séculos, defendeu as leis e a ordem da supremacia branca às custas brutais da vida dos negros. Enquanto ativistas inovam em estratégias para desfinanciar o policiamento e investir nas comunidades, não devemos abrir as portas para um estado de segurança expansivo e irresponsável, com olhos automatizados, treinados para ir atrás de dissidentes negros e pardos. O fim do sistema de policiamento dos EUA como o conhecemos deve ser associado a estratégias para proibir o reconhecimento facial e outras tecnologias de vigilância do século XXI que capacitam esse sistema.
A violência do policiamento estadunidense mata 1000 pessoas por ano, fere muitos gravemente e imprime às gerações de negros e pardos um rito de passagem brutal. Numa era em que os interesses policiais e privados se tornaram extraordinariamente poderosos — e onde esses interesses também se entrelaçaram com a infraestrutura — moratórias de curto prazo, reformas fragmentadas e melhorias técnicas no software não defenderão vidas negras nem protegerão os direitos humanos.
No meu conceito de nação que investe na vida e dignidade dos negros, o reconhecimento facial e outras formas de policiamento biométrico não precisam de mais supervisão, nem de reformas ou aprimoramentos. O reconhecimento facial, bem como o policiamento americano — da forma como o conhecemos — devem desaparecer.
Fonte: Outras Palavras | The Atlantic.
