Tirando proveito de sua ligação com o Twitter, a controversa startup de inteligência artificial Dataminr ajudou a polícia a monitorar digitalmente os protestos que tomaram conta do país após o assassinato de George Floyd, indicando às autoridades postagens em redes sociais que mostravam a localização recente e as ações dos manifestantes, de acordo com documentos analisados pelo Intercept e uma fonte com conhecimento direto sobre o assunto.

O monitoramento parece contradizer as alegações do Twitter e da Dataminr de que ambas não se envolveriam ou facilitariam a vigilância interna após uma série de controvérsias em 2016. O Twitter, que até recentemente era um investidor de longa data na Dataminr, juntamente com a CIA, fornece à empresa acesso total a um fluxo de conteúdo conhecido como “firehose” – um privilégio raro entre as empresas de tecnologia, que permite à Dataminr, recentemente avaliada em mais de US$ 1,8 bilhão, verificar todos os tuítes públicos no momento em que o autor faz a publicação. Ambas as empresas negaram que o monitoramento de protestos possa ser definido como “vigilância”.

Uma história de trabalho para a polícia

A Dataminr ajuda redações jornalísticas, corporações e governos em todo o mundo a rastrear crises com velocidade sobre-humana, à medida que elas se desenrolam nas mídias sociais e na internet em geral. Por meio de uma combinação de pessoas e software, a empresa alerta as organizações a respeito de rumores sobre crises globais – guerras, tiroteios, tumultos, desastres etc. – para que tenham uma vantagem competitiva à medida que as notícias forem surgindo. Mas o significado dessa vantagem competitiva, a capacidade potencializada de filtrar eventos importantes em meio ao barulho de centenas de milhões de tuítes e postagens nas mídias sociais variam drasticamente dependendo de quem é o cliente. Os interesses de um jornal que usa o Dataminr em sua cobertura de notícias urgentes não serão os mesmos que os interesses de um banco, ou do FBI. É essa última categoria de negócios da Dataminr, os lucrativos trabalhos para o governo, que manteve a empresa na defensiva nos últimos anos.

Em 2016, o Twitter foi forçado a lidar com várias denúncias de que sua plataforma estava sendo usada para permitir a vigilância interna no país, incluindo uma reportagem do Wall Street Journal sobre a colaboração do Dataminr com agências de espionagem americanas, em maio daquele ano; um relatório da ACLU, a União Americana das Liberdades Civis, sobre a Geofeedia, concorrente da Dataminr, em outubro; e outra investigação da ACLU sobre o trabalho de vigilância da polícia federal feito com a Dataminr em dezembro. A empresa procurou dar garantias ao público de que as tentativas de monitorar seus usuários para fins de vigilância eram estritamente proibidas sob suas regras, e que qualquer infrator seria expulso da plataforma. Por exemplo, o então vice-presidente Chris Moody escreveu em um post no blog da empresa que “o uso de APIs (interfaces) públicas do Twitter ou produtos de dados para rastrear ou traçar o perfil de manifestantes e ativistas é absolutamente inaceitável e proibido”. Em uma carta à ACLU, o chefe de política pública do Twitter, Colin Crowell, escreveu, da mesma forma, que “o uso de dados do Twitter para vigilância é estritamente proibido” e que “o produto da Dataminr não fornece a nenhum cliente vinculado ao governo (…) qualquer forma de vigilância”.

O Twitter também disse que a Dataminr, um de seus “parceiros oficiais“, “não mais permitiria acesso direto por parte dos fusion centers“, às informações como locais dos tuítes. Os fusion centers são instalações controversas dedicadas ao compartilhamento de informações entre o governo federal e a polícia local. Ao mesmo tempo, a Dataminr anunciou que não forneceria mais um produto para a realização de análises geoespaciais “para as forças de primeira resposta” e acrescentou que esses clientes vinculados aos governos não tinham “acesso direto ao firehose“.

Mas, com base em entrevistas, pedidos de registros públicos e documentos da empresa analisados pelo Intercept, a Dataminr continua permitindo a vigilância pelas autoridades policiais dos Estados Unidos, contradizendo suas garantias anteriores, mesmo seguindo dentro de alguns limites técnicos definidos há quatro anos, como não fornecer acesso direto ao firehose, geolocalização de tuítes ou outros tipos acessos por parte dos fusion centers.

A Dataminr retransmitiu tuítes e outros conteúdos de mídia social sobre os protestos pela morte de George Floyd e do movimento Black Lives Matter, diretamente para a polícia, aparentemente em todo o país. Ao fazer isso, usou com grande eficácia seu acesso privilegiado aos dados do Twitter – apesar dos termos de serviço atuais que explicitamente impedem os desenvolvedores de software de “rastrear, alertar ou monitorar eventos sensíveis (como protestos, comícios ou reuniões de organização comunitárias)”.

Apesar das alegações da Dataminr de que seu serviço utilizado pelas forças policiais apenas “entrega alertas sobre eventos de emergência, como desastres naturais, incêndios, explosões e tiroteios”, conforme disse um porta-voz ao Intercept em uma reportagem anterior, a empresa facilitou o monitoramento de protestos recentes, incluindo atividades não violentas, filtrando vastas quantidades de dados de mídias sociais da internet e transformando as informações em pacotes de conteúdo de inteligência para a polícia.

De olho em protestos pacíficos

A vigilância dos protestos Black Lives Matter pela Dataminr incluiu o monitoramento contínuo das mídias sociais para avisar a polícia sobre os locais e atividades dos protestos, o desenrolar de comícios específicos, além de casos de supostos “saques” e outros danos à propriedade. De acordo com uma fonte com conhecimento direto do monitoramento dos protestos pela Dataminr, as alegações anteriores, tanto da empresa quanto do Twitter, de que não toleram ou permitem a vigilância são “papo-furado”, que se fundamenta em definições deliberadamente restritas sobre estes conceitos. “É verdade que a Dataminr não rastreia especificamente manifestantes e ativistas individualmente, mas a pedido da polícia eles estão rastreando protestos e, portanto, manifestantes”, explicou a fonte.

“A pedido da polícia, eles estão rastreando protestos e, portanto, manifestantes.”

De acordo com materiais internos analisados pelo Intercept, a Dataminr rastreou meticulosamente não apenas os protestos em andamento, mas também manteve registros abrangentes das manifestações contra a violência policial que ainda aconteceriam em cidades de todo o país para ajudar sua equipe a organizar seus esforços de monitoramento, incluindo o horário previsto para os eventos e o local de início dentro dessas cidades. Uma agenda de protestos vista pelo Intercept mostra que o Dataminr estava mantendo vigilância explícita sobre dezenas de protestos, grandes e pequenos, de Detroit e Brooklyn a York, na Pensilvânia, e Hampton Roads, na Virgínia.

Os documentos também mostram que a empresa instruiu os membros de sua equipe a procurar casos de “força letal usada contra manifestantes pela polícia ou vice-versa”, “danos à propriedade”, “incêndio generalizado ou saques contra infraestrutura governamental ou comercial”, “novas ocorrências de assassinatos ou morte envolvendo policiais com possível interpretação de preconceito racial” e casos em que “protestos violentos se espalham para outra grande cidade do país”. Os funcionários também estavam monitorando especificamente as mídias sociais em busca de posts sobre “oficiais envolvidos na morte de Floyd” – todos os quais seriam encaminhados pela Dataminr aos seus clientes vinculados a governos por meio de um serviço chamado “First Alert“.

Os documentos da Dataminr sobre o monitoramento de protestos analisados pelo Intercept não especificam se são usados para novos clientes, pela polícia, ou ambos. Mas um documento de outubro de 2019 listava o Departamento de Polícia de Nova York, o Departamento de Polícia de Los Angeles, o Departamento de Polícia de Chicago e a Polícia Estadual da Louisiana entre os “padrões de serviço para polícia” da empresa. A polícia de Los Angeles disse ao Intercept que conduziu um teste com a Dataminr, mas que optou por não assinar um contrato e que não usou o sistema nos protestos Black Lives Matter. A Polícia Estadual da Louisiana se recusou a comentar, citando uma lei de sigilo estadual. O Departamento de Polícia de Nova York não comentou e não foi possível contatar o Departamento de Polícia de Chicago para comentários. Em janeiro de 2019, um tribunal de Nova York ordenou que a polícia de Nova York entregasse registros sobre o uso do Dataminr como resultado de um processo da União das Liberdades Civis de Nova York pelo suposto monitoramento de ativistas do Black Lives Matter.

“A Dataminr está fornecendo informações para as polícias locais, incluindo [muitos] departamentos de polícia metropolitanos em cidades onde ocorrem protestos”, disse a fonte. “Eles estão entre os maiores clientes da Dataminr, e definem sua agenda”. O porta-voz da Dataminr, Kerry McGee, se recusou a comentar sobre os clientes da empresa.

E-mails com alertas da Dataminr enviados ao Departamento de Polícia de Minneapolis, obtidos por meio de uma solicitação de registros públicos, mostram que a empresa coletou, agrupou e legendou conteúdos relevantes do Twitter sobre os protestos contra a brutalidade policial e os encaminhou diretamente à polícia à medida que esses eventos aconteciam, incluindo informações sobre protestos aparentemente não violentos. Os e-mails mostram a Dataminr repassando os locais e imagens dos manifestantes do Black Lives Matter na cidade onde George Floyd viveu e foi morto, e onde teve início a onda nacional de indignação contra o abuso policial, um fato que dificulta a alegação da empresa de que não fornece “qualquer forma de vigilância” a seus clientes vinculados a governos. As informações de localização nos alertas sublinham que, embora o Dataminr possa tecnicamente não ter acesso direto aos dados de geolocalização anexados a muitos tuítes pelo próprio Twitter, os textos e imagens transmitidos à polícia geralmente contêm referências geográficas explícitas ou têm essas referências adicionadas manualmente pela equipe da Dataminr.

Embora alguns dos alertas sejam provenientes de tuítes de repórteres locais ou de redes nacionais, muitos são atribuídos às contas de usuários comuns – o que o sistema chama de “testemunhas oculares” – que estavam assistindo ou participando das manifestações e tuitando de forma totalmente pessoal. Em uma mensagem do serviço First Alert transmitida à polícia de Minneapolis em 31 de maio, seis dias após o assassinato de Floyd, a Dataminr alertou para um tuíte que dizia “protesto pacífico do lado de fora do estádio US Bank, no centro de Minneapolis. Acabem com o racismo. Acabem com a brutalidade policial. Acabem com a desigualdade e com a injustiça. #JusticeForFloyd #Minneapolisprotest #BlackLivesMatters ”, juntamente com uma foto tirada pelo usuário do Twitter. A legenda, fornecida pela equipe humana da Dataminr, especificava que esse grupo de manifestantes havia sido “visto no estádio US Bank, no quarteirão 400 da Avenida Chicago”. Outra notificação do First Alert enviada ao departamento de polícia três dias antes avisou sobre essa suposta ameaça à segurança pública: “Manifestantes vistos sentados na rua em frente a agentes de segurança em Oakdale, MN”. Outro tuíte monitorado, acompanhado de uma foto, transmitida à polícia de Minneapolis pela Dataminr, dizia apenas “Protesto pacífico em Lake & Lyndale”.

Um tuíte com uma foto transmitido à polícia de Minneapolis dizia apenas “Protesto pacífico em Lake & Lyndale”.

O First Alert também examina outras plataformas populares como o Snapchat e o Facebook, sendo este particularmente útil para organizadores de protestos que tentam mobilizar suas comunidades de forma rápida. Em pelo menos uma ocasião, de acordo com os registros do departamento de polícia, a Dataminr conseguiu direcionar a polícia para a página no Facebook de um evento de protesto, antes de ele ter início.

Alguns alertas da Dataminr trouxeram informações duvidosas. Por exemplo, em 28 de maio, a empresa repassou uma informação sem credibilidade sobre o filantropo bilionário George Soros, informando ao departamento de polícia que “o comentarista Candace Owens afirma que o chefe de polícia de Minneapolis, MN, diz que muitos manifestantes não são da cidade e afirma que o investidor George Soros está financiando manifestantes através da Open Society Foundation”.

Vigilância como serviço público

Essa aparente contradição flagrante da Dataminr, que segue afirmando publicamente que nunca se envolveria em vigilância, ao mesmo tempo em que facilita o monitoramento de protestos, não passou despercebida pela equipe da empresa. Em uma reunião virtual em junho, cuja gravação foi obtida pelo Intercept, um gerente do Dataminr tentou explicar à equipe por que o monitoramento contínuo de atividades protegidas pela Primeira Emenda em nome da polícia não era, de fato, vigilância. O gerente, identificado pela fonte como sendo o vice-presidente executivo Jason Wilcox, admitiu que provavelmente havia funcionários da Dataminr ponderando algumas questões difíceis: “Como nossa tecnologia, como nossa empresa, como nossa plataforma, atua nesse tipo de eventos que estão acontecendo? ” – uma alusão aos protestos em todo o país que estavam em sua primeira e agitada semana. “Nós vendemos para a polícia. O que isso significa?” A defesa que Wilcox fez para a Dataminr foi baseada principalmente em uma espécie de distinção linguística: que transmitir dados à polícia não é uma forma de vigilância, mas sim um tipo de coleta de notícias ideologicamente neutra. Em um outro eufemismo, Wilcox descreveu os alertas de vigilância enviados à polícia como “conhecimento situacional através de eventos em tempo real, muitos capazes de colocar a vida das pessoas em risco, os quais podem ser respondidos mais rapidamente e salvar vidas”.

Essa é, em geral, a mesma razão pela qual as equipes de relações públicas do Twitter e da Dataminr descrevem o produto destinado a uso governamental como uma fonte de “alertas de notícias”, não de inteligência – uma lógica que confunde as principais diferenças entre o que, digamos, um jornal pode fazer com informações atualizadas rapidamente sobre um protesto contra o policiamento, em relação a o que a polícia pode querer fazer com os mesmos dados.

Wilcox acrescentou que a vigilância de protestos pela Dataminr, longe de trazer algum efeito perigoso para a expressão política ou livre assembleia, era uma força a favor do progressismo e de reformas: “Alertamos sobre eventos em que membros da polícia ultrapassam seus limites”, afirmou Wilcox. “Encontramos abuso de poder. … Em última análise, o que estamos fazendo é fornecer um mecanismo de equilíbrio para a [polícia]. … Esses alertas fornecem contexto para o mundo, mantendo as pessoas seguras e permitindo que seja feito de uma maneira que não invada a privacidade do usuário, pelo contrário. Isso ajuda a ampliar a sua voz. ”

Questionado sobre os comentários, McGee, da Dataminr, escreveu: “A Dataminr não comenta as reuniões internas da empresa”. Wilcox não respondeu ao pedido para comentar.

Wilcox também defendeu o trabalho da Dataminr com a polícia, enfatizando os laços estreitos da empresa com o Twitter, o grande fornecedor de acesso ao firehose, que, segundo Wilcox, “costuma ser uma das primeiras plataformas de mídia social a se mobilizar para proteger a privacidade, a que está mais sintonizada com o tema, onde se preocupam em garantir que sua plataforma não seja mal utilizada.”

“Esses alertas fornecem contexto ao mundo, mantendo as pessoas seguras”.

A justificativa interna da Dataminr a respeito de seu trabalho para a polícia também se baseia em parte no argumento de que a ação não é tão maligna quanto poderia ser: “vemos muitas outras empresas que se valem das mídias sociais, e elas frequentemente, nem todas, mas com frequência, mostram objetivos diferentes”, explicou Wilcox. “O objetivo delas é ajudar na vigilância. Elas criam gráficos de usuários, rastreiam os usuários à medida que passam por diferentes plataformas de mídia social, seguem o que uma pessoa diz ao longo do tempo. E nós não fazemos isso”. Wilcox citou alguns outros mecanismos que, segundo ele, mostram como ele “trabalhou duro para garantir que nossa tecnologia não possa ser usada indevidamente”, referindo-se à limitação das palavras-chave que a polícia pode usar para customizar seus “alertas de notícias”.

Mas conforme a fonte com conhecimento direto acerca do monitoramento de protestos pela Dataminr, isso é enganoso: não há nada incorporado ao First Alert que impeça a polícia de filtrar ou pesquisar manualmente as informações que recebe do Dataminr por termos específicos, como “#BLM” ou “antifa.” Depois que um tuíte de protesto passa pelo sistema da Dataminr e chega na outra ponta às caixas de entrada do departamento de polícia, o Dataminr perde o controle sobre como as informações são usadas. Essa imagem de restrição tecnológica também difere consideravelmente da orientação que a Dataminr dá à polícia. No que parece ser um conjunto de slides de uma apresentação da Dataminr para o FBI em 2019, incluído em um recente vazamento de dados online que ficou conhecido como “BlueLeaks”, a empresa afirma que “a missão da Dataminr é integrar todos os sinais de dados publicamente disponíveis para criar uma plataforma dominante de descoberta de informações” e frisou a capacidade de o cliente personalizar “critérios definidos pelo usuário” para alertas como “seleção de tópicos” e “filtros geográficos”. O objetivo final: “Reduzir o tempo entre o evento e a ação do cliente”.

Vigilância ou “Alertas de Notícias”?

Quando perguntados sobre o trabalho da Dataminr em conjunto com as forças policiais, conforme descrito acima, o Twitter e a Dataminr adotaram uma defesa semelhante: não se trata de vigilância, porque temos uma política contra vigilância, o que significa que não nos envolvemos em vigilância. Nenhuma das empresas comentou ou discutiu como exatamente o que foi mencionado acima não atende à definição de vigilância, nem forneceram as definições institucionais do conceito conforme as duas empresas.

“Vemos um benefício social no uso de dados públicos do Twitter para alertas de notícias, suporte a socorristas e auxílio a desastres”, disse a porta-voz do Twitter, Lindsay McCallum, que acrescentou que a ferramenta First Alert da Dataminr “está em conformidade com nossa política de desenvolvedores” que proíbe a vigilância. “O First Alert não pode ser usado para qualquer tipo de vigilância pelos seus usuários”, disse McGee sobre a Dataminr ao Intercept. Em resposta a uma cópia do tuíte que a Dataminr enviou à polícia de Minneapolis sobre a localização exata de um grupo de manifestantes, McGee alegou que isso foi sinalizado para o departamento porque indicava problemas de trânsito, não manifestantes. “Alertas em um cruzamento bloqueado são alertas de notícias, não monitoram protestos e tampouco são vigilância”, disse McGee. “Uma organização de notícias local também cobriria grandes cruzamentos sendo bloqueados como uma notícia – isso não é vigilância”.

Mas para alguns pesquisadores que estudam o uso de sistemas de vigilância, especialistas jurídicos e ativistas, há poucas dúvidas sobre o que a Dataminr está fazendo e o que o Twitter está permitindo, independentemente da terminologia cuidadosa usada por ambos. De acordo com Brandi Collins-Dexter, diretora de campanha do grupo de direitos civis Cores da Mudança, as práticas da Dataminr são um caso de “onde há fumaça, há fogo”, em relação a ações de vigilância. “Sabemos que as agências de segurança gastam uma quantidade impressionante de dinheiro para rastrear, demarcar e vigiar fortemente as comunidades negras”, explica. “O Twitter não pode atuar nas duas pontas, cortejando ativistas negros e se promovendo como a principal ferramenta para organização contra a injustiça, enquanto fecha os olhos para as diversas empresas com quem mantém contrato e que possuem claros interesses de vigilância”.

“O Twitter não pode atuar nas duas pontas, cortejando ativistas negros e se promovendo como a principal ferramenta para organização contra a injustiça, enquanto fecha os olhos para as empresas com quem mantém contrato e que possuem claros interesses de vigilância”.

Steven Renderos, diretor executivo do grupo de direitos civis MediaJustice, fez eco a esse sentimento. “É preocupante que a Dataminr esteja prestando serviços à polícia e há uma lógica falha em pensar que não há mal em entregar mensagens do Twitter para policiais”, opinou. “A polícia tem um histórico de uso das mídias sociais para rastrear ativistas negros. As práticas da Dataminr são apenas o exemplo mais recente de como as empresas de tecnologia estão alimentando o policiamento racista nos Estados Unidos.”

“Se a Dataminr estiver compartilhando postagens sobre protestos e manifestantes com a polícia, seria incrivelmente preocupante, e também difícil de entender como essa prática não facilita a vigilância pela polícia, violando as próprias políticas do Twitter”, disse Matt Cagle, advogado da ACLU do norte da Califórnia. “As redes sociais como o Twitter precisam proteger os usuários e garantir que os desenvolvedores não compartilhem o uso que é feito das liberdades da Primeira Emenda com as agências policiais, uma prática que potencialmente expõe indivíduos- particularmente negros, indígenas e pessoas de cor – a mais vigilância e violência estatal”.

Andrew Ferguson, professor visitante de direito na Universidade Americana, rejeitou a alegação das empresas de que, como o Dataminr apenas se alimenta de tuítes públicos, o sistema só é capaz de coletar notícias – como se tirar fotos dos manifestantes fosse o mesmo que fazer fotojornalismo, e não vigilância fotográfica. “O monitoramento das atividades e o encaminhamento de informações à polícia é uma clara forma de vigilância”, explicou Ferguson, autor do livro “The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement” (“O surgimento do policiamento de big data: vigilância, raça e o futuro da aplicação da lei”, sem edição no Brasil). “Se a polícia fosse uma empresa de publicidade baseada em dados, diríamos que isso era vigilância do consumidor. Se a polícia estivesse rastreando diretamente os manifestantes, chamaríamos isso de vigilância do governo. O encaminhamento das mesmas informações e sua denominação como ‘notícias’ segue sendo vigilância.”

Se as centenas de milhões de usuários do Twitter aceitarão o argumento de que retransmitir tuítes automaticamente para a polícia é o mesmo que fazer uma inocente seleção de notícias permanece uma questão em aberto, mas para a maioria deles é algo discutível: além da trabalhosa opção de encaminhar pedidos de informação aos registros públicos, é difícil imaginar como alguém poderia saber se seus tuítes de protesto foram engolidos pelos algoritmos contratados pelo governo. Ou pode-se pensar da mesma maneira que Jason Wilcox, quando convencia sua equipe: “Todas essas vozes, em um lugar onde conseguimos amplificar para todo mundo… é bem impressionante. É algo incrível.”

Tradução: Antenor Savoldi Jr.