SERÁ QUE ALGUÉM no Facebook tem a intenção, ou mesmo a capacidade, de controlar o Facebook? É essa a questão de fundo da investigação conduzida pelo New Tork Times na semana passada sobre o gigante das mídias sociais. Está cada vez mais claro que o crescimento e a sobrevivência da empresa dependem de sua cumplicidade, não apenas na prática de um intercâmbio invasivo de dados como o revelado pelo escândalo da Cambridge Analytica, mas também na abordagem ineficiente e casuística sobre a promoção de violência na plataforma – que não conseguiu, por exemplo, detectar uma campanha coordenada pelas forças armadas de Myanmar para promover o genocídio da população Rohingya no país. Esses problemas parecem imunes às tentativas de reforma promovidas pela companhia. Suas lideranças, então, optaram pela defesa agressiva: fazem lobby no Legislativo e procuram tranquilizar o público negando e minimizando sua responsabilidade.

Os problemas do Facebook são uma perversão da utópica promessa da tecnologia, ou um resultado lógico da estrutura da internet e de seus produtos? O que o escritor, tecnólogo e artista James Bridle sugere em seu novo livro é a segunda opção. Em “New Dark Age: Technology and the End of the Future” [“A Nova Idade das Trevas: Tecnologia e o Fim do Futuro”, ainda sem tradução no Brasil], ele argumenta que o principal objetivo da internet – a combinação de computação de alta velocidade e redes globais – é exatamente o responsável pela ascensão da captura invasiva de dados, das “fake news” e da vigilância de massa.  Em outras palavras, a internet não foi corrompida por influências nefastas. Na verdade, mais do que nunca, ela está operando de acordo com seus princípios e imperativos centrais. E, ao fazê-lo, está, ao mesmo tempo, prejudicando a compreensão que temos do mundo ao nosso redor e tornando esse mundo mais perigoso.

O novo livro defende que a tecnologia está prejudicando a compreensão que temos do mundo ao nosso redor e tornando esse mundo mais perigoso.

Um exemplo aparentemente banal demonstra em pequena escala a hipótese de Bridle. Graças à internet, eu consigo acessar a previsão do tempo em qualquer lugar, a qualquer momento. Essa previsão pode até estar errada, e acabar me deixando preso no meio de um temporal, mas eu gosto da sensação de sair de casa de posse da melhor informação disponível. O pior que pode acontecer é eu me molhar um pouco.

Bridle demonstra que estou errado de formas bem profundas. A previsão do tempo, como todos os tipos de computação preditiva, essencialmente presume que o futuro será como o passado. Ela sintetiza pontos de dados passados em projeções futuras. Com a rápida aceleração das mudanças climáticas globais, no entanto, esse tipo de previsão computacional se tornará cada vez menos precisa a longo prazo. O futuro é cada vez menos semelhante ao passado.

Além disso, o próprio ato de realizar a previsão computacional contribui para essa menor precisão: na escala atual, trata-se de uma empreitada com grande consumo de energia, que exige muita emissão de carbono. É por isso que Bridle escreve que “a computação é ao mesmo tempo vítima e causadora das mudanças climáticas”. A cada vez que recarrego uma previsão, estou contribuindo para reduzir sua precisão e contribuir para as mudanças climáticas, que já estão provocando padrões imprevisíveis de tempo e causando destruição em todo o mundo. Então, a curto prazo, eu talvez evite a chuva. A longo prazo, boa parte da minha cidade vai estar submersa.

É assim que a internet, como a conhecemos, vai nos levar ao que Bridle chama de “Nova Idade das Trevas”. Ela incorpora suposições sobre como o mundo é ou deveria ser, mas torna invisíveis suas próprias contribuições a um futuro mais volátil. À medida que o futuro começar a divergir do passado que lhe serviu de modelo, nós talvez acabemos sabendo ainda menos sobre o mundo.

livro-new-dark-age-1543607881

Foto: Divulgação/Verso Books

Uma das razões para isso, segundo Bridle, é que a arquitetura que levou à internet nunca teve a intenção de produzir conhecimento desinteressado. A computação meteorológica, por exemplo, foi desenvolvida por uma aliança anglo-americana militar e de negócios, com o propósito específico de dar às potências ocidentais a supremacia estratégica aérea e nuclear durante a Guerra Fria (os arquitetos dessa empreitada no meio do século 20 posteriormente vieram a integrar o núcleo da Defense Advanced Research Projects Agency [Agência de Projetos de Pesquisa Avançada de Defesa], a entidade do governo dos EUA que foi precursora da internet como a conhecemos hoje). É ingênuo achar que a extensão dessas tecnologias ao público em geral possa ser separada dos imperativos sob os quais foram desenvolvidas, a saber, a hegemonia do capital ocidental e a potencialização dos lucros de suas empresas. Na verdade, nosso uso dessas tecnologias contribui para um mundo em que esses imperativos estejam cada vez mais entranhados.

Cada capítulo de “New Dark Age” apresenta uma perspectiva distinta que revela como esses imperativos passaram a permear profundamente as nossas relações sociais, e como tornaram inacessível o conhecimento real. O capítulo sobre “Clima” discute como a nossa sociedade integrada e de alta tecnologia não apenas acelera as mudanças climáticas, mas também destrói no processo fontes analógicas de conhecimento (bancos de sementes, restos arqueológicos armazenados no permafrost, solo típico do Ártico). Em “Complexidade”, ele argumenta que a tecnologia computacional nas altas finanças distorce a informação econômica a aprofunda a desigualdade. “Conspiração” mostra como a organização algorítmica da internet canaliza para grupos marginais fragmentados os sentimentos de desconfiança e impotência das pessoas comuns, e “Concorrência” se concentra no YouTube, que no esforço de potencializar o tempo dos espectadores diante da tela (e o resultado financeiro do Google), encoraja a produção e a reprodução automática de vídeos infantis ultraviolentos e altamente perturbadores, gerados por computador. (Bridle postou uma versão desse capítulo no Medium no ano passado, mostrando como um pai que deixa sua criança pequena diante de um inócuo vídeo da Peppa Pig pode, ao voltar, encontrá-la vendo a Peppa ser torturada.)

No cerne de muitos desses problemas está o que Bridle chama de pensamento computacional. O pensamento computacional considera que informações perfeitas sobre o passado podem e devem ser coletadas e sintetizadas para informar as decisões sobre o futuro. Em um capítulo chamado “Cumplicidade”, Bridle alega que essa forma de pensar informa também a vigilância em massa pelo governo: a conhecida política das agências governamentais de inteligência, de “coletar tudo”, não tem um histórico demonstrável de aumento da segurança pública ou redução da violência. (Esse fato inclusive levou um comitê presidencial nos EUA a declarar que a vigilância em massa “não é essencial à prevenção de ataques”, em 2013.) O problema, propõe Bridle, é que a prática é “essencialmente retroativa e retributiva”. Ela presume que a simples exposição é um fim em si mesma, e que os problemas vão se revelar, ou mesmo se resolver por conta própria quando trazidos à tona.

Esse conceito, porém, não se limita a governos sombrios: jornalistas também fazem uso dessas práticas. O primeiro exemplo de Bridle a esse respeito foram as revelações de Edward Snowden sobre a Agência de Segurança Nacional, em 2013 (e que catalisaram inclusive a fundação deste website). A despeito da indignação inicial com a exposição da exata mecânica de vigilância de massa usada pelos EUA e por seus aliados, as reformas foram ínfimas, se tanto, e a opinião pública logo se voltou para outras questões. O problema, argumenta Bridle, é a expectativa de que a simples exposição conduza à compreensão e à ação. É assim que o próprio jornalismo adota a mesma lógica obsessiva e paranoica da computação e da vigilância. Ele deixa de lado uma verdadeira compreensão do presente e do futuro enquanto molda obsessivamente uma perfeita imagem do passado. “Nós fomos convencidos de que jogar luz sobre um assunto é a mesma coisa que pensar a respeito dele, e, portanto, ter poder de agir sobre ele”, alerta Bridle.

“Fomos convencidos de que jogar luz sobre um assunto é a mesma coisa que pensar a respeito dele, e, portanto, ter poder de agir sobre ele”, alerta Bridle.

A proposta de “New Dark Age” para lidar com esse problema é menos uma linha de ação, e mais uma nova forma de pensar. “O que precisamos não é de tecnologia nova”, escreve Bridle na página inicial, “mas de novas metáforas”. Na contramão do pensamento computacional, que se considera, equivocadamente, capaz de contemplar e compreender todos os fatos sobre o mundo, Bridle propõe o “pensamento enevoado”, uma prática que reconhece o que é incognoscível e busca “novas formas de ver sob outra perspectiva”. Ele na verdade espera que a “Nova Idade das Trevas” do título do livro seja vista como oportunidade, não como queixa. Ao abraçar essa oportunidade, ele argumenta, precisaremos deixar de lado a pretensão de um conhecimento absoluto para aderir ao ceticismo responsável, informado pelo reconhecimento de que a rede onde vivemos e trabalhamos está ativamente prejudicando nossa compreensão do mundo real, e, com isso, reforçando a injustiça.

James Bridle.

James Bridle.

Foto: Divulgação/Verso Books

“Nada aqui é um argumento contra a tecnologia”, insiste Bridle. “ao fazer isso eu estaria argumentando contra nós mesmos”. A tecnologia é ao mesmo tempo uma ferramenta para reconstruir o mundo, e uma metáfora para compreendê-lo. Deve-se reconhecer que ele provavelmente está certo ao dizer que precisamos aprender a esperar coisas diferentes das nossas relações com a tecnologia. Não podemos esperar que a tecnologia forneça informações perfeitas ou consenso social. Deveríamos estar a postos para agir com base em informação provisória de fontes confiáveis, em vez de esperar que a tecnologia sintetize e verifique cada mínimo fato. Se esperarmos, será tarde demais.

No entanto, é bobagem acatar esses conselhos sem confrontar diretamente o que a internet se tornou. Embora Bridle esteja certo ao apontar a impossibilidade de separar nossas vidas da internet contemporânea, ele algumas vezes parece sucumbir tanto a uma espécie de fatalismo, quanto a um otimismo ingênuo. O fatalismo é sua suposição de que estamos presos à internet que temos. O otimismo é a sugestão de que ao simplesmente pensar de forma diferente sobre a internet, possamos subverter seus objetivos socialmente destrutivos.

A infraestrutura da internet é um capital, uma série de investimentos feitos por governos e empresas. E eles esperam o retorno desse investimento.

O problema é que a internet como a conhecemos não é apenas, nem principalmente, algo virtual. Ela é viabilizada por uma rede mundial de cabos que atravessam oceanos, arranha-céus brutalistas que pontuam horizontes, e imensos data centers que consomem o mesmo volume de energia de cidades inteiras. Essa infraestrutura é um capital, uma série de investimentos feitos por governos e empresas. E eles esperam o retorno desse investimento.

Bridle, juntamente com a escritora Ingrid Burrington, prestou a todos nós um grande serviço ao enfatizar a natureza tangível da infraestrutura que constitui a internet. “New Dark Age” também aponta os enormes interesses materiais que motivam esse investimento continuado. “O Império praticamente desistiu de conquistar território, para continuar sua operação no nível da infraestrutura e manter seu poder na forma da rede”, escreve Bridle. Infelizmente, ele não conduz essa compreensão ao que seria sua conclusão lógica. O poder não pode ser tomado simplesmente pelo pensamento, ele só pode ser tomado pela ação. Se a infraestrutura da internet é operada pelos vestígios de um império envolvido na exploração da maior parte da humanidade, como podemos esperar que a internet vá funcionar para essa mesma humanidade?

Propostas de socializar a internet ou exigir controle público dos dados podem parecer irreais, mas pelo menos confrontam essa questão. É decepcionante que um livro que tem uma visão tão clara sobre os cenários aparentemente apocalípticos que se descortinam diante da civilização humana não lide com isso de forma direta. Talvez seja mais fácil imaginar o fim do mundo que o fim da internet. Elaborações futuras sobre o trabalho de Bridle, porém, precisarão se haver com a questão que ele se recusa a abordar: se a única forma de salvar a internet e o planeta seria a efetiva tomada da infraestrutura, incluindo todos os data centers e quadros de distribuição, das mãos dos poderes instaurados, para que ela possa finalmente servir a propósitos igualitários e socialmente responsáveis. Ou, caso isso não seja possível, se o mais interessante para a humanidade não seria a completa destruição da internet.

Tradução: Deborah Leão