A era do capitalismo de vigilância – A luta por um futuro humano na nova fronteira do poder
Shoshana Zuboff
Ideias centrais:
1 – Sob o capitalismo de vigilância, os processos de máquina automatizados não só conhecem nosso comportamento, como também o moldam em escala. Com essa orientação, que transforma conhecimento em poder, não basta automatizar o fluxo de informação sobre nós; a meta é nos automatizar.
2 – Em 46 dos 48 levantamentos de pesquisadores proeminentes – feitos entre 2008 e 2017, para sondar a reação pública à perda de privacidade e a outros elementos das práticas capitalistas de vigilância – a maioria dos participantes apoia a tomada de medidas para defender a privacidade e o controle do usuário de seus dados pessoais.
3 – O Grande Outro (nome dado pela autora ao aparato digital que coleta os dados) não se importa com o que pensamos, sentimos e fazemos, contanto que seus milhões, bilhões ou trilhões de olhos e ouvidos sensíveis, atuantes e computacionais possam observar, renderizar, transformar em dados e instrumentalizar os vastos reservatórios de superávit comportamental.
4 – Com respeito ao GDPR (General Data Protection Regulation – Regulamento Geral de Proteção de Dados) da União Europeia, a única resposta possível é que tudo vai depender de como as sociedades europeias interpretarão o novo regime regulador na legislação e nos tribunais. São os movimentos populares locais que vão moldar as interpretações.
5 – O fato de o capitalismo de vigilância ter usurpado nossos direitos no tocante à privacidade é um abuso escandaloso das capacidades digitais, apesar da promessa de democratizar o conhecimento e atender às necessidades frustradas de uma vida efetiva. Que haja, sim, um futuro digital, mas que seja um futuro humano.
Sobre a autora:
Shoshana Zuboff é a professora emérita da Cadeira Charles Edward Wilson na Harvard Business School e ex-docente associada no Centro Berkman Klein para Internet & Sociedade, da Escola de Direito de Harvard. Escreveu também o livro In the Age of the Smart Machine.
Introdução
O capitalismo de vigilância reivindica, de maneira unilateral, a experiência humana como matéria-prima gratuita em dados comportamentais. Embora alguns desses dados sejam aplicados para o aprimoramento de produtos e serviços, o restante é declarado como superávit comportamental do proprietário, alimentando avançados processos de fabricação conhecidos como “inteligência de máquina”. Esses dados são manufaturados em produtos de predição que antecipam o que determinado indivíduo faria agora, em um futuro próximo ou mais distante. Por fim, esses produtos desenvolvidos por meio dessas predições são comercializados num novo tipo de mercado que antecipa possíveis comportamentos dos usuários, que chamo de mercados de comportamentos futuros. Os capitalistas de vigilância têm acumulado uma riqueza enorme a partir dessas operações comerciais, uma vez que muitas companhias estão ávidas para descobrir o nosso comportamento futuro.
Como veremos ao longo dos capítulos, a dinâmica competitiva desses novos mercados leva os capitalistas de vigilância a adquirir fontes cada vez mais preditivas de superávit comportamental: nossas vozes, personalidades e emoções. Os capitalistas de vigilância descobriram que os dados comportamentais mais preditivos provêm da intervenção no jogo de modo a incentivar, persuadir, sintonizar e arrebanhar comportamentos com o objetivo de obter resultados lucrativos. Pressões de natureza competitiva provocaram a mudança na qual os processos de máquina automatizados não só conhecem nosso comportamento, como também o moldam em escala. Com tal orientação transformando conhecimento em poder, não basta automatizar o fluxo de informação sobre nós; a meta agora é nos automatizar.
PARTE I – As bases do capitalismo de vigilância
Em 9 de agosto de 2011, mais ou menos na mesma hora em que comemorações irrompiam na sala de conferências da Apple, 16 mil policiais tomaram as ruas de Londres, determinados a reprimir “a mais ampla e prolongada quebra da ordem na história de Londres desde os tumultos de Gordon, em 1780”. As agitações haviam começado quatro noites antes quando uma vigília pacífica em homenagem a um rapaz que tinha sido baleado pela polícia de repente se tornou violenta. Nos dias que se seguiram, o número de manifestantes cresceu de maneira impressionante, com saques e incêndios se espalhando por 22 dos 33 distritos de Londres e outras cidades importantes em toda a Grã-Bretanha. Durante quatro dias de confusões nas ruas, milhares de pessoas causaram mais de 50 milhões de dólares de prejuízos à propriedade e três mil pessoas foram presas.
Ao mesmo tempo que a ascensão da Apple parecia ratificar as reivindicações dos indivíduos da segunda modernidade, as ruas de Londres narravam o sombrio legado de um experimento de três décadas em crescimento econômico implicando exclusão social.
O capitalismo de vigilância recrutava as maravilhas do mundo digital para atender às nossas necessidades referentes a levar uma vida efetiva, prometendo a mágica da informação ilimitada e milhares de maneiras de antecipar nossas demandas, facilitando as complexidades das nossas perturbadas vidas. Nós o recebemos de braços abertos. Como exploraremos mais detalhadamente ao longo da explanação deste livro, é devido ao capitalismo de vigilância que os recursos para ter uma vida efetiva, que buscamos obter no mundo digital, vêm sobrecarregados por um novo tipo de ameaça. Sob esse novo regime, o momento preciso em que nossas necessidades são atendidas também é aquele em que a nossa vida é “saqueada” em busca de dados comportamentais, com o agravante de que estes serão usados para o lucro alheio. O resultado é um perverso amálgama de empoderamento inextricavelmente sobreposto ao enfraquecimento de XXX. Na ausência de uma resposta decisiva por parte da sociedade que constranja ou torne ilegal essa lógica de acumulação, o capitalismo de vigilância parece pronto para se tornar a forma de capitalismo dominante do nosso tempo.
O que é crucial, agora, é identificarmos essa nova forma de capitalismo em seus próprios termos e em suas próprias palavras. É inevitável que essa busca nos leve de volta ao Vale do Silício, onde as coisas mudam tão depressa que pouca gente sabe o que acabou de acontecer. É o hábitat para o progresso “na velocidade dos sonhos”, como descreveu certa vez um engenheiro da Google. Meu objetivo aqui é desacelerar a ação a fim de expandir espaço para tal debate e desmascarar as tendências dessas novas criações, uma vez que elas aumentam a desigualdade, intensificam a hierarquia social, exacerbam a exclusão, usurpam os direitos e despem a vida pessoal daquilo que a torna pessoal para você ou para mim. Se é para o futuro digital ser o nosso lar, então cabe a nós torná-lo da forma que queremos. Precisaremos saber como fazê-lo. Precisaremos decidir. E precisaremos definir quem irá decidir por nós. Essa é a nossa luta por um futuro humano.
Capitalismo de vigilância em ação. Projetos como o Street View ensinaram ao Google que a empresa podia assumir o papel de árbitro do futuro e se safar nesse papel. Ela aprendeu a sustentar até mesmo os esforços de despossessão mais contestados, quando são necessários para garantir novas rotas de suprimento. Por exemplo, enquanto os protestos contra o Street View eclodiram ao redor do mundo e apenas meses antes de a Alemanha anunciar que o Street View estava capturando em segredo informações pessoais de redes Wi-Fi desprotegidas, o Google introduziu o Buzz – uma plataforma que pretendia flutuar pelas redes do Google no caminho do cobiçado superávit comportamental que fluía das redes sociais. Eram práticas invasivas introduzidas com o Buzz – que expropriava informação privada dos usuários para se conectar a suas redes sociais e assim dar início a uma nova rodada do ciclo de despossessão e de suas dramáticas disputas.
O capitalismo de vigilância nasceu digital, mas, como veremos mais adiante, não está mais confinado a empresas nascidas digitais. A lógica para converter investimento em receita é extremamente adaptativa e gera lucros excepcionais, desde que os suprimentos de matéria-prima permaneçam gratuitos e a lei seja mantida a distância. A rápida migração para as receitas de vigilância agora em andamento remete a uma mudança ocorrida no fim do século XX, quando receitas derivadas de bens e serviços passaram a ser receitas de capitalismo financeiro, derivadas do domínio de estratégias especulativas e voltadas para a maximização do valor para os acionistas. Naquela época, toda empresa era forçada a obedecer aos mesmos mandamentos: redução de efetivos, instalação de manufatura e serviços no estrangeiro, redução de despesas que afetavam a qualidade do produto e do serviço, diminuição de responsabilidades com os funcionários e consumidores e automatização da interface com os clientes – todas estratégias radicais de redução de custos programadas para dar apoio ao preço da ação da empresa, que era mantida refém de uma visão cada vez mais estreita e excludente da companhia e de seu papel na sociedade.
Com a concorrência pelos ativos de vigilância, novas leis de movimento ganham destaque. Por fim acabam moldando um imperativo ainda mais impiedoso para predizer comportamentos futuros com maior certeza e detalhe, forçando todo o projeto a se libertar do mundo virtual em favor de outro que chamamos de “real”. Na Parte II, acompanhamos essa migração para o mundo real, na medida em que a dinâmica competitiva força a expansão de operações de suprimento e uma arquitetura de extração cada vez mais complexa alcança novos territórios, mais distantes e profundos, da experiência humana.
PARTE II – O avanço do capitalismo de vigilância
O Google/Alphabet, o Facebook, a Microsoft e muito mais companhias atraídas pelas receitas da vigilância têm baseado suas alegações no “desaparecimento” da internet por ser essa uma questão de necessidade. Forçados a melhorar as predições, capitalistas de vigilância como o Google compreenderam que precisavam ampliar e diversificar suas arquiteturas de extração de dados para acomodar novas fontes de superávit e novas operações de suprimento. Economias de escala ainda seriam vitais, é claro, mas nessa nova fase as operações de suprimento foram desenvolvidas e intensificadas para acomodar economias de escopo e economias de ação. O que isso implica?
Economias de escopo. A mudança na direção de economias de escopo define um novo conjunto de metas: o superávit comportamental deve ser vasto, mas também variado. Esse esforço deve ser elaborado tendo em vista duas dimensões: a primeira, a extensão das operações de extração do mundo virtual para o “real”, onde de fato levamos nossa vida. Os capitalistas de vigilância compreenderam que sua riqueza futura dependeria de novas rotas de suprimento que se estendessem para a vida real nas estradas, entre árvores, através de cidades. A extensão quer estar na sua corrente sanguínea e na sua cama, na sua conversa, no café da manhã, no seu meio de transporte, na sua corrida, na sua geladeira, na sua vaga de estacionamento e na sua sala de estar.
Economias de ação. Assim como a escala se tornou necessária, mas insuficiente para predições de melhor qualidade, também estava claro que economias de escopo seriam necessárias, porém insuficientes, para a qualidade mais alta de produtos de predição capazes de sustentar uma vantagem competitiva nos novos mercados de comportamento futuro. O superávit comportamental precisa ser vasto e variado, porém a maneira mais segura de predizer um comportamento é intervir na sua fonte e moldá-lo. Os processos inventados para alcançar esse resultado são o que chamo de economias de ação. Para conseguir tais economias, processos de máquina são configurados para intervir no estado do jogo no mundo real entre pessoas e coisas reais. Essas intervenções são projetadas para aumentar a certeza através de certas atividades: elas incentivam, sintonizam, vigiam, manipulam e modificam o comportamento em direções específicas ao executar ações sutis, tais como inserir uma frase específica no Feed de Notícias do Facebook, programar o surgimento de um botão COMPRAR na tela de seu celular, ou desligar o motor de seu carro quando um pagamento de seguro está atrasado.
Direito ao tempo futuro. O livre-arbítrio é a estrutura óssea existencial que sustenta o músculo moral de toda promessa e a minha insistência sobre sua integridade não é uma complacência nostálgica ou uma visão que privilegia a história humana pré-digital como algo mais verdadeiramente humano. Esse é o único tipo de liberdade que podemos garantir a nós mesmos, não importa o peso da entropia ou inércia, e quaisquer que sejam as forças e os medos que tentam despedaçar o tempo e transformá-lo num eterno faz de conta agora, e agora, e agora. Esses “ossos” são a condição necessária para a possibilidade de civilização como “ambiente moral” que favorece a dignidade do indivíduo e respeita as capacidades distintamente humanas de diálogo e resolução de problemas. Qualquer pessoa, ideia ou prática que quebre esses “ossos” e destrua esse “músculo” nos rouba um futuro de autoria individual e coletiva.
Tais princípios não são acessórios excêntricos, como sugerem Hal Varian e outros. Em vez disso, são duras conquistas que se concretizaram ao longo de milênios de disputas e sacrifícios humanos. Nossa liberdade floresce apenas quando nos esforçamos a preencher a lacuna entre fazer promessas e cumpri-las. Nessa ação, está implícita uma afirmativa de que através da minha vontade eu posso influenciar o meu futuro. Isso não implica autoridade total sobre o futuro, é claro, apenas sobre a minha parte nele. Dessa maneira, a afirmativa do livre-arbítrio também afirma o direito ao tempo futuro como condição de uma vida plenamente humana.
Na grande maioria das pesquisas destinadas a sondar atitudes públicas em relação à perda de privacidade e outros elementos das práticas capitalistas de vigilância, poucos de nós estamos a favor do status quo. Em 46 dos 48 levantamentos mais proeminentes administrados entre 2008 e 2017, a maioria dos participantes apoiam a tomada de medidas para o aprimoramento da privacidade e do controle do usuário de seus dados pessoais (apenas dois levantamentos iniciais foram um pouco menos conclusivos, porque muitos participantes indicaram que não entendiam como e qual informação pessoal estava sendo coletada), De fato, já em 2008 estava consagrada a noção de que, quanto mais conhecimento a pessoa tem das “práticas de privacidade da internet”, maior a probabilidade de ela ficar muito preocupada com sua privacidade.
PARTE III – Poder instrumentário para uma terceira modernidade
O Grande Outro. O capitalismo de vigilância é o titeriteiro que impõe sua vontade por meio do aparato digital ubíquo. Agora dou ao aparato o nome de Grande Outro: é o fantoche perceptível, computacional, conectado que renderiza, monitora, computa e modifica o comportamento humano. O Grande Outro combina essas funções de saber e fazer para conseguir um meio de modificação comportamental penetrante e sem precedentes. A lógica econômica do capitalismo de vigilância é direcionada pelas capacidades do Grande Outro de gerar o poder instrumentário, substituindo a engenharia de almas por engenharia de comportamento.
A indiferença radical do intrumentarianismo é operacionalizada nos métodos desumanizados de avaliação do Grande Outro, que produzem equivalência sem igualdade. Eles reduzem indivíduos ao mínimo denominador comum de igualdade – um organismo entre organismos –, apesar de toda as formas cruciais que nos diferenciam. Do ponto de vista do Grande Outro, somos estritamente Outros: organismos que se comportam. O Grande Outro codifica o ponto de vista do Outro como presença global. Aqui não há irmão de nenhum tipo, grande ou pequeno, bom ou mau; não há laços de família, por mais descontentes que estes sejam. Não há nenhuma relação entre o Grande Irmão e seus objetos alterizados, da mesma forma que não havia relação entre os “cientistas e sujeitos” de B. F. Skinner. Não há domínio da alma que troque todos os elementos de intimidade e afeto por terror – é muito mais o desabrochar de um grande número de relações. O Grande Outro não se importa com o que pensamos, sentimos ou fazemos, contanto que seus milhões, bilhões ou trilhões de olhos e ouvidos sensíveis, atuantes, computacionais possam observar, renderizar, transformar em dados e instrumentalizar os vastos reservatórios de superávit comportamental gerados no tumulto de conexão e comunicação.
Direito ao santuário. Na marcha dos interesses institucionais que pretende implantar o Grande Outro, a primeira cidadela a cair é a mais antiga: o princípio do santuário. O privilégio de santuário tem se mantido como um antídoto ao poder desde o início da história humana. Mesmo em sociedades antigas em que a tirania prevalecia, o direito ao santuário resistia inabalável. Havia uma saída em relação ao poder totalitário e essa saída era a entrada para um santuário, fosse ele uma cidade, uma comunidade ou um templo. Na época dos gregos, santuários eram locais sagrados construídos através dos territórios da Grécia Antiga e consagrados como locais de asilo e sacrifício religioso. A palavra grega asylon significa “inexpugnável” e fundamenta a noção de santuário como um espaço inviolável. O direito de asilo sobreviveu até o século XVIII em muitas partes da Europa, vinculados a locais sagrados, igrejas e mosteiros. O desaparecimento do privilégio de santuário não foi um ato de repúdio, mas sim um reflexo da evolução social e da firme implantação do Estado de Direito.
Quarta Emenda. Quando acadêmicos e juristas americanos avaliam as maneiras pelas quais as capacidades digitais desafiam a legislação existente, o foco está na doutrina da Quarta Emenda, pois ela circunscreve a relação entre indivíduos e o Estado. É evidente a importância de as proteções da Quarta Emenda serem atualizadas para o século XXI, protegendo-nos da busca e apropriação da nossa informação de modo que demonstrem as realidades contemporâneas da produção de dados. O problema é que até mesmo a extensão das proteções do Estado não nos defendem do ataque ao santuário elaborado pelo poder instrumentário e posto em prática pelos imperativos econômicos do capitalismo de vigilância.
GDPR da União Europeia. Muitas esperanças de hoje estão cravadas no novo corpo de regulamentação da União Europeia conhecido como GDPR, ou General Data Protection Regulation (Regulamento Geral de Proteção de Dados), que se tornou aplicável em maio de 2018. A abordagem da União Europeia difere fundamentalmente da dos Estados Unidos no sentido que as empresas devem justificar suas atividades de dados dentro da estrutura regulatória do GDPR. As diretrizes introduzem várias novas características básicas substanciais e processuais, inclusive a exigência de notificar os indivíduos quando dados pessoais são violados; uma alta tolerância para a definição de “consentimento” que restringe o quanto uma empresa pode se basear nessa tática para aprovar o uso de dados pessoais; a proibição de tornar pública qualquer informação pessoal como padrão; a exigência de usar a opção de privacidade selecionada ao construir sistemas; o direito ao apagamento de dados; e proteções ampliadas contra decisões tomadas por sistemas automatizados que imponham efeitos “significativos” sobre a vida do indivíduo. A nova estrutura regulatória também impõe multas substanciais para violações, que poderão atingir 4% da receita global da empresa, e permite processos judiciais coletivos, nos quais usuários podem se unir para defender seus direitos de privacidade e de proteção de dados.
Pedido de investigação de Dehaye. Esse tema aparece na odisseia do matemático e ativista em proteção de dados, o belga Paul-Olivier Dehaye, que, em dezembro de 2016, deu entrada num pedido pelos seus dados pessoais coletados por meio dos Públicos Personalizados do Facebook e as ferramentas de pixel de rastreio, que revelariam as páginas da web nas quais o Facebook o havia rastreado. É provável que Dehaye soubesse mais sobre as operações ilícitas de dados da Cambridge Analytics do que qualquer pessoa do mundo, exceto os funcionários e seus idealizadores. O objetivo do belga era fazer uma abordagem investigativa de baixo para cima com o objetivo de revelar os segredos dos meios ilegítimos de modificação de comportamento com objetivos políticos.
Em março de 2018, quinze meses após seu pedido inicial, Dehaye enfim recebeu um e-mail da Equipe de Operações de Privacidade do Facebook. Ele foi notificado que as informações que buscava “não estavam disponíveis por meio de nossas ferramentas de autosserviço”, mas, sim, armazenadas na “Hive” [Colmeia], a “área de armazenamento virtual” do Facebook, onde são retidas para “analítica de dados” e mantidas à parte das “bases de dados que alimentam o site do Facebook”. A companhia insistia que, para ter acesso a esses dados, era preciso superar “enormes desafios técnicos”. “Esses dados”, escreve a empresa, “também não são usados para servir diretamente ao Facebook, ao vivo, como os usuários experimentam”.
Na sua discussão “da vida da lei”, a antropóloga Laura Nader nos lembra de que a lei projeta “possibilidades de empoderamento democrático”, mas que estas são trazidas para a vida real apenas quando os cidadãos contestam de forma ativa a injustiça e usam a legislação como meio para um propósito mais elevado.
Isso nos traz de volta ao GDPR e à questão de seu impacto. A única resposta possível é que tudo vai depender de como as sociedades europeias interpretarão o novo regime regulador na legislação e nos tribunais. Não será a redação dos regulamentos, mas, sim, os movimentos populares locais que irão moldar as interpretações. Um século atrás, trabalhadores se organizavam para ações coletivas e alteraram a balança do poder, e os “usuários” de hoje terão de se mobilizar de novas maneiras que reflitam as nossas exclusivas “condições de existência” do século XXI. Necessitamos de declarações sintéticas que sejam institucionalizadas em novos centros de poder, conhecimento e disputa democrática e que desafiem as assimetrias de conhecimento e poder atuais. O caráter de ação coletiva será necessário se quisermos, enfim, substituir a falta de lei por outras que afirmem o direito ao santuário e o direito ao tempo futuro como essenciais para uma vida humana efetiva.
Só o tempo dirá se o GDPR será um catalisador para uma nova fase de combate capaz de enfrentar e domar um mercado ilegítimo em futuros comportamentais, as operações de dados que o abastecem e a sociedade instrumentária a que elas visam. Na ausência de novas declarações sintéticas, podemos ficar desapontados pela intransigência do status quo. Se o passado serve como prólogo, então as leis de privacidade, coleta de dados e antitruste não serão suficientes para interromper o capitalismo de vigilância. As reflexões diante da pergunta “Como foi que eles conseguiram se safar?”, sugerem que as imensas e intrincadas estruturas do capitalismo de vigilância e seus imperativos exigirão um desafio mais direto.
Conclusão
Se queremos que a democracia seja realimentada nas próximas décadas, cabe a nós reavivar o senso de indignação e perda em relação àquilo que está sendo retirado de nós. E não estou falando apenas da nossa “informação pessoal”. O que está em jogo aqui é a expectativa humana de soberania sobre a própria vida e a autoria da própria existência de cada um. O que está em jogo é o princípio dominante de ordenamento social em uma civilização de informação e os nossos direitos como indivíduos e sociedades de responder às perguntas Quem sabe? Quem decide? Quem decide quem decide?. O fato de o capitalismo de vigilância ter usurpado tantos de nossos direitos nesses domínios é um abuso escandaloso das capacidades digitais e da promessa, que um dia já foi grandiosa, de democratizar o conhecimento e atender às nossas necessidades frustradas de uma vida efetiva. Que haja, sim, um futuro digital, mas que ele seja acima de tudo um futuro humano.
Eu não aceito a inevitabilidade e minha esperança é que você, como resultado desta nossa jornada, também não a aceite. Estamos no início dessa história, não no fim. Se nos envolvermos agora com questões mais antigas, ainda há tempo de tomar as rédeas e redirecionar a ação rumo a um futuro humano que possamos chamar de lar.
Com certeza, a era do capitalismo de vigilância terá o mesmo destino ao nos ensinar como nós não queremos viver. Ela nos instrui sobre o insubstituível valor das nossas maiores realizações morais e políticas ao ameaçar destruí-las. Lembra-nos de que a confiança compartilhada é a única proteção real contra a incerteza. Demonstra que o poder sem o domínio da democracia só pode gerar exílio e desespero. O ciclo da opinião pública e da lei durável de Friedman agora reverte para nós: cabe a nós usar o nosso conhecimento, recuperar nosso sentido de direção, incitar os outros a fazer o mesmo e fundar outro começo. Na conquista da natureza, as vítimas do capitalismo industrial eram mudas. Aqueles que tentarem conquistar a natureza humana verão suas pretendidas vítimas cheias de voz, prontas a dar nome ao perigo e derrotá-lo. Este livro tem a intenção de ser uma contribuição para esse esforço coletivo.
Ficha técnica:
Título: A era do capitalismo de vigilância – A luta por um futuro humano na nova fronteira do poder
Título original: The Age of Surveillance Capitalism
Autora: Shoshana Zuboff
Primeira edição: Editora Intrínseca
Resenha: Rogério H. Jönck
