Como as gigantes da tecnologia e suas máquinas autônomas podem subverter a humanidade e mergulhar o mundo em uma distopia
Ideias centrais:
1 – Tratar a IA como um bem público não impede que a Máfia – G (Titãs dos EUA) lucre e cresça. Mas não tratá-la como bem público indica que não teremos o luxo de debater e analisar a automação no contexto dos direitos humanos e da geopolítica.
2 – Cenário otimista: novos líderes concordam com a viabilização e cooperação de iniciativas e políticas compartilhadas de IA. Inspirados na mitologia grega da mãe Terra, eles idealizam GAIA: Global Alliance on Intelligence Augmentation (Aliança Global para a Expansão da Inteligência).
3 – Cenário pragmático: os modelos e frameworks da IA precisam de muitos dados para aprender, melhorar e ser implementados. Por isso, a parte mais conturbada de um novo sistema de IA não são os algoritmos e modelos, mas a coleta de dados corretos para a máquina treinar e aprender com eles.
4 – Cenário catastrófico: a China desenvolveu uma ASI (superinteligência artificial, na sigla em inglês) com um único propósito: exterminar as populações dos Estados Unidos e de seus aliados. É o fim dos Estados Unidos e da democracia e a ascensão da Dinastia Réngong Zhinéng (IA).
5 – O melhor modo de arquitetar mudanças sistemáticas é materializar a criação da GAIA, o mais rápido possível. E ela deve estar localizada em área próxima a um polo da IA já existente. A melhor localização para a GAIA é Montreal, Canadá.
Sobre a autora:
Amy Webb é uma das principais futuristas dos Estados Unidos, autora do premiado best-seller The Signals Are Talking: Why today’s fringe is tomorrow’s mainstream, no qual explica seu método para prever o futuro. Ela é professora de visão estratégica na NYU Stern School of Business.
Introdução
Aqueles que não estão absortos e não vivem o dia a dia da pesquisa e do desenvolvimento da IA não conseguem enxergar os sinais com clareza, razão pela qual a discussão da opinião pública a respeito da IA gravita em torno de robôs tirânicos a que você assistiu nos filmes recentes. Ou reflete um tipo de otimismo maníaco e desmedido. A carência de nuances é a primeira causa do problema da IA: alguns superestimam radicalmente a aplicabilidade da IA, ao passo que outros defendem que ela se tornará uma arma invencível.
Sei disso porque passei a maior parte da última década fazendo pesquisas sobre inteligência artificial e me reunindo com pessoas e organizações dentro e fora do ecossistema da IA. Aconselhei uma diversidade grande de empresas no epicentro da inteligência artificial, como a Microsoft e a IBM. Conheci e aconselhei as partes interessadas do lado de fora: investidores de risco e gerentes de investimentos privados, líderes do Departamento de Defesa e Departamento de Estado, e muitos legisladores que acham que a regulamentação é o único caminho para seguir. Participei também de diversas reuniões com pesquisadores acadêmicos e tecnólogos que trabalham diretamente na linha de frente. É raro aqueles que trabalham diretamente com a IA compartilharem visões apocalípticas extremas ou utópicas do futuro que costumamos ouvir nos jornais.
Nos Estados Unidos, sofremos de uma trágica carência de previsão. Temos uma mentalidade imediatista, de “nowist”, planejando para os próximos anos de nossas vidas mais do que qualquer outro período de tempo. A mentalidade nowist defende as conquistas tecnológicas de curto prazo, mas nos isenta de assumir a responsabilidade de como a tecnologia pode evoluir e das repercussões e consequências de nossas próximas ações. Nós facilmente esquecemos que o que fazemos no presente pode ter consequências sérias no futuro. É de se admirar, portanto, que o governo tenha terceirizado o desenvolvimento futuro da IA para seis empresas da capital aberto, cujas realizações são notáveis, mas cujos interesses financeiros nem sempre se alinham com o que é melhor para nossas liberdades individuais, nossas comunidades, nossos interesses e ideais democráticos.
Enquanto isso, na China, a rota de desenvolvimento da IA está presa às grandes ambições do governo, que rapidamente constrói os alicerces para se tornar a supremacia incontestável de IA do mundo. Em julho de 2017, o governo chinês revelou seu plano de desenvolvimento de inteligência artificial para a próxima geração com o intuito de se tornar o líder global em IA até 2030, com uma indústria nacional no valor de, pelo menos, US$150 bilhões – plano que envolve a aplicação de parte de seu fundo de natureza contábil e financeira para novos laboratórios e startups, bem como o lançamento de novas escolas especificamente para treinar a próxima geração de talentos em IA da China.
Nós, seres humanos, estamos rapidamente perdendo nossa consciência, assim como as máquinas estão despertando. Começamos a superar alguns marcos fundamentais no desenvolvimento técnico e geopolítico da IA. Mas, a cada novo avanço, a IA se torna mais invisível para nós. Os meios pelos quais nossos dados são extraídos e refinados ficam cada vez menos evidentes, enquanto nossa capacidade de entender como os sistemas autônomos tomam decisões fica cada vez menos transparente. Temos, portanto, um abismo no tocante à compreensão de como a IA está impactando a vida cotidiana no presente, já que ela cresce exponencialmente à medida que avançamos anos e décadas para o futuro. Diminuir esse abismo ao máximo possível , por meio de uma crítica a respeito das rotas que a IA trilha atualmente, é a missão deste livro.
Parte I – Máquinas assombradas
Capítulo 1 – Mente e máquina: uma breve história da IA
Em 1955, os docentes Marvin Minsky (matemática e neurologia) e John McCarthy (matemática), junto com Claude Shannon (matemático e criptógrafo da Bell Labs) e Nathaniel Rochester (cientista da computação da IBM), propuseram um seminário de dois meses a fim de explorar o trabalho de Turing e a promessa de aprendizado de máquina. A teoria deles: caso fosse possível descrever cada característica da inteligência humana, logo se poderia ensinar uma máquina a simulá-la. Mas isso exigirá um grupo amplo e diversificado de especialistas em muitos campos diferentes. Eles acreditavam que um avanço substancial poderia ser feito caso reunissem um grupo interdisciplinar de pesquisadores que trabalhassem arduamente, sem interrupções, durante o verão. A organização do grupo era de suma importância.
Fora Hinton, um professor da Universidade de Toronto, que imaginou um novo tipo de rede neural, uma rede composta de múltiplas camadas que extrairiam informações diferentes até reconhecerem o que procuravam. A única maneira de coletar esse tipo de conhecimento em um sistema de inteligência artificial, pensou ele, era desenvolver algoritmos de aprendizagem que permitissem que os computadores aprendessem sozinhos. Em vez de ensiná-los a realizar bem uma única tarefa restritiva, as redes seriam construídas para treinarem a si próprias.
Essas novas redes “profundas” (DNNs) exigiriam um tipo de aprendizado de máquina mais avançado – “aprendizado profundo” – para ensinar os computadores a realizar tarefas semelhantes às humanas, porém com menos (ou até sem) supervisão humana. Uma vantagem imediata: a escalabilidade. Em uma rede neural, alguns neurônios fazem algumas escolhas – mas o número de escolhas possíveis pode aumentar exponencialmente com mais camadas. Em outras palavras: os humanos aprendem individualmente, mas a humanidade aprende coletivamente. Imagine uma grande rede neural profunda, aprendendo como um todo unificado – com a possibilidade de aumentar a velocidade, a eficiência e a economia de custos ao longo do tempo.
Em janeiro de 2014, o Google havia começado a investir de forma massiva em IA, mais de US$ 500 milhões para adquirir uma startup de aprendizado de máquina profundo chamada DeepMind e seus três fundadores: o neurocientista Demis Hassabis; a ex-criança prodígio de xadrez Shane Legg, pesquisador de aprendizado de máquina, e o empresário Mustafa Suleyman. Parte do atrativo da equipe: eles desenvolveriam um programa AlphaGo.
O AlphaGo – um programa de IA – havia vencido Fan Hui, um jogador profissional de Go 5-0. E venceu analisando menos posições do que o Deep Blue da IBM por várias ordens de grandeza. Quando o AlphaGo venceu um ser humano, ele não sabia que estava jogando, o que significa um jogo ou por que os humanos gostam de jogar.
A primeira versão do AlphaGo exigia que os humanos participassem do jogo e um conjunto de dados de 100 mil jogos para aprender a jogar. A próxima geração do sistema fora construída para aprender da estaca zero. Assim como um jogador humano iniciante no jogo, esta versão – chamada AphaGo Zero – teria que aprender tudo do zero, totalmente por conta própria, sem uma biblioteca disponível de jogadas ou mesmo uma definição do que as peças faziam. O sistema não apenas tomaria decisões – que eram o resultado proveniente de cálculos e poderia ser explicitamente programado – como efetuaria escolhas que tinham a ver com a capacidade crítica. Isso significava que os arquitetos do DeepMind utilizavam uma enorme quantidade de processamento, mesmo que não percebessem. A partir deste processamento, o Zero aprenderia as condições, valores e motivações para tomar suas decisões e escolher durante o jogo.
Zero competiu contra ele mesmo, aprimorando e ajustando seus processos de camada de decisão sozinho. Cada jogo começava com algumas jogadas aleatórias, e, a partir de cada vitória, Zero atualizava seus sistema e depois jogava novamente, otimizando o que aprendeu. Foram necessárias somente 70 horas de jogo para Zero ganhar o mesmo nível de dinamismo que o AlphaGo tinha quando derrotou os melhores jogadores do mundo.
Capítulo 2 – O mundo isolado das tribos de IA
O que as tribos de IA estão fazendo? Elas estão desenvolvendo sistemas de inteligência artificial estreita (ANI – Artificial Narrow Intelligence) capazes de realizar uma tarefa específica no mesmo nível ou melhor do que nós, humanos. As aplicações comerciais da ANI – e, consequentemente, da tribo – já estão tomando decisões em nosso nome a partir de nossas caixas de entrada de e-mail, quando pesquisamos coisas na internet, tiramos fotos com nossos telefones, dirigimos nossos carros e solicitamos cartões de crédito ou empréstimos. As tribos também estão construindo o que está por vir: sistemas de inteligência geral (AGI – Artificial General Intelligence), que realizarão tarefas cognitivas generalizadas, pois são máquinas projetadas para pensar como nós. Todavia, quem, exatamente, é o “nós” a partir do qual esses sistemas de IA se alimentam? Quais valores, ideais e perspectivas de mundo estão sendo ensinados a esses sistemas?
Na América do Norte, a ênfase dentro das universidades concentrou-se nas habilidades técnicas – como no domínio das linguagens de programação R e Python, know-how em processamento de linguagem natural e estatística aplicada, assim como orientação à visão computacional, biologia computacional e teoria dos jogos. Não é bem visto ter aulas fora da tribo, como um curso sobre filosofia da mente, mulheres muçulmanas na literatura ou colonialismo. Se estamos tentando construir máquinas pensantes capazes de pensar como os seres humanos, aparentemente é um contrassenso excluir o aprendizado sobre a condição humana. Neste momento, cursos como esses são deliberadamente deixados de fora do conteúdo programático, e é difícil que eles tenham espaço como cursos opcionais fora deste conteúdo.
Os nove titãs da IA são parceiros destas universidades, que, por sua vez, dependem de seus recursos e financiamento. Contudo, me parece um bom momento para fazer perguntas sobre “quem está no comando?”; e isso deve ser questionado e discutido nos limites seguros de uma sala de aula, antes que os alunos se tornem membros de equipes que são constantemente postas à margem pelos prazos de produtos e metas de faturamento.
O Baidu, o Alibaba e a Tencent, conhecidos coletivamente como BAT, são a parte chinesa dos grandes titãs da IA. A tribo da IA que opera sob a égide da República Popular da China obedece a diferentes regras e rituais, entre eles o financiamento governamental substancial, a fiscalização e as políticas industriais designadas a impulsionar o BAT.
A fatia norte-americana dos nove titãs – Google, Microsoft, Amazon, Facebook, IBM e Apple – é criativa, inovadora e responsável pelos maiores progressos da IA. Eles funcionam como uma máfia no sentido mais puro da palavra (e não pejorativo): trata-se de uma super-rede fechada de pessoas com interesses e origens semelhantes trabalhando em um campo que tem uma influência controladora sobre nossos futuros. Essas empresas norte-americanas serão referidas como a Máfia-G.
O modelo de consumismo norte-americano da IA não é de todo maligno. Nem o modelo centralizado pelo governo da China. A própria IA não é necessariamente prejudicial à sociedade. No entanto, a Máfia-G é composta de empresas de capital aberto, com fins lucrativos, que precisam responder a Wall Street, independentemente das intenções altruístas de seus líderes e funcionários. Na China, a tribo BAT está em dívida com o governo chinês, que já decidiu o que é melhor para os chineses. O que quero saber – e o que você deveria exigir uma resposta – é: o que é melhor para toda a humanidade? Conforme a IA amadurece, como as decisões que tomamos hoje se refletem nas decisões que as máquinas tomarão em nosso nome futuramente?
Capítulo 3 – Cortes de folhas de papel: as consequências indesejadas das IAs
Você já se perguntou por que o sistema de inteligência não é mais transparente? Já pensou em quais conjuntos de dados estão sendo usados – incluindo seus próprios dados pessoais – a fim de ajudar a IA a aprender? Em quais circunstâncias a IA está sendo ensinada a abrir exceções? Como os criadores equilibram a comercialização da IA com os desejos humanos básicos, como privacidade, segurança, sentimento de pertencimento, autoestima e autorrealização? Quais seriam os imperativos morais da tribo de IA? Qual seria sua noção de certo e errado? Eles estão ensinando a empatia à IA? (A propósito, tentar ensinar empatia humana à IA seria uma pretensão útil e nobre?)
Um algoritmo e um sistema automatizado selecionaram quatro pessoas para desembarcarem do avião, incluindo o Dr. David Dao e sua esposa, que também é médica. Ele chamou a atendente da companhia aérea, explicando que tinha pacientes para atender no dia seguinte. Enquanto os outros passageiros obedeciam, Dao se recusou a desembarcar. Oficiais do Departamento de Aviação de Chicago ameaçaram Dao de prisão se ele não desembarcasse. Sem dúvidas, você deve estar a par do que aconteceu depois, porque o vídeo do incidente viralizou no Facebook, Youtube e Twitter e foi transmitido durante dias em jornais ao redor do mundo. Os oficiais agarraram os braços de Dao e o removeram à força de seu assento, bateram-lhe contra o braço da poltrona, quebrando seus óculos e cortando sua boca. O incidente foi traumático. Como se explica? O procedimento de embarque na maioria das companhias aéreas do mundo, incluindo a United, é automatizado. São algoritmos que classificam os passageiros por grupo e número. O sistema da United, decidiu que não havia assentos o bastante. Calculou uma compensação para quem fosse sorteado com o não embarque. Caso um passageiro não obedecesse, o sistema recomendava que se acionasse a segurança do aeroporto. Ou seja, o algoritmo não vê o contexto de uma decisão. E não tem noção de absurdo.
Sabendo que não podemos formular um conjunto de mandamentos rígidos a seguir, devemos, em vez disso, focar nossa atenção nos humanos que desenvolvem esses sistemas? Essas pessoas – as tribos de IA – deveriam se fazer perguntas desconfortáveis:
- Qual é a nossa motivação para a IA? Ela está alinhada com os interesses da humanidade em longo prazo?
- Quais direitos fundamentais devemos estabelecer para interrogar os conjuntos de dados, algoritmos e processos que são utilizados para tomar decisões em nosso nome?
- Devemos continuar a comparar a IA ao pensamento humano ou é melhor categorizá-la como algo diferente?
- Existe algum problema em arquitetar uma IA que reconheça e responda à emoção humana?
PARTE II – Nossos Futuros
Capítulo 4 – Dos dias atuais à superinteligência artificial: os sinais dos tempos
Ao passo que muitas pessoas inteligentes defendem a IA para o bem público, ainda não estamos discutindo inteligência artificial como bem público. Isso é um erro. Atualmente, estamos no prelúdio da evolução moderna da IA e não podemos continuar a pensar nela como uma plataforma construída pelos nove titãs da IA para o e-commerce, as comunicações e aplicativos bacanas. Deixar de considerar a IA como um bem público – coisa que fazemos com o ar que respiramos – ocasionará problemas graves e intransponíveis. Tratar a IA como um bem público não impede que a Máfia-G lucre e cresça. Significa simplesmente mudar nosso pensamento e expectativas. Mais dia, menos dia, não teremos o luxo de debater e analisar a automação dentro do contexto dos direitos humanos e da geopolítica, porque a IA será bastante complexa para nos livrarmos de suas amarras e moldá-la em algo que preferimos.
Com a IA, qualquer pessoa pode desenvolver um produto novo ou serviço, mas não pode implementá-lo facilmente sem a ajuda da Máfia–G. As pessoas devem usar o TensorFlow do Google, os muitos algoritmos de reconhecimento da Amazon, o Azure da Microsoft para hospedagem, a tecnologia de chip da IBM ou qualquer um dos outros frameworks, ferramentas e serviços de IA que fazem o ecossistema circular. Na prática, o futuro da IA não é ditado pelos termos de um verdadeiro “livre” mercado nos Estados Unidos. Como o futuro ainda não aconteceu, não podemos saber com certeza todos os resultados possíveis de nossas ações no presente. Assim sendo, os cenários apresentados nos próximos capítulos são escritos usando diferentes contextos emocionantes que descrevem os próximos 50 anos. O primeiro trata de um cenário otimista perguntando o que aconteceria se os Nove Titãs da IA decidissem promover mudanças radicais a fim de garantir que a IA beneficie todos nós. Há uma diferença importante a ser observada: os cenários “otimistas” não são necessariamente prósperos ou positivos. Nem sempre levam à utopia. Em um cenário otimista, estamos supondo que as melhores decisões possíveis são tomadas e que quaisquer obstáculos ao sucesso são superados.
O segundo é um cenário pragmático descrevendo como o futuro seria, caso os titãs da IA realizassem apenas melhorias insignificantes em curto prazo. Partimos do princípio que, embora todos os principais envolvidos reconheçam que a IA provavelmente não está no rumo certo, não existe colaboração para criar uma mudança significativa e duradoura. Algumas universidades introduzem aulas obrigatórias de ética: a Máfia–G firma parcerias industriais para combater o risco, todavia não avança em relação às culturas de suas próprias empresas; nossas autoridades eleitas se concentram em seus próximos ciclos eleitorais e desdenham os grandes planos da China. Um cenário pragmático não espera por grandes mudanças – ele reconhece a realidade em mutação de nossos impulsos humanos para melhorar. Identifica também que, nos negócios e no governo, os líderes são propensos a dar pouca atenção ao futuro em proveito de ganhos imediatos em curto prazo.
Por fim, o cenário catastrófico explica o que acontece se todos os sinais forem deixados de lado e se os sinais dos tempos forem ignorados: não conseguiremos planejar o futuro de modo ativo e os nove titãs da IA continuarão a competir entre si. Se escolhermos dobrar a aposta do status quo, onde isso nos levaria? O que acontece caso a IA continue a trilhar os percursos existentes nos Estados Unidos e na China? Promover uma linha sistemática – exigida pelo cenário catastrófico – é um trabalho penoso e moroso que não termina em uma linha de chegada. Isso faz com que o cenário catastrófico seja extremamente aterrorizante e suas especificidades são perturbadoras. Porque, ao que tudo indica, neste momento, o cenário catastrófico é aquele destinado a se concretizar.
Capítulo 5 – Prosperando na terceira era da computação: o cenário otimista
Nem a IA, tampouco seu financiamento, é politizada; todos concordam que regulamentar a Máfia–G e a IA não é a medida adequada a se tomar. Regulamentos pesados e irrevogáveis estariam desatualizados no momento em que entrassem em vigor; eles impediriam o florescimento da inovação e seriam difíceis de se colocar em prática. Com apoio bipartidário, os norte-americanos se unem em favor do aumento dos investimentos federais da IA em todo o mundo, usando o programa público da China como inspiração. O financiamento circula para pesquisa e desenvolvimento para os estudos de impacto econômico e de mão de obra, para estudos de impacto social, para programas de diversidade, para iniciativas médicas e de saúde pública e infraestrutura, com o intuito de que a educação pública dos EUA recobre sua antiga glória, com salários vantajosos para professores e um conteúdo programático que prepare as pessoas a um futuro automatizado. Paramos com suposições de que a Máfia–G pode servir igualmente seus mestres de Washington e de Wall Street, e que mercados livres e nosso espírito empresarial produzirão os melhores resultados possíveis para a IA e para a humanidade.
Ao contrário do grupo homogêneo de homens de campos similares que faziam parte do primeiro seminário de Dartmouth, desta vez os líderes e especialistas integram um amplo leque de pessoas e mundividência. Ao permanecer no mesmo terreno sagrado em que a inteligência artificial moderna nasceu, esses líderes concordam com a viabilização e cooperação de iniciativas e políticas compartilhadas de IA. Inspirando-se na mitologia grega e na figura ancestral da mãe Terra, eles idealizam GAIA: Global Alliance on Intelligence Augmentation (Aliança Global para a Expansão da Inteligência).
2029: Processo de nudging satisfatório
Com a colaboração entre a Máfia–G e a GAIA resultando em muitos novos acordos comerciais, os cidadãos ao redor do globo têm acesso melhor e mais barato a produtos e serviços com tecnologia ANI. A aliança GAIA se reúne periodicamente, prezando pela transparência do seu trabalho, ao passo que seus grupos de trabalho multinacionais acompanham satisfatoriamente o ritmo do avanço tecnológico.
2049: Os Rollings Stones já morreram (mas continuam compondo músicas novas)
Em meados de 2030, pesquisadores que trabalham diretamente na Máfia–G publicaram um artigo interessante, tanto devido ao que se revelou sobre a IA quanto de como o trabalho fora concluído. Trabalhando a partir do mesmo conjunto de padrões e amparados com fundos (e paciência) generosos pelo governo federal, os pesquisadores colaboraram com o avanço da IA. Como resultado, o primeiro sistema de alcance da inteligência geral artificial foi desenvolvido.
2069: Guardiões da galáxia alimentados pela IA
Em breve, GAIA implementará uma série de IAs guardiãs que funcionarão como um sistema de alerta antecipado para qualquer AGI que tenha adquirido muito poder cognitivo. Ainda que as guardiãs não necessariamente impeçam que uma pessoa desonesta tente criar ASIs por conta própria, GAIA está desenvolvendo cenários com o intuito de se preparar para essa eventualidade. Colocamos nossa estima e confiança inabaláveis em GAIA e nos nove titãs da IA.
Capítulo 6 – Aprendendo a viver com os cortes de papel: o cenário pragmático
Os modelos e frameworks da IA, independentemente de serem grandes ou pequenos, precisam de muitos dados para aprender, melhorar e ser implementados. Os dados são semelhantes aos oceanos de nosso mundo. Eles nos envolvem, são recursos inesgotáveis e não têm qualquer utilidade para nós, a menos que sejam dessalinizados, tratados e processados para consumo. No momento, existem somente algumas empresas que podem efetivamente dessalinizar os dados em uma escala definitiva. Por conta disso, a parte mais conturbada da construção de um novo sistema de IA não são algoritmos ou os modelos, mas a coleta dos dados corretos e a catalogação adequada para que uma máquina possa começar a treinar e aprender com eles. No tocante aos muitos produtos e serviços que os nove titãs da IA estão trabalhando exaustivamente para construir, existem poucos conjuntos de dados prontos para serem usados.
2029: O desamparo aprendido
Os dois sistemas operacionais provocaram uma concorrência acirrada entre os membros das tribos da IA que não planejaram com antecedência frente aos problemas gigantescos de interoperabilidade. Acontece que, a despeito do hardware, nos dois sistemas operacionais, as pessoas não são interoperáveis. A transitoriedade que já fora característica do Vale do Silício – engenheiros, gerentes de operações e designers experientes costumam pular de empresa para empresa sem qualquer senso real de comprometimento – há muito desapareceu. Em vez de nos aproximar, a IA nos separou de modo efetivo e eficiente. É uma questão dolorosa também para os Estados Unidos, que por sua vez foi forçado a escolher um framework (como a maioria dos outros governos, os Estados Unidos adotaram a Applezon [junção de Apple e Amazon] em vez do Google, porque a Applezon oferecia preços mais em conta e incluía material de escritório com desconto).
Ao redor do globo, estão falando sobre o “desamparo aprendido” na era da IA nos EUA. Não conseguimos fazer nada sem nossos sistemas automatizados, que constantemente nos incentivam com feedbacks positivos ou negativos. Tentamos culpar os nove titãs da IA, mas, na verdade, somos os únicos culpados.
2049: E agora eram cinco
Os norte-americanos estão aprendendo a viver com níveis baixos, mas constantes, de ansiedade. Nos Estados Unidos, o sentimento nacional de inquietação é reiteradamente comparado às ameaças de guerra nuclear nas décadas de 1960 e 1980. Só que, desta vez, os norte-americanos não têm certeza do que exatamente têm medo. Eles não sabem se seus PDRs (Registro de Dados Pessoais) são protegidos ou a quais dados pessoais a China pode ter acesso. Não se tem certeza de como os hackers do governo chinês estão profundamente infiltrados nos sistemas de infraestrutura dos EUA. Frequentemente, as pessoas acordam tarde da noite imaginando o que a China sabe a respeito delas, o caminho que pegam para o trabalho, as linhas de gás que alimentam suas casas e o que estão planejando com toda esta informação.
2069: Estados Unidos digitalmente ocupados
Percebemos que a China, de fato, desenvolveu uma geração de AGIs com capacidades jamais vistas. Sem as AGIs para vigiar as AGIs desonestas, a China foi capaz de desenvolver e implementar um sistema aterrorizante para controlar a maioria da população na Terra. Se não cumprirmos as exigências dos chineses, ficaremos sem sistemas de comunicação. Caso não disponibilizemos acesso ao nosso canal de dados aberto ao Partido Comunista Chinês, ele paralisará toda a nossa infraestrutura, como centrais elétricas e controle de tráfego aéreo.
Capítulo 7 – A dinastia Réngong Zhinéng: o cenário catastrófico
Os líderes do governo dos EUA não dedicam tempo bastante para se instruir sobre o que é a IA, o que não é e por que ela é importante. Além das conversas de sempre a respeito de como a IA prejudica a produtividade e o emprego, as pessoas em Washington não fazem absolutamente nenhuma tentativa de envolver a Máfia–G em discussões sérias sobre outras questões prementes relacionadas à IA, como segurança nacional, equilíbrio geopolítico, riscos e oportunidades para a inteligência artificial de uso geral, ou a interseção da IA em outros campos (como genômica, agricultura e educação).
2029: Bloqueio digital externo e interno
Como a interoperabilidade ainda é um ponto fraco no ecossistema de inteligência artificial do Ocidente, até 2035, estipulamos de fato um sistema de segregação. Nossos dispositivos estão conectados ao Google, à Apple ou à Amazon, e por isso costumamos comprar somente os produtos e serviços oferecidos por uma dessas três empresas. Como os dados em nossos PDRs hereditários são de propriedade e gerenciados por uma dessas empresas – que também nos venderam todas as coisas em nossas casas com a tecnologia de inteligência artificial -, somos famílias do Google, da Apple ou da Amazon. Uma designação acompanhada de preconceitos involuntários.
2049 : Fronteiras biométricas e abortos por nanobots
Agora, a Máfia–D é formada pela GAA: Google, Apple e Amazon. O Facebook foi o primeiro a declarar falência, e os remanescentes da Microsoft e da IBM foram adquiridos pelo Google.
É o centenário da Revolução Comunista chinesa e do discurso de Mao Tsé-Tung da República Popular da China (RPC). Planejam-se celebrações com o intuito de homenagear o falecido Xi Jinping e a ascensão do que está sendo chamado de dinastia Réngong Zhinéng (IA).
As leis dos países GAA foram anuladas quando as AGIs melhoraram e criaram o tipo de funcionalidade que determina quem entre nós vive ou morre. Mas isso não tem nenhuma serventia. Proibir os nanobots implicaria no retorno à prática normal da medicina. E já não temos grandes empresas farmacêuticas fabricando todos os medicamentos de que precisamos. Mesmo as projeções mais otimistas demonstram que fazer com que nossos antigos sistemas de saúde voltem a funcionar levaria uma década ou mais – e, enquanto isso, milhões de pessoas sofreriam muito com uma grande variedade de doenças.
2069: Extermínio digital
A China desenvolveu uma ASI que tem apenas um propósito: exterminar as populações dos Estados Unidos e de seus aliados. Um dos países da China precisa do que resta dos recursos da Terra, e Pequim calculou que a única forma de sobreviver é tirar esses recursos dos Estados Unidos.
Você testemunhou uma coisa muito pior do que qualquer bomba já criada. Bombas são instantâneas e rápidas. O extermínio pela IA é lento e incontrolável. Você se sente impotente enquanto os corpos de seus filhos perdem a força vital em seus braços. Você assiste aos seus colegas de trabalho terem um colapso em suas mesas. Você sente uma dor aguda. Você está tonto. Você tenta dar seu último suspiro.
É o fim dos Estados Unidos.
É o fim dos aliados dos Estados Unidos.
É o fim da democracia.
É o início da ascensão da dinastia Réngong Zhinéng. Ela é desumana, irrevogável e absoluta.
PARTE III – Resolvendo os problemas
Capítulo 8 – Pedras e pedregulhos: como resolver o futuro da IA
A IA pode nos delegar poderes para desvendar e responder aos maiores mistérios da humanidade. Por exemplo: onde e como a vida se originou. E, no processo, pode nos fascinar e entreter, criando mundos virtuais nunca antes imaginados, compondo músicas que nos inspiram e possibilitando novas experiências divertidas e gratificantes. Porém, nada disso acontecerá sem planejamento e sem o comprometimento com o trabalho árduo e liderança corajosa dentro de todos os grupos das partes interessadas da IA.
O melhor modo de arquitetar mudanças sistemáticas é materializar a criação da GAIA o mais rápido possível, e ela deve estar fisicamente localizada em uma área neutra próxima a um polo de IA já existente. A melhor localização para GAIA é Montreal, Canadá. Em primeiro lugar, Montreal é o lar e uma concentração de pesquisadores e laboratórios de aprendizado profundo. Se assumirmos que a transição da ANI para AGI englobará o aprendizado profundo e as redes neurais profundas, logo GAIA deve estar sediada no local onde está ocorrendo grande parte do trabalho da próxima geração. Em segundo lugar, sob a administração do primeiro-ministro Justin Trudeau, o governo canadense já comprometeu pessoas e fundos com o intuito de explorar o futuro da IA. Em terceiro lugar, o Canadá é um território geopolítico neutro para a IA – está longe do Vale do Silício e de Pequim.
GAIA deve considerar um sistema de direitos que equilibre as liberdades individuais com o bem maior e global:
- A humanidade deve estar sempre no centro do desenvolvimento da IA.
- Os sistemas de IA devem ser confiáveis e seguros. Deveríamos conseguir analisar sua segurança e proteção de forma independente.
- Os nove titãs da IA – incluindo seus investidores, funcionários e governos com quem trabalham – devem priorizar a segurança acima da velocidade. Qualquer equipe que trabalhe em um sistema de IA – mesmo aquelas que não fazem parte dos nove titãs – não pode reduzir os custos em benefício da velocidade. A segurança precisa ser facilmente demonstrável e visível às pessoas de fora.
- Se um sistema de IA provocar danos, ele deve ser capaz de relatar o que deu errado e deve existir um processo de governança para analisar e mitigar os danos.
- Na medida do possível, os PDRs devem ser protegidos contra sua capacidade de possibilitar regimes totalitários.
Os nove titãs da IA devem desenvolver um processo para avaliar as implicações éticas da pesquisa, fluxos de trabalho, projetos, parcerias e produtos, e esse processo deve estar entrelaçado à maioria das funções de trabalho nas empresas. Como um sinal de confiança, os nove titãs devem divulgar esse processo para que todos possamos entender melhor como as decisões são tomadas com relação aos nossos dados.
De forma colaborativa ou individual, os nove titãs devem elaborar um código de conduta especificamente para seus funcionários de IA. Devem refletir a respeito dos direitos humanos fundamentais descritos pela aliança GAIA, mas também devem ponderar sobre a cultura única da empresa e sobre os valores corporativos. E, na hipótese de alguém violar esse código, um canal de denúncia claro e seguro deve estar disponível aos membros da equipe.
Resenha: Rogério H. Jönck
Imagens: reprodução e unsplash
Ficha técnica:
Título: Os nove titãs da IA – Como as gigantes da tecnologia e suas máquinas pensantes podem subverter a humanidade
Título original: The Big Nine
Autora: Amy Webb
Primeira edição: Alta Books
