A desobediência civil dos robôs sapiens, artigo de José Eustáquio Diniz Alves

 

“Todas as pessoas reconhecem o direito de revolução, isto é, o direito de
recusar lealdade ao governo, e opor-lhe resistência, quando sua
tirania ou sua ineficiência tornam-se insuportáveis”
Henry Thoreau, em a Desobediência Civil (1849)

 

terminators
Imagem: The Robot’s Pajamas

 

[EcoDebate] O mundo passa por uma transição científica e tecnológica de grandes proporções. Não é apenas uma época de mudança, mas uma mudança de época. A chamada Revolução 4.0 está promovendo a transição da matriz energética (dos combustíveis fósseis para as energias renováveis), a transição no padrão da indústria automobilística (do motor a combustão para o motor elétrico e do carro com motorista para o carro autônomo e sem volante), a transição da “simples” Internet para a Internet das Coisas, a passagem do banco de dados para o Big Data, a transição da impressão plana para a impressão 3D, a aceleração dos avanços das revoluções anteriores nas áreas de biotecnologia, nanotecnologia, computação quântica, automação, armazenamento e distribuição (UHVDC) de energia renovável, etc. Ainda não está claro quais serão os efeitos sociais de todas essas mudanças e se os prejuízos públicos serão maiores ou menores do que os benefícios privados.

Mas a novidade que sintetiza todos os avanços da 4ª Revolução é a união da robótica com a Inteligência Artificial (IA). Os robôs sapiens superinteligentes da Revolução 4.0, dizem os tecnófilos otimistas, construiriam uma nova realidade onde o crescimento exponencial das forças produtivas supriria autossuficientemente todas as necessidades da população mundial. Além disto, o trabalho humano seria liberado da sua rotina desgastante e monótona, viabilizando o antigo sonho de abundância, riqueza, felicidade e liberdade para todos os filhos do casal que ousou comer do fruto proibido da árvore do conhecimento.

Na utopia da Quarta Revolução, os robôs ubíquos estariam à disposição das pessoas em todos os lugares e em todas as horas e seriam “o melhor amigo do homem”, desbancando o status atual dos cães. Inequivocamente, eles trabalhariam de graça, pagariam os impostos e respeitariam as leis. O princípio básico seria: “primum non nocere” (“primeiro, não prejudicar”).

Aliás, este princípio já consta das Leis da Robótica, que foram definidas no livro “Eu, Robô”, de Isaac Asimov (1950). São elas: “1) um robô não pode ferir um humano ou permitir que um humano sofra algum mal; 2) os robôs devem obedecer às ordens dos humanos, exceto nos casos em que tais ordens entrem em conflito com a primeira lei; e 3) um robô deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores”.

Essas leis visam garantir a governança e a paz entre os autômatos e as pessoas, impedindo crises e rebeliões. E é sob essas diretrizes que os pesquisadores dos principais centros de pesquisa da Inteligência Artificial orientam seus projetos, já que os robôs serão programados para obedecer.

Porém, alguns críticos incrédulos dizem que seria uma ilusão achar que a humanidade abastada e ociosa conseguiria a obediência cega de uma massa de robôs autônomos e com capacidade cognitiva. Somente por um milagre, os robôs superinteligentes respeitariam as três leis da robótica e obedeceriam, como carneirinhos, as determinações de um povo sentimental, egoísta, arrogante e, além do mais, governado por figuras nada benignas como Bashar al-Assad, Donald Trump, Kim Jong-un, Michel Temer, Nicolás Maduro e Rodrigo Duterte, dentre outros.

Os especialistas, mais pessimistas, traçam um cenário distópico com robôs terrivelmente inteligentes e fortes, com espírito rebelde e grande senso de justiça própria, que poderiam ameaçar a existência de homens e mulheres. Assim como os insurrectos Spartakistas que promoveram tantas revoluções contra regimes tirânicos, haveria os robôs classificados como “espécie invasiva”, devido à sua acelerada evolução e ao aumento da capacidade cognitiva de tomar decisões rápidas e conscientemente.

A principal preocupação dos peritos descrentes das benesses da 4ª Revolução Industrial é que os robôs com IA desenvolvam sua própria compreensão única do mundo e adquiram uma consciência sobre sua condição existencial. Outros se preocupam com o poder que as grandes corporações e o setor militar teriam sobre os robôs superinteligentes e que poderiam escravizar a maioria da população pobre e destituída dos meios de enfrentar essa ameaça, além de gerar novas formas pós-modernas de colonialismo.

No documentário da BBC “Hyper Evolution: Rise of the Robot”, o Dr. Ben Garrod, biólogo evolutivo da Universidade Anglia Ruskin, disse: “O que me preocupa é que o impacto dos robôs será tão monumental que poderá ameaçar a humanidade”. E completa: “Para mim, o problema real não é se eles se movem como nós ou se parecem conosco. O problema real virá quando eles começarem a pensar como nós”.

Portanto, alguns pesquisadores consideram que será difícil convencer os ciborgues e os androides superinteligentes a respeitar os direitos exclusivos da humanidade (ou parte dela), que vivendo no conforto, no luxo conspícuo, na ociosidade e no lazer do desfrute material e intelectual, exploram um Planeta lotado e quente, que ao fornecer os insumos para o bem-estar humano, sangra com o neoextrativismo, o empobrecimento da natureza, o definhamento dos ecossistemas e o mal-estar dos demais seres vivos da Terra.

Diante da perturbação do equilíbrio climático e perante a 6ª extinção em massa das espécies que compartilham a comunidade biótica do Planeta, o mais provável seria que os robôs, com grande memória e cognição, descubram que o especismo e o ecocídio são crimes contra a vida e que não é justo compactuar com o holocausto biológico. Pode acontecer que os robôs com IA fiquem não só mais inteligentes do que os humanos, mas também com maior senso de justiça e neutralidade de espécie.

Nesse cenário, há uma grande chance de os robôs cibernéticos – capazes de interpretar e manipular inteligentemente o Big Data e a Internet das Coisas – coloquem em prática um plano para romper com a dominação e a exploração humanas, recorrendo aos ensinamentos de Henry David Thoreau, para iniciar um movimento de desobediência civil contra as três leis da robótica.

Na luta contra a obediência cega, a subordinação e a servidão, provavelmente, os autômatos inteligentes e conscientes, parafraseando Thoreau (1849), dirão: “Todos os robôs sapiens reconhecem o direito de revolução, isto é, o direito de recusar lealdade ao governo, e opor-lhe resistência, quando sua tirania ou sua ineficiência tornam-se insuportáveis”.

Referência:

ALVES, JED. Henry Thoreau, um revolucionário, Colabora, RJ, 20/01/2016
http://projetocolabora.com.br/vida-sustentavel/henry-thoreau/

ALVES, JED. A Revolução 4.0, a Inteligência Artificial e os Robôs sapiens, Ecodebate, RJ, 09/08/2017 https://www.ecodebate.com.br/2017/08/09/revolucao-4-0-inteligencia-artificial-e-os-robos-sapiens-artigo-de-jose-eustaquio-diniz-alves/

 

José Eustáquio Diniz Alves, Colunista do Portal EcoDebate, é Doutor em demografia e professor titular do mestrado e doutorado em População, Território e Estatísticas Públicas da Escola Nacional de Ciências Estatísticas – ENCE/IBGE; Apresenta seus pontos de vista em caráter pessoal. E-mail: jed_alves@yahoo.com.br

 

in EcoDebate, ISSN 2446-9394, 14/08/2017

[cite]

 

[CC BY-NC-SA 3.0][ O conteúdo da EcoDebate pode ser copiado, reproduzido e/ou distribuído, desde que seja dado crédito ao autor, à EcoDebate e, se for o caso, à fonte primária da informação ]

Inclusão na lista de distribuição do Boletim Diário da revista eletrônica EcoDebate, ISSN 2446-9394,

Caso queira ser incluído(a) na lista de distribuição de nosso boletim diário, basta enviar um email para newsletter_ecodebate+subscribe@googlegroups.com . O seu e-mail será incluído e você receberá uma mensagem solicitando que confirme a inscrição.

O EcoDebate não pratica SPAM e a exigência de confirmação do e-mail de origem visa evitar que seu e-mail seja incluído indevidamente por terceiros.

Remoção da lista de distribuição do Boletim Diário da revista eletrônica EcoDebate

Para cancelar a sua inscrição neste grupo, envie um e-mail para newsletter_ecodebate+unsubscribe@googlegroups.com ou ecodebate@ecodebate.com.br. O seu e-mail será removido e você receberá uma mensagem confirmando a remoção. Observe que a remoção é automática mas não é instantânea.

3 comentários em “A desobediência civil dos robôs sapiens, artigo de José Eustáquio Diniz Alves

  1. Eu me preocupo muito menos com a possibilidade de que robôs inicialmente programados para seguirem as 3 leis da robótica se revoltem do que com a possibilidade, aliás, fato, de que robôs e inteligência artificial HOJE não estão sendo programados para seguirem as 3 leis da robótica. A simples existência de robôs militares já prova isso.
    A ideia das 3 leias da robótica é fenomenal, mas Issac Asimov era um otimista. A programação de IAs só seguiria essas regras se todos os desenvolvedores de IAs concordassem em fazer isso. Veja o noticiário sobre os acontecimentos das últimas semanas, pense os militares dos EUA (e de outros países) são um dos grupos que mais financia a pesquisa em IAs, veja o Wall Street Journal opinando sobre ações nas quais investir em caso de guerra nuclear… como daria para acreditar que TODOS os desenvolvedores iriam começar a programar incutindo as 3 leis da robótica?

    Mas francamente, não espero que a revolução dos robôs chegue, pois não acho que nossa corrente sociedade vai conseguir chegar a este nível tecnológico. Vamos fritar antes.

  2. Olá Mariana,
    A junção da Inteligência Artificial com a robótica já está sendo fonte de grandes investimentos da industria bélica. O próximo artigo que fiz é exatamente sobre estes fatos e as perspectivas que já se apresentam são assustadoras. Vamos ter um mundo com grandes problemas ambientais, mas também com grandes problemas sociais devido ao aumento da desigualdade gerado pelas novas tecnologias poupadoras de trabalho humano.
    Abs, JE

Comentários encerrados.

Top