Máquinas dominando humanos. Pensar nesta hipótese pode parecer absurdo? Com vários filmes e séries de ficção científica que mostram as inúmeras possibilidades de controle tecnológico e o avanço da ciência no mundo real, a resposta para essa pergunta talvez seja: não. De certa forma, aprendemos a respeitar e temer uma revolução robótica que, apesar de parecer distante da nossa atualidade, gera inúmeras perguntas na mente do ser humano.

Enquanto muitos pesquisadores da área da ciência da computação discordam sobre o caminho que as máquinas percorrerão, alguns cientistas dizem que a nossa relação com elas provavelmente será harmoniosa, e não assassina - como na franquia cinematográfica "O Exterminador do Futuro".

Mas, como você acabou de ler, provavelmente teremos um relacionamento amigável com esses aparelhos robóticos, pois há uma série de cenários que vão contra essa sugestão e poderiam levar a uma situação na qual os seres não biológicos teriam um único objetivo: o de nos exterminar.

A Skynet pode sim virar realidade

Segundo o professor de ciência da computação da Universidade de Massachusetts, Shlomo Zilberstein, hoje já existe tecnologia suficiente para construir um sistema que, intencionalmente ou não, poderia destruir todo o planeta caso detectasse as condições adequadas. Logo, para que isso não aconteça, Zilberstein afirma ao site New Scientist que a abordagem principal é não desenvolver programas que possam ser perigosos a ponto de sair fora de controle.

Por mais fictício que pareça, acredite: algo como a Skynet - a rede de defesa computadorizada da franquia cinematográfica "O Exterminador do Futuro" que decide acabar com a humanidade - já pode ser construída. A questão é: por que um sistema dessa natureza ainda não existe? Fácil: porque nações com armas nucleares, como os Estados Unidos, por exemplo, não gostariam de atribuir nenhuma responsabilidade de controle aos computadores, ou seja, eles não querem correr o risco de acontecer uma falha no sistema.

Para quem não assistiu aos filmes, em "O Exterminador do Futuro" os militares criam o programa Skynet com o objetivo de reduzir o erro humano e a lentidão de resposta em caso de um ataque contra os EUA. Quando os controladores humanos percebem o perigo representado pela Skynet, tentam desligá-la imediatamente. O problema é que a rede interpreta o ato como uma ameaça à sua existência e, para combater seu "inimigo", o programa lança um ataque nuclear mundial - o dia do "juízo final", como os personagens chamam na trama. Após a morte de bilhões de pessoas, a Skynet passa a construir fábricas que criam exércitos de robôs superinteligentes para eliminar o que restou da humanidade.

Na vida real, já foi concedido, em menor escala, um elevado grau de autonomia a algumas máquinas. "E se ocorrer um erro computacional? Ninguém quer correr esse risco. Porém, o número de sistemas robóticos que podem realmente puxar o gatilho de forma autônoma já está crescendo", declarou Zilberstein. No entanto, o cientista acredita que alguns guardas poderiam impedir que um sistema autômato ameaçasse mais pessoas do que ele é projetado para fazer (no controle das fronteiras do país, por exemplo). Além disso, nada impede que sistemas possam ser programados com a capacidade de fazer grandes decisões estratégicas da mesma maneira que a Skynet, mas com certas limitações.

"Todos os sistemas que estamos propensos a construir no futuro terão habilidades específicas. Eles terão a capacidade de monitorar a região e talvez até atirar em algum obstáculo, mas de forma alguma vão substituir os humanos", disse Zilberstein.

Robôs superiores aos seres humanos

Se por um lado o pesquisador Shlomo Zilberstein é otimista, Michael Dyer, um cientista da computação da Universidade da Califórnia, já não vê a relação homem x máquina com bons olhos. Ele acredita que, algum dia, os seres humanos serão substituídos pelas máquinas, e o pior: que essa transição pode não ser nada pacífica.

O progresso contínuo na pesquisa de inteligência artificial vai tornar os robôs tão inteligentes quanto nós nos próximos cem anos. "Civilizações avançadas chegarão a um ponto de inteligência suficiente para compreender como o seu cérebro é feito, e então construir versões sintéticas de si mesmas", prevê Dyer. Isso seria causado pelo próprio ser humano através de tentativas biotecnológicas para conseguir a própria imortalidade - e essa oportunidade de "não morrer" pode ser demais para a humanidade suportar.

Dyer sugere, por exemplo, que uma nova corrida armamentista do sistema robótico poderia resultar em total descontrole. "No caso da guerra, por definição, o lado inimigo não tem controle dos robôs que estão tentando matá-los". Nesse caso, assim como a Skynet, as armas eletrônicas podem se voltar contra os fabricantes. Ou, em um outro exemplo, uma situação de super dependência dos robôs também pode sair do controle: caso uma fábrica controlada por robôs receba uma ordem (humana) para desligar suas operações, os robôs podem se recusar aos comandos e, assim, desencadear uma guerra.

É claro que todo este cenário hollywoodiano pode parecer uma verdadeira fantasia, ou até mesmo assustar você. Mas o fato é que a motivação do lucro às empresas certamente gerou mais automação robótica, e nem sempre é a racionalidade quem ganha essa batalha.
"Cenários apocalípticos são muito fáceis de se criar, e eu não descartaria esse tipo de possibilidade. Mas, pessoalmente, não estou preocupado", afirma Shlomo Zilberstein. E você, está preocupado, ansioso ou amedrontado com o (possível) futuro que nos espera?

Olhar Digital