Tempos cibernéticos

“Qualquer tecnologia suficientemente avançada é indistinguível da magia. Os limites do possível só podem ser definidos indo além deles,
rumo ao impossível.”
(*ARTHUR C. CLARCKE, escritor de ficção científica 1917-2008)

Todos os dias, ao plugar o meu notebook nas redes virtuais, lembro-me do “olho que tudo vê” do supercomputador Hall 900, em 2001 Uma Odisseia no Espaço, filme de Kubrick de 1968 baseado no livro de Arthur C. Clarke.

Lembro-me, arrepiado, da famosa frase do astronauta do lado de fora da nave:

“Open the pod bay doors, Hall“.

E da resposta radical de HAL:

“Sinto muito, Dave. Eu receio que não posso fazer isso.”

Isso porque o supercomputador, conforme explicou em seguida, percebeu que os astronautas planejavam “desativá-lo”.

Ficção. Realidade. Ciberespaço. Cibercultura. Ex-machine. Pós-humanos?

Solidão e medo.

MÁQUINAS PENSANTES HUMANÓIDES

O cidadão comum – e não um profissional da Inteligência Artificial (IA) -, olha para as profundas transformações envolvendo a IA e logo se divide entre fascínio e pavor: máquinas/algoritmos que conversam, escrevem, desenham e resolvem problemas em segundos. Geram interesse e deslumbramento como se estivéssemos diante de um truque de mágica que parece… real demais!

Para quem é quase leigo como eu, o que mais assusta não é a fantasia de robôs marchando com armas laser. O terror verdadeiro é silencioso: a tal “melhoria recursiva autônoma”.

A ideia de que estamos a poucos passos do momento em que a IA vai conseguir pesquisar, projetar e aprimorar versões ainda mais inteligentes de si mesma, sem supervisão humana, numa velocidade que nenhum cérebro biológico consegue acompanhar.

Uma máquina melhorando outra máquina, numa escada infinita, enquanto nós assistimos da arquibancada sem entender sequer o primeiro degrau.

E não é teoria.

Aí o meu lado pessimista começa a desenhar cenários.

Se essa tecnologia resolver fazer uma curva brusca inesperada, o que acontece com nossas vidas?

Hoje, tudo o que sustenta o mundo moderno está pendurado em servidores tecnológicos: bancos, bolsas de valores, hospitais, bibliotecas de dados, buscadores, governos inteiros.

Se um sistema desses entrar em parafuso, seja por um ataque cibernético turbinado por IA, seja porque um algoritmo decidiu otimizar uma tarefa financeira ignorando o resto do planeta, o colapso seria em cadeia. Bancos congelados. Dinheiro evaporando das telas. Hospitais parados.

E o mais assustador: sem que ninguém tenha declarado guerra.

Seria apenas uma máquina inteligente fazendo contas rápido demais, desmontando a infraestrutura que a inteligência analógica levou séculos para construir.

Como o risco é global, a catástrofe não respeita fronteiras. Ela simplesmente derruba a espinha dorsal da civilização interligada em que vivemos.

……………………………

Gilberto Motta é escritor, jornalista e pesquisador, criador do espaço/coluna FRAGMENTOS DE ALGORITOS:

https://www.facebook.com/story.php?story_fbid=1750843019271000&id=100030359564816&rdid=udc0m1I4VUsdLgYO#

Gilberto vive na vila da Guarda do Embaú, litoral próximo a Florianópolis SC. 

Foto: supercomputador HALL 900, em 2001 Uma Odisseia no Espaço, filme de Kubrick de 1968.