A última invenção da humanidade?

Por Celso Masson

Depois de testemunhar o potencial destrutivo das bombas atômicas lançadas pelos Estados Unidos no Japão em agosto de 1945 e como a corrida nuclear que se intensificava a partir dali, o físico alemão Albert Einstein proferiu uma de suas previsões mais apocalípticas: “Não tenho certeza com que armas a terceira guerra mundial será travada, mas na quarta guerra mundial lutarão com paus e pedras”. É um conforto para nós saber que a previsão, mesmo feita por um dos maiores gênios da humanidade, jamais se confirmou. Apesar de não faltarem conflitos no mundo, ainda não tivemos uma terceira guerra mundial. E o arsenal de bombas atômicas vem diminuindo desde o fim da Guerra Fria. De um total estimado em 70 mil ogivas nucleares em 1986 (auge da escalada armamentista global), restavam cerca de 13 mil em 2021. Desde então, muitas mais foram desmontadas. A ameaça nuclear foi reduzida, mas isso não significa que a humanidade esteja livre de ser exterminada. Talvez não por bombas, como previram tantos roteiros de ficção científica ao longo de décadas. E provavelmente também não por homens e mulheres armados com paus e pedras.

A julgar pelas declarações de Zack Kass, ex-estrategista da OpenAI (empresa de pesquisa e implantação de inteligência artificial subsidiária da Microsoft), o futuro não depende mais de nós. Ele afirmou à plataforma Business Insider em reportagem publicada na quarta-feira (17) que “daqui para frente, a IA só irá nos impulsionar em um ritmo excepcional, nos levando a viver vidas melhores e até explorar outros planetas e galáxias”. De tão otimista com a tecnologia que ajudou a propagar em seus 14 anos no cargo de head of Go-to-Market da OpenAI, Kass chegou a dizer que ela talvez seja a última que os humanos vão inventar. Faz sentido, uma vez que o princípio da IA é aprender sozinha a resolver questões complexas, muitas vezes encontrando soluções para problemas que nem sequer foram formulados. Isso é bom e ruim. Bom porque nos liberta de ocupações que podem ser melhor executadas sem o fator humano. Ruim porque nos afasta do controle. Há quem defenda que seja melhor assim, dado o histórico de erros humanos em situações que exigem decidir apenas com base em dados e não em emoções, crenças ou interesses pessoais. Porém, isso é muito complicado. Da mesma forma como os costumes mudam (até pouco tempo era permitido fumar em aviões), as decisões que tomamos em um momento podem ser diferentes em outro (destruir bombas em vez de construir mais). O que é importante para nós talvez não seja para a IA depois de anos de evolução independente, sem regulação humana.

Esse é o dilema de que tratam tantas obras de ficção científica. Que papel relevante o homem terá em um futuro dominado pela IA? A discussão hipotética de cenários futuros deixa de fazer sentido quando os argumentos são formulados sob outra lógica. Hoje, essa não é uma possibilidade remota. É a realidade. E se a IA for de fato a última invenção humana, como sugere Kass, as seguintes não serão necessariamente baseadas nas expectativas que criamos. Os algoritmos que serão usados para tomar decisões por nós definirão nosso papel: estar no centro da evolução, nos beneficiando das máquinas que criamos, ou fora dela, superados.

Diferentemente do consenso entre as potências nucleares sobre a necessidade de reduzir o arsenal destrutivo, porém, esse debate não será feito por iguais. Teremos uma negociação entre inteligências de natureza distinta. A nossa e a artificial. Ao que tudo indica, estaremos em desvantagem.

*Celso Masson é diretor de núcleo da DINHEIRO