A democracia pode sobreviver à policrise? por Jorge Soros

Em todo o mundo, as pessoas vivem cada vez mais com a sensação de que muita coisa está acontecendo, muito rápido. As principais fontes dessa crescente angústia são o aumento da inteligência artificial, as mudanças climáticas e a guerra da Rússia na Ucrânia – cada uma das quais exige atenção urgente dos formuladores de políticas e líderes políticos.

NOVA YORK – Vivemos tempos difíceis. Muita coisa está acontecendo rápido demais. As pessoas estão confusas. O historiador econômico da Universidade de Columbia, Adam Tooze, de fato, popularizou uma palavra para isso. Ele chama isso de "policrise".

A policrise tem muitas fontes. Na minha opinião, a principal fonte da policrise que aflige o mundo hoje é a inteligência artificial. A mudança climática vem em segundo lugar, e a invasão russa da Ucrânia se qualifica como o terceiro. A lista é muito mais longa, mas vou me concentrar nesses três. Isso deve ajudar a reduzir a confusão.

A IA chocou o mundo quando a Microsoft disponibilizou o ChatGPT gratuitamente ao público por meio de uma empresa associada chamada OpenAI. Isso foi em novembro de 2022. O ChatGPT representava uma ameaça existencial ao modelo de negócios do Google. O Google entrou em ação para lançar um produto concorrente o mais rápido possível.

Pouco tempo depois, Geoffrey Hinton, geralmente considerado o padrinho da IA, renunciou ao Google para poder falar abertamente sobre os riscos da nova tecnologia. Invertendo sua posição anterior, ele teve uma visão muito obscura da IA. Ele disse que poderia destruir nossa civilização.

Hinton foi pioneiro no desenvolvimento de redes neurais que podem entender e gerar linguagem e aprender habilidades analisando dados. À medida que os dados cresciam, também crescia a capacidade dos chamados grandes modelos de linguagem da IA.

Isso causou uma grande impressão em Hinton. "Talvez o que está acontecendo nesses sistemas seja realmente muito melhor do que o que está acontecendo no cérebro", disse ele. À medida que se tornam mais poderosos, também se tornam mais perigosos, afirmou. Em particular, ele alertou contra sistemas de armas totalmente autônomos – robôs assassinos, como ele os chamou.

"Entramos em um território completamente desconhecido. Somos capazes de construir máquinas mais fortes do que nós, mas ainda estamos no controle. Mas e se desenvolvermos máquinas mais inteligentes do que nós? 20 anos para superar a inteligência humana." E "logo perceberá que atinge melhor seus objetivos se se tornar mais poderoso".

O que Hinton disse me impressionou muito. De fato, a IA me lembrou o poema de Goethe "O Aprendiz de Feiticeiro". O Aprendiz está estudando magia, mas não entende totalmente o que o mestre está ensinando a ele. Quando o mestre lhe manda varrer o chão, ele aplica as palavras mágicas a uma vassoura. A vassoura obedece, mas o aprendiz não consegue impedir a vassoura de ir buscar baldes de água para varrer o chão e a casa fica alagada.

Eu cresci antes da IA ​​ser inventada. Isso me fez um grande crente na realidade. Percebi em uma idade relativamente jovem como é difícil entender o mundo em que nasci e olhei para a realidade para me fornecer orientação moral.

Nós, seres humanos, somos participantes e observadores do mundo em que vivemos. Como participantes queremos mudar o mundo a nosso favor; como observadores, queremos entender a realidade como ela é. Esses dois objetivos interferem um no outro. Considero isso um insight importante que me permite distinguir entre o certo e o errado.

A IA destruiu esse esquema simples porque não tem absolutamente nada a ver com a realidade. A IA cria sua própria realidade e quando essa realidade artificial não corresponde ao mundo real – o que acontece com bastante frequência – ela é descartada como alucinação.

Isso me fez quase instintivamente contra a IA e concordo plenamente com os especialistas que argumentam que ela precisa ser regulamentada. Mas os regulamentos devem ser aplicados globalmente porque o incentivo para trapacear é muito grande; aqueles que fogem dos regulamentos obtêm uma vantagem injusta.

Infelizmente, os regulamentos globais são inatingíveis porque o mundo é dominado por um conflito entre dois sistemas de governança que são diametralmente opostos entre si. Eles têm visões radicalmente diferentes sobre o que precisa ser regulamentado e por quê.