Tristan Harris: a verdadeira ameaça é a corrida pela IA mais poderosa

Fabio Colagrande – Vatican News

No debate global sobre Inteligência Artificial, cada vez mais marcado por questões éticas, políticas e antropológicas, o Vaticano procura abrir um espaço de diálogo que combine a reflexão acadêmica com a cultural e narrativa. Foi ainda na véspera do congresso internacional “Preservar vozes e rostos humanos”, promovido em 21 de maio na Pontifícia Universidade Urbaniana, em Roma, pelo Dicastério para a Comunicação, que a Filmoteca Vaticana organizou uma exibição a portas fechadas do documentário The AI Doc: Or How I Became An Apocaloptimist, dirigido pelos cineastas Daniel Roher e Charlie Tyrell e produzido por Daniel Kwan, já vencedor do Oscar por Everything Everywhere All at Once. Apresentado em estreia mundial em janeiro no Festival de Cinema de Sundance e posteriormente também na Europa, o documentário reúne as vozes de protagonistas, estudiosos e críticos do mundo da Inteligência Artificial.

O diretor Daniel Roher, prestes a se tornar pai, embarca em uma jornada para compreender o que significa a revolução da IA, entrevistando mais de 40 especialistas, incluindo os CEOs da OpenAI, da Anthropic e do Google DeepMind. O documentário explora os perigos existenciais e as promessas extraordinárias associadas aos algoritmos, equilibrando a ansiedade apocalíptica e a esperança para entender que mundo seu filho herdará. Por meio dessa investigação pessoal, Roher busca responder à pergunta fundamental: é um ato de loucura ou de otimismo trazer uma criança ao mundo em uma era dominada pela Inteligência Artificial? “Este é o último erro que poderemos cometer”. Essa frase resume perfeitamente o tema central do documentário: com a Superinteligência (ASI), a humanidade se depara com uma tecnologia tão poderosa que um único erro em seu desenvolvimento poderia ser irreversível e fatal.

Entre os protagonistas do filme está também Tristan Harris, cofundador e presidente do Center for Humane Technology, uma das vozes mais ouvidas internacionalmente sobre a relação entre tecnologia, atenção humana e democracia. Por ocasião da exibição no Vaticano, Harris concedeu uma entrevista à Rádio Vaticano – Vatican News.

Encontrar um terceiro caminho

Quando questionado sobre o significado do “apocalotimismo” evocado pelo título do documentário, Harris explica que a questão não é escolher entre otimismo e pessimismo, mas questionar-se sobre a capacidade de agir diante de um risco concreto. A referência, conta ele, é ao filme “The Day After”, que, na década de 1980, contribuiu para tornar tangível, no imaginário coletivo, o perigo de uma guerra nuclear. “Aquele filme introduziu na consciência coletiva a possibilidade de um desfecho que ninguém desejava”, observa Harris, lembrando como aquele clima também contribuiu para preparar o terreno para as primeiras negociações sobre o controle de armamentos. Segundo Harris, é justamente essa analogia que ajuda a compreender o desafio da inteligência artificial: “está perfeitamente em sintonia com os temas que o Vaticano tem abordado historicamente, ou seja, como encontrar um terceiro caminho e evitar a escalada da corrida armamentista”.

As ameaças da corrida pela IA Geral

Quanto aos riscos imediatos da Inteligência Artificial Generativa, Harris enumera vários: desde a substituição de empregos até os deepfakes, passando por fraudes e roubo de propriedade intelectual e de identidade vocal. “O problema da IA Generativa é que ela representa múltiplas ameaças ao mesmo tempo”, afirma.

Mas a questão mais profunda, segundo ele, é outra: “a corrida armamentista” para chegar primeiro à chamada IA Geral (AGI), um tipo de Inteligência Artificial capaz de compreender, aprender e executar qualquer tarefa intelectual que um ser humano possa realizar. Segundo Harris, empresas e governos estão encarando essa competição como um desafio existencial, no qual qualquer dano colateral corre o risco de parecer justificável, desde que não fiquem para trás. “As pessoas do Vale do Silício encaram essa corrida armamentista como uma questão existencial. Elas precisam chegar em primeiro lugar”. É essa dinâmica, argumenta ele, que gera muitas das outras ameaças: desemprego em massa, apropriação indevida de rostos e vozes humanas, desestabilização social.

Os danos causados pelas redes sociais

Harris chama então a atenção para os efeitos já visíveis das plataformas digitais. Em sua opinião, ainda não há plena consciência dos danos causados pelo modelo econômico das redes sociais. “É como perguntar a um peixe que nada na água o que ele acha da água”, observa. Esse sistema, explica ele, foi projetado para maximizar a atenção, a frequência de uso e o engajamento, com consequências que incluem compulsão, isolamento e deterioração cognitiva. Citando alguns estudos, Harris destaca o aumento das dificuldades de concentração e aprendizagem, e também alerta contra o uso acrítico da inteligência artificial nos processos cognitivos.

A divulgação do documentário projetado no Vaticano

O papel do Papa

Por fim, Harris analisa o possível papel da Igreja e do Papa Leão XIV no debate global sobre a Inteligência Artificial. “O Papa Leão foi um líder extraordinário ao chamar a atenção para o que devemos proteger: a dignidade humana, a criatividade humana, o pensamento crítico”, afirma. Mas, segundo ele, resta um passo decisivo: identificar explicitamente a corrida global pela Inteligência Artificial como uma ameaça sistêmica.

A referência é explícita a João XXIII e à Pacem in terris, publicada em plena Guerra Fria, quando a Santa Sé chamava a atenção do mundo para a necessidade de substituir a lógica da escalada pela do diálogo. Harris também evoca a linguagem com que o Concílio Vaticano II viria a definir a corrida armamentista como uma ameaça para a humanidade. “Acredito que a corrida armamentista da IA deva ser considerada um perigo”, afirma. Daí seu desejo dirigido ao Pontífice: “gostaria de ver o Papa Leão reunir aqui os líderes mundiais e dizer-lhes: vocês não sairão daqui até que tenham encontrado uma solução”, evocando idealmente o espírito de Reykjavik. Para Harris, o desafio não pode ser deixado apenas à competição econômica ou geopolítica: diz respeito ao próprio futuro da humanidade.