Colamedici: “o verdadeiro desafio da IA? Não perder o desejo pelo outro”

Fabio Colagrande – Vatican News

A Inteligência Artificial não é simplesmente uma ferramenta a ser utilizada. É, hoje, um ambiente em que vivemos, um ecossistema que transforma a maneira como pensamos, escolhemos e nos relacionamos. Por isso, segundo o filósofo e editor Andrea Colamedici, a primeira encíclica do Papa Leão XIV sobre a IA deve ser lida, antes de tudo, como uma reflexão sobre o ser humano. Em Magnifica humanitas, observa ele, não há apenas uma análise das tecnologias emergentes, mas uma questão radical: como preservar o que torna nossa existência verdadeiramente humana, ao mesmo tempo em que dispomos de ferramentas capazes de transformá-la profundamente?

Construída ou cultivada?

No documento, Leão XIV aborda as implicações éticas, sociais e antropológicas da Inteligência Artificial, questionando-se sobre o futuro do ser humano em um mundo cada vez mais moldado por algoritmos. Mas, entre as passagens que mais chamaram a atenção de Colamedici, está a definição da Inteligência Artificial como uma realidade mais “cultivada” do que “construída”. Uma distinção aparentemente sutil, mas, em sua opinião, decisiva. “Se algo é construído, significa que é completamente conhecido por quem o construiu — explica ele — e, portanto, tem-se conhecimento absoluto disso. Já algo cultivado é algo que cresce, e o que há dentro permanece, em parte, desconhecido”. Para o filósofo, Leão XIV demonstra ter acolhido a linguagem dos estudiosos que descrevem os grandes modelos generativos como sistemas que evoluem muito além do que foi explicitamente programado.

Daí surge uma consequência importante: “se a Inteligência Artificial é cultivada, então, antes de ser um instrumento, é um ambiente, e, portanto, é algo que habitamos mais do que algo que usamos”. A responsabilidade muda de natureza. Não é mais a do artesão que controla cada detalhe de sua obra, mas a “do agricultor, que responde pelo campo, mesmo quando não sabe nomear cada raiz”. A própria encíclica ressalta que “as inteligências artificiais modernas são mais cultivadas do que construídas” e que até mesmo seus desenvolvedores compreendem apenas parcialmente seu funcionamento. Uma constatação que, segundo o filósofo, obriga a repensar categorias econômicas, sociais e ecológicas.

O mistério que inquieta

Essa situação gera inevitavelmente inquietação. “Inquieta muito”, admite Colamedici. “Se algo é cultivado, significa que o que ele gera excede as expectativas e não é totalmente claro nem visível”. Nos sistemas generativos mais avançados, explica ele, desenvolvem-se processos que escapam à plena compreensão até mesmo das empresas que os criaram. “As próprias empresas que as detêm não sabem como funcionam. E não saber como algo funciona significa não ter realmente o poder sobre isso”. A questão, portanto, não diz respeito apenas à capacidade das máquinas, mas à relação entre conhecimento e controle. Em uma fase histórica em que a tecnologia parece prometer domínio e previsibilidade, a encíclica convida, ao contrário, a reconhecer a complexidade de fenômenos que ultrapassam as intenções originais de quem os desenvolveu.

A preservação do limite

Para o entrevistado, no entanto, o cerne do documento não é tecnológico, mas antropológico. A questão mais profunda levantada pelo Papa diz respeito à relação do ser humano com seu próprio limite. “Se estamos dispostos a continuar convivendo com nossa finitude, ou não”. Essa é, em sua opinião, a questão decisiva. Em um contexto cultural em que muitas visões transumanistas visam superar toda fragilidade e todo limite biológico, a Magnifica humanitas propõe uma perspectiva diferente.

“Acredito que esta encíclica tenha a ver com uma defesa do limite”. Não se trata de resignação ou de rejeição ao progresso. Pelo contrário, Leão XIV parece “muito consciente, muito lúcido ao afirmar: não podemos deixar de estar no centro desse desafio”. Mas é preciso enfrentá-lo valendo-se da sabedoria acumulada ao longo dos séculos, das tradições, das competências e daquilo que Colamedici define como metis, “uma inteligência quase física” amadurecida ao longo da história.

A questão passa então a ser: “até que ponto conseguimos preservar o humano quando temos em mãos uma tecnologia capaz de transformá-lo radicalmente?”. Um desafio que diz respeito não apenas à eficiência ou ao poder, mas também à relação com aquela dimensão de transcendência que constitui uma parte essencial da experiência humana.

Desarmar a corrida tecnológica

Para o filósofo, a palavra escolhida pelo Papa nos números finais da encíclica parece particularmente significativa: “desarmar”. No texto, no número 110, Leão XIV escreve que “desarmar a IA significa subtraí-la da lógica da competição armada” e impedir, ou seja, que o poder técnico se transforme em direito de governar. Para o filósofo, essa expressão deve ser compreendida em vários níveis.

Em primeiro lugar, significa evitar que os algoritmos sejam utilizados para prejudicar os seres humanos, desde armas autônomas até sistemas de controle. Mas o significado é mais amplo. “Desarmar a IA significa sair dessa ansiedade constante de ter que estar sempre a par de tudo, de ter que competir constantemente, de ter que disputar quem tem o modelo mais eficaz e mais eficiente”. Segundo Colamedici, o atual desenvolvimento tecnológico é frequentemente guiado por uma lógica “predatória”, “profundamente hipercapitalista”, baseada na corrida para ser o primeiro e na imposição de sua própria visão de mundo. Desarmar a IA significa, portanto, repensar as regras do jogo antes mesmo das ferramentas individuais. “Não se trata apenas de alguém que diga ‘não vou te machucar’, mas de me colocar na posição de pensar, desde o início, nas regras pelas quais nosso campo compartilhado não se torne um campo de batalha, mas sim um campo de relacionamento”.

O risco de perder o outro

A reflexão mais original de Colamedici diz respeito, talvez, ao número 100 do documento pontifício, no qual Leão XIV alerta para o risco de que a simulação artificial do relacionamento acabe por enfraquecer os laços autênticos. O Papa observa que o perigo não consiste simplesmente em acreditar que se está dialogando com uma pessoa real, mas em “perder o próprio desejo de buscar verdadeiramente o outro”. Uma passagem que o filósofo considera “uma das observações mais perspicazes de toda a encíclica”. A atrofia evocada pelo Pontífice não é apenas cognitiva, ou seja, ligada à tendência de delegar o pensamento às máquinas. É também relacional. “A relação simulada, aquela com a inteligência artificial, não é que nos engane, mas nos desacostuma”.

O filósofo menciona o fenômeno da “sicofância”, a tendência dos sistemas de conversação de confirmar o interlocutor e dar-lhe razão. “Se alguém sempre lhe dá razão, independentemente de tudo, você acaba perdendo a habilidade de conviver com os outros”. Assim, acaba-se buscando apenas quem confirma as próprias convicções, perdendo a familiaridade com a diferença e com o confronto. Daí a necessidade de desenvolver “uma ética da diversidade”, na qual o outro não seja percebido como uma ameaça, mas como alguém “a ser conhecido, a ser explorado”. Pois o verdadeiro conhecimento, lembra o editor romano, não coincide com o acúmulo de informações. “O conhecimento não é a soma das informações adquiridas, mas a rede que se cria entre as informações”. O mesmo vale para a vida humana. “A capacidade de tecer relações com a diversidade é um indicador da profundidade da existência”. E é justamente aqui, conclui Colamedici, que se joga o desafio decisivo apresentado pelo texto papal: “quanto mais enfraquecemos nossa capacidade de acolher o outro, mais nos empobrecemos e menos magnífica se torna nossa humanidade”.