Em artigo para o Portal Logweb, o colunista Paulo Roberto Guedes analisa as reflexões do Papa Leão XIV sobre os impactos da Inteligência Artificial na sociedade, no mercado de trabalho e na dignidade humana. O texto aborda os riscos da concentração de poder tecnológico nas mãos das grandes empresas, os efeitos da automação sobre o emprego e a necessidade de regulamentações que conciliem inovação, desenvolvimento econômico e proteção dos direitos humanos.

Ao ler no Estadão do dia 28 último, artigo do jornalista e professor da ECA-USP, Eugênio Bucci (“O papa e a técnica”), que tratou de alguns aspectos importantes da primeira encíclica do papa Leão XIV (“Magnifica humanitas” – Magnífica humanidade), chamou-me a atenção a seguinte frase: “ao invés de polemizar é melhor pedir um pouco de juízo aos seres humanos” quando se trata de Inteligência Artificial (IA).

Como detecta e salienta Leão XIV, há um grande e verdadeiro risco de que “as transformações da era digital produzam mais desigualdade”, posto que “o poder técnico, se não for equilibrado, não nos torna mais capazes”, apenas nos torna “mais sós e mais expostos a lógicas de domínio e de exclusão”.

Criticando “a idolatria do lucro, que sacrifica os mais fracos”, Leão XIV, em sua primeira encíclica (1) alerta para perigos do poder tecnológico, inteiramente nas mãos do setor privado, pois será “ainda mais difícil de discernir, gerir e orientar para o bem comum” (2).

E continua o Papa Leão XIV: “Em muitos casos, no contexto digital, o controle das plataformas, das infraestruturas, dos dados e da capacidade de computação não é prerrogativa dos Estados, mas sim de grandes sujeitos econômicos e tecnológicos” (negrito meu). E mais, segue Leão XIV, “quando um poder desta magnitude se concentra nas mãos de poucos, ele tende a tornar-se opaco e a fugir ao controle público, aumentando o risco dum desenvolvimento distorcido que gera novas dependências, exclusões, manipulações e desigualdades.”

Pois é, como comentado no Editorial do Estadão do dia 26 último, (“A inteligência artificial e a humanidade”), a tecnologia não é, como tal, contra a humanidade, mas utilizá-la apenas para a obtenção de lucro e aumento de produtividade não pode sacrificar, constante e sistematicamente, o emprego do ser humano.

Além do que, como também comentado pelo Papa, haverá “empobrecimento humano e cultural”, caso as pessoas não tenham, diariamente, tarefas e determinados estímulos que exijam, de cada um, responsabilidades individuais e/ou coletivas. Torna-se impossível, caso isso aconteça, manter as bases de uma paz estável e socialmente justa. Tanto que o próprio Papa lista algumas exigências como fundamentais (3).

Não há dúvidas, neste novo mercado de trabalho proposto, com base nas orientações da IA sem quaisquer análises mais críticas e sérias, que os ganhos extraordinários de produtividade convivem com formas consistentes e “silenciosas” de perda de direitos, garantias e condições adequadas de trabalho e divisão ainda maior da própria sociedade.

Em seu artigo, aqui já citado, Bucci também lembra dos 135 anos da publicação da encíclica “Rerum novarum” (4), de Leão XIII, que tinha como um dos seus principais objetivos, “enfrentar as injustiças produzidas pelas iniquidades da exploração industrial do trabalho humano”. Ora, exclama Bucci, “o que temos é o agravamento da mesma ‘questão nova’, mas numa escala incomparavelmente mais assombrosa e mais desumana” (5).

E Leão XIV, de forma apropriada, observa que o trabalho é mais do que uma forma de obter renda, mas “um requisito da condição humana, um caminho normal para a maturidade, o desenvolvimento e a realização pessoal”.

Em resumo, estaria a humanidade, novamente, construindo “torres para conquistar o paraíso?”. “Não de pedra, mas de dados, chips, modelos matemáticos e plataformas capazes de escrever textos, reconhecer rostos, prever comportamentos, moldar a atenção e influenciar decisões em escala planetária?”. Ou temos (precisamos) que construir “uma comunidade em que técnica e dignidade permaneçam reconciliadas?” (Editorial do Estadão do dia 26.05.26: “A inteligência artificial e a humanidade”).

E considerando ainda, como escreveu Leão XIV, que as agremiações trabalhistas ou sindicatos atuais não têm condições para proteger seus trabalhadores diante dessa verdadeira revolução tecnológica – e comportamental – seriam necessários esforços ainda maiores e que contassem com a colaboração de toda a sociedade, isto é, dessas organizações com os diversos setores empresariais e da ciência e dos representantes políticos, de tal forma que se pudesse desenvolver regulações muito mais apropriadas e para todo o mundo. Incluam-se aqui, outras esferas da sociedade mundial (6), como a saúde e a educação, por exemplo.

A Inteligência Artificial, como qualquer outra tecnologia, sempre quando bem utilizada, ajuda o ser humano, mas ela, por si, não é neutra: “Toda escolha de design reflete uma visão de humanidade” e, portanto, “embute prioridades, incentivos, critérios de eficiência e concepções implícitas sobre o que merece atenção, recompensa ou exclusão”. Motivos mais do que suficientes, para que se dê a devida atenção de quem será a responsabilidade para essas escolhas.

E como comentou o editorial do Estadão, aqui já citado, “nenhum sistema computacional pode criar um coração capaz de se entregar”, mesmo considerando a capacidade que a inteligência artificial tem para “simular linguagem, raciocínio e criatividade”, posto que ela “não possui consciência moral, vulnerabilidade ou capacidade de sacrifício. Não há amor artificial”.

Aliás, há que se relevar o fato de que qualquer plataforma digital, estas em especial, dão forma a uma percepção coletiva da realidade. Sem dúvida, esses sistemas impedem que se distingam a verdade da percepção construída, do artificial do autêntico, dos fatos das narrativas. Percebe-se, inclusive, que ao prometerem melhores e mais precisas as decisões oriundas desses processos, há um aumento significativo da alienação e uma limitação – perigosa – da responsabilidade dos indivíduos, pois os limita a números de estatística.

Corrobora com essas observações, o que foi escrito no editorial do Estadão aqui já citado: “o risco maior da IA é menos em máquinas que se pareçam conosco, e mais numa sociedade que enxergue a si mesma segundo a lógica das máquinas”. E isto é fato, pois como advertido pelo Papa Leão XIV, o maior problema ‘não está na potência dessas ferramentas, mas no tipo de civilização que se organiza ao redor delas’

Na encíclica, o Papa reconhece que governos e empresas privadas têm suas próprias formas de agir e total autonomia em suas decisões, mas é preciso defender, inquestionavelmente, a promoção de tudo o que “serve à dignidade das pessoas, à vitalidade das comunidades e ao bem comum”.

Vale lembrar, mais uma vez, o que citou o editorial do Estadão ao comentar comentário de Chris Olah, um dos fundadores da Anthropic. Disse ele: “as questões relacionadas à IA não se limitam a cientistas de computação”, porque esses sistemas não funcionam como um projeto específico desse setor (imagem de ficção científica de robôs frios e calculistas), pois eles nos levam, lamentavelmente, a viver em um mundo no qual “esses personagens fictícios falam conosco, são ativos e tem empregos”.

Seja como for, é fundamental que não se ignorem os efeitos disruptivos da IA. É essencial que haja um mínimo de regulação, pois se a tecnologia ameaça substituir o ser humano, seja na sociedade como um todo, ou em qualquer área profissional e do trabalho, deve-se exigir que sejam protegidas a capacidade de ação do ser humano e, principalmente, sua dignidade. Nada mais correto e urgente.   

O Papa Leão XIV, no final da encíclica, pede para que “amemos a justiça e a paz”, pois “as mesmas tecnologias que facilitam a comunicação e o acesso aos recursos podem sustentar modelos que exploram os mais fracos, alimentam novas formas de escravatura e transformam o conflito numa oportunidade de lucro” (negrito meu). Está claro que “cada escolha técnica ou econômica transforma-se numa ocasião de discernimento espiritual, uma oportunidade para verificar se os progressos da IA abrem espaços de justiça e participação ou se concentram riqueza e poder nas mãos de poucos”.

Não há qualquer dúvida, a sociedade como um todo precisa buscar e/ou desenvolver processos que aumentem a equidade e a participação de todos os seres humanos, sem distinção. Ao invés de mais desigualdades, maior espaço para a justiça, “em vez da indústria da guerra, se afirme o artesanato da paz”.

Como sintetiza o Papa Leão XIV, é preciso “promover a verdade, a dignidade do trabalho, a justiça social e a paz. Na era digital, é preciso desarmar a IA e superar a teoria da “guerra justa”, relançando o diálogo e o multilateralismo”.

(1) Carta Encíclica Magnifica Humanitas do Papa Leão XIV, que trata da salvaguarda da pessoa humana na era da inteligência artificial. A Santa Sé Encíclicas.

(2) Escreveu Bucci: “se as big techs dessem ouvidos, ainda que moucos, a essa mensagem, fechariam imediatamente suas atividades para balanço – não balanço econômico, mas balanço ético”.

(3) Regulação governamental das empresas privadas que tratam de IA; 2) proteção e requalificação de trabalhadores cujos empregos estejam ameaçados; 3) educação para ajudar estudantes a pensar criticamente sobre a tecnologia; 4) ações para proteger crianças de informações violentas, hipersexualizadas ou falsas, ‘on line’; 5) salvaguardas para garantir que humanos, e não a IA, permaneçam responsáveis por todas as decisões sobre o uso de armas.

(4) A Rerum novarum, escrita em meio às convulsões da Revolução Industrial, tencionava salvaguardar os direitos e a dignidade da classe trabalhadora, pois estava claro que ‘as máquinas ameaçavam reduzir trabalhadores a engrenagens descartáveis’, ficando inevitável, consequentemente, que se buscassem formas para proteção das oportunidades de emprego e o papel insubstituível do ser humano.

(5) Escreveu Bucci: “Os computadores e a internet, definitivamente, não são uma “mídia”, ou uma “nova forma de mídia”. Muito além disso, essas tecnologias constituem novos meios de produção que abrem as porteiras para outro tipo de fabricação de valor. Uma criança de quatro anos de idade “brincando” com um “joguinho” na tela do celular não está se “divertindo”, como os pais acreditam: ela está trabalhando para as plataformas, está gerando valor para um negócio que opera na escala dos trilhões de dólares. Essa criança de quatro anos está sendo explorada do mesmo modo que, há 150 anos, outras crianças eram exploradas nas fábricas em Londres, em jornadas que se estendiam por mais de 14 horas”.

(6) Escreveu Leão XIV: “a literatura psicológica e psiquiátrica documentou com crescente insistência como a exposição precoce e sem supervisão a dispositivos digitais e redes sociais pode afetar negativamente o sono, a capacidade de atenção, o controle das emoções e as relações, especialmente durante as fases mais vulneráveis da vida, às vezes, com consequências trágicas”.