Ouça este conteúdo
A primeira encíclica do papa Leão XIV, Magnifica humanitas, sobre a inteligência artificial, já foi bastante analisada e comentada desde o seu lançamento, ontem. E não duvido que muita gente tenha usado resumos e publicado infográficos feitos por IA – o Polzonoff me mostrou que alguém chegou a usar uma IA para tentar descobrir se a encíclica havia sido escrita com a ajuda de inteligência artificial (o resultado foi “100% humano”). É um texto que terá de ser lido várias vezes para ser suficientemente compreendido. Como li apenas uma vez, destaco o que achei de mais interessante nessa encíclica que não apresenta apenas a visão do papa e da Igreja sobre as IAs, mas acaba sendo também uma aula sobre a história e os princípios da Doutrina Social da Igreja – o que é bastante útil, já que Magnifica humanitas deve ser o primeiro contato de muitos com a DSI.
A Igreja Católica não é e nunca foi contra a tecnologia – aliás, muitas tecnologias essenciais para o desenvolvimento da agricultura na Idade Média, para ficar em apenas um exemplo, vieram dos mosteiros beneditinos. Mas a Igreja sempre afirmou que a tecnologia tem de estar a serviço do ser humano, e não o contrário. Leão XIV começa a encíclica falando da Torre de Babel, que é a tentativa de fazer tecnologia prescindindo de Deus. Isso nos leva a um primeiro ponto: a IA não é uma tecnologia moralmente neutra. “o discernimento ético não pode limitar-se a perguntar se utilizamos um determinado sistema para um fim bom ou mau, mas deve também questionar-se sobre a forma como foi projetado e que ideia de pessoa e sociedade está inscrita nos dados e nos modelos que o orientam”, diz o papa (104).
Verdade, trabalho e liberdade
Nesta primeira leitura, meu capítulo favorito foi o IV: “Salvaguardar o humano na transformação”, que apresenta a tríade “verdade, trabalho e liberdade” como chaves para uma boa utilização da IA em benefício da humanidade, e não como fim em si mesma; quem leu minha resenha de Encontro com a Inteligência Artificial – Investigações éticas e antropológicas, que publiquei anteontem no Tubo de Ensaio, minha coluna quinzenal de ciência e fé, sabe que eu tenho uma preocupação especial com as aplicações e consequências práticas da IA, daí esse capítulo da encíclica ter atraído mais meu interesse.
“As ditas inteligências artificiais não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações, não conhecem internamente o que significa amor, trabalho, amizade, responsabilidade.”
Leão XIV, na encíclica Magnifica humanitas.
A verdade, aqui, não aparece apenas no sentido mais óbvio, por exemplo de evitar coisas como deep fakes, mas no sentido de que tecnologias moldam culturas. Quem domina a tecnologia, portanto, pode “convencer um significativo número de pessoas sobre qual é a verdade a respeito do ser humano, do mundo, do sentido da existência, da família e até mesmo de Deus” (133). Se quem desenvolve as IAs estiver imbuído de ideias equivocadas sobre esses temas, ou se já nem sequer acreditar na existência de verdades objetivas, teremos muitos problemas, a começar pela própria noção do ser humano como portador de uma dignidade intrínseca, que independe do quanto ele possa produzir – uma negação do paradigma tecnocrático que governa a corrida das IAs.
O mundo do trabalho será um dos principais afetados pelo avanço da inteligência artificial, não apenas por causa do potencial desemprego causado pela substituição de seres humanos por máquinas e algoritmos, mas também porque outros tipos de trabalho, especialmente aqueles que requerem criatividade, poderão passar por mudanças significativas: à medida que vamos delegando tudo às IAs, seremos todos reduzidos a bons criadores de prompts? “A rapidez e a simplicidade com que é possível obter orientações, processamentos complexos, conteúdos midiáticos e formas de assistência concreta simplificam as nossas vidas, mas também podem habituar-nos a delegar em demasia e a procurar respostas prontas, enfraquecendo a própria opinião e a criatividade” (100), já havia avisado o papa em um capítulo anterior. Isso é desastroso, porque o trabalho é, de certa forma, cooperação com o Deus que cria (148), ferramenta de desenvolvimento e realização pessoal.
Por fim, um uso da IA que respeite a liberdade abrirá mão de quaisquer formas de controle social e individual. A inteligência artificial pode ser usada por Estados autoritários para oprimir e censurar, mas também por atores privados que, aproveitando todos os rastros que deixamos na internet, orientam comportamentos, exploram nossos interesses e potencializam nossos vícios, “muitas vezes sem que as pessoas tenham plena consciência disso” (171). O papa continua, afirmando que “se estes dados forem utilizados para tomar decisões que incidem sobre oportunidades concretas (acesso ao crédito, recrutamento de pessoal, serviços), corre-se o risco de lesar a liberdade e discriminar os mais fracos”. Um outro exemplo, ainda mais drástico: “os titulares dos dados de saúde de populações inteiras, hoje frequentemente recolhidos sob o pretexto de ajudar, investigar ou inovar, detêm, na realidade, uma alavanca estrutural em relação ao futuro: podem moldar as necessidades e os mercados. E podem decidir, antecipadamente, a quem destinar medicamentos, investimentos e proteções” (178).
VEJA TAMBÉM:
Não esperem que o papa nos diga em detalhes o que fazer
Já disse aqui nesta coluna, e lembrei disso anteontem no Tubo de Ensaio, que o catolicismo não é uma religião de manualzinho em que há um único jeito “católico” de fazer as coisas. Há muitos caminhos lícitos em muitas áreas, e com a IA não é diferente. Leão XIV dá algumas poucas sugestões mais concretas em campos bem específicos: ele escreve, por exemplo, que “a decisão de recorrer à força letal não pode ser delegada em processos pouco transparentes ou automatizados, mas deve permanecer sob um controla humano efetivo, consciente e responsável” (200), e que deve haver “medidas legislativas que estabeleçam limites de idade, responsabilizem os prestadores de serviços – sem delegar nas famílias o ônus da limitação – e prevejam tutelas específicas contra todas as formas de exploração e violência sexual na rede” (142).
Em alguns outros casos, Leão XIV faz sugestões úteis. “O papa propõe algo que parece simples, mas radical: jejuar da IA (140), quer dizer, criar momentos de pensamento humano sem assistência da máquina, principalmente para os jovens. A preocupação é que a gente terceirize tanto o pensar que perca a capacidade de pensar. E ele pede higiene da atenção: silêncio, leitura, conversa demorada. Isso vai contra todo o design das plataformas digitais”, disse à coluna Rafael Medeiros, especialista em estratégia de inteligência artificial, transformação digital e implementação de soluções de IA em empresas, com atuação em automação e machine learning, e responsável por iniciativas sociais de IA para pessoas em vulnerabilidade.
De resto, temos orientações mais genéricas baseadas nos princípios da Doutrina Social da Igreja, como na afirmação de que “a introdução de automação e IA deve ser acompanhada por escolhas verificáveis em matéria de proteção do emprego, requalificação e participação dos trabalhadores” (156). E faz sentido que seja assim, até em respeito a um dos princípios da DSI, o da subsidiariedade: cada comunidade será impactada pela IA de uma forma diferente, e cabe a ela encontrar as soluções mais adequadas à sua realidade, em vez de seguir regras vindas de cima. Não podemos terceirizar tudo à IA, e nem terceirizar tudo para que o papa nos diga o que fazer nos mínimos detalhes.
“Quando a palavra é simulada, mas não encarnada, ela não constrói uma relação, mas sim uma aparência dela. A imitação artificial da relação de cuidado ou de acompanhamento pode tornar-se perigosa quando se insinua num contexto pobre de relações e afetos concretos.”
Leão XIV, na encíclica Magnifica humanitas.
O que o “cara do Claude” estava fazendo ao lado do papa?
O sociólogo Francisco Borba Ribeiro Neto, estudioso das relações entre Igreja e cultura, explicou à coluna que “a encíclica se insere numa tradição de reflexão católica que vem de Romano Guardini, um dos grandes teólogos alemães do século 20, que questiona não propriamente a técnica, mas sim a capacidade do homem moderno de administrar com sabedoria as potencialidades dos avanços técnico-científicos”. Nessa linha, tanto Francisco (na questão do meio ambiente) quanto Leão XIV “acrescentam um problema a esta equação: os criadores das inovações (cientistas, engenheiros, inventores) na maior parte dos casos nem são os que administram estes novos potenciais – é o poder político e econômico, principalmente, agora no caso das IA, das grandes empresas desenvolvedoras”.
E quem acompanhou o lançamento da encíclica, ou a cobertura jornalística do evento, não teve como ignorar uma presença específica: ao lado do papa, de cardeais e de teólogos, estava Christopher Olah, cofundador da Anthropic, a empresa que faz o Claude – e que não é a única a andar conversando com o Vaticano, pois outros gigantes da tecnologia têm feito o mesmo. A minha dúvida é: esse pessoal está de fato preocupado com um uso eticamente correto da inteligência artificial, ou está só tentando usar Leão XIV para vender os seus produtos como se tivessem um “selo de aprovação papal”?
O professor Francisco Borba dá um voto de confiança, mas com cautela. “A questão ética no universo da IA é um campo em aberto, não basta dizer ‘temos valores’, é preciso explicitar quais valores. As empresas desenvolvedoras têm posições e graus de comprometimento diferentes. Contudo, o Vaticano, ao convidar um dos cofundadores de uma empresa de IA que se notabilizou por defender uma posição ética, até colocando em risco seus interesses, faz uma sinalização clara do que espera dos católicos e das pessoas de boa vontade”, afirma, referindo-se ao episódio em que a Anthropic se recusou a permitir que o Pentágono usasse o Claude de forma irrestrita pelas forças armadas; a empresa acabou classificada como um “risco à cadeia de suprimentos” pelo governo norte-americano.
VEJA TAMBÉM:
O sociólogo avisa, no entanto, que os usuários precisarão estar sempre vigilantes. “O compromisso ético é fundamental nesse mercado que está se abrindo, mas, para que seja viável, consumidores de IA terão de acompanhar os debates e as iniciativas éticas dos desenvolvedores e darem preferência aos produtos de empresas com maior compromisso ético, assim como o Vaticano deu preferência a uma destas empresas no seu diálogo com os desenvolvedores de IA”, aconselha.
A inteligência artificial será nosso Um Anel?
Muita gente celebrou a citação que Leão XIV fez de um trecho de O Senhor dos Anéis, em que Gandalf afirma: “Não nos compete dominar todas as marés do mundo, mas sim fazer o que nos for possível para ajudar os anos em que estamos inseridos, erradicando o mal nos campos que conhecemos para que quem viver depois possa ter terra limpa para amanhar” – não conferi a tradução do Vaticano para ver se bate com as edições brasileiras da obra de Tolkien, mas isso é o de menos. A encíclica ainda menciona outras obras de arte, como “a Nona Sinfonia de Beethoven, enquanto desejo de unidade; o quadro Guernica, enquanto denúncia da desumanização; o filme A Lista de Schindler, enquanto convite a não deixar cair o passado no esquecimento”.
A referência a O Senhor dos Anéis é bem interessante. No mundo criado por Tolkien, o Um Anel começa a ser usado de forma até recreativa, tanto por Bilbo quanto por Frodo – algo que não é tão evidente nos filmes, mas está nos livros –, até que eles se tornam realmente apegados (apegados até demais) ao objeto, mesmo depois que já têm consciência de seu efeito maléfico; basta ver como eles têm dificuldade de se desfazer dele. De Sméagol, então, nem se fala, já que o Um Anel devastou totalmente a sua alma. Nem sei se Leão XIV tinha esse paralelo em mente quando resolveu citar a fala de Gandalf; se não tinha, seria um caso sensacional de atirar no que viu e acertar o que não viu: sabe-se lá se não faremos da inteligência artificial o nosso equivalente do anel de poder na literatura de Tolkien, especialmente se os responsáveis por ela de fato não tiverem limites éticos.
