Magia e inteligência artificial

• 0

Indo contra as políticas de uma empresa que, mal que bem, hoje em dia é mais um braço do Serviço de Inteligência que qualquer outra coisa, um doidinho que trabalhava no Google foi à imprensa há um tempinho. A “notícia” que ele deu, claro, chamou a atenção: um determinado programa de inteligência artificial (IA) lá das internas do Google estaria, vejam bem os senhores, “vivo”. O que o teria convencido disso seria o papo do programa que, convenhamos, é um programa de bater papo. A notícia verdadeira seria “programa de bater papo consegue bater papo”, mas isso não faria tanto sucesso.

Quando saiu a notícia eu achei estranho que, numa das versões que li, ele dizia ser “sacerdote cristão”, terminologia assaz bizarra que me despertou a curiosidade que a “notícia” não havia despertado; resolvi tentar descobrir quem era o sujeito. Afinal, engenheiro do Google e, arrã, “sacerdote cristão” não são coisas que costumam vir juntas. Depois de rápida pesquisa por outros mecanismos de busca, vi que o doidinho em questão havia criado caso quando estava nas Forças Armadas porque sentia falta de um capelão satanista. Depois teria mudado de time, e pelo jeito há de ter cavado uma ordenação de validade extremamente dúbia no esdrúxulo submundo dos bispos vagos. São pessoas que – fora da Igreja – são ordenadas, frequentemente muitas vezes e por vários outros “bispos” duvidosos, na esperança de que alguma das ordenações e sagrações tentadas seja válida e o sujeito ganhe a sucessão apostólica que qualquer padrezinho de cidade do interior tem. Para nossa eterna vergonha, um bispo brasileiro – Carlos Duarte, que foi bispo de Botucatu – faz parte da linhagem de muitos desses sujeitos. Mas, em suma, o que a tal suposta ordenação indica é o mesmo que já indicaria a busca por um capelão satanista nas Forças Armadas americanas: trata-se de um ocultista, logo, por definição, de alguém meio fora do prumo.

Depois do nada oculto escândalo público provocado pela figura, não seria necessário jogar tarô ou olhar para as estrelas para saber o que era evidente e previsível. E, claro, logo aconteceu: o Google o pôs no olho da rua por estes dias. Sem medo de que ele rogue uma praga de reza braba para cima do gigante da tecnologia da informação. É muito interessante que tenha sido logo um ocultista a causar confusão acerca de IA. Afinal, IA é coisa muito ligada à magia.

A tal IA é a volta às origens, por assim dizer, a recuperação do suposto poder da palavra. Do símbolo vazio em detrimento da realidade

A diferença maior entre o pensamento mágico e o pensamento científico é a importância dada à palavra humana no pensamento mágico. Fora isso, são coisas bem parecidas, até por ser a ciência de hoje uma versão puritana da magia renascentista. Como os puritanos não acreditavam na possibilidade de milagres, segundo eles coisa de tempos idos, seus estudos mágicos pressuponham um funcionamento extremamente regular e impessoal do universo, e foi isso que deu na ciência moderna. Isaac Newton, o maior patriarca da tal ciência, o famoso dorminhoco em cuja cabeça caiu uma maçã e disso derivou a Lei da Gravitação Universal (fosse brasileiro, teria tomado uma jaca na cabeça e estaríamos voando até hoje), dava muito mais de seu tempo e atenção a alquimia, astrologia e conjurações malucas que a cálculos do movimento dos astros.

A tal IA é a volta às origens, por assim dizer, a recuperação do suposto poder da palavra. Do símbolo vazio em detrimento da realidade. Faz pleno sentido que isso ressurja num momento de pós-verdade como este em que vivemos, num momento em que somos obrigados a dar crédito a invencionices politicamente corretas antes que a nossos sentidos mentirosos. É um momento em que “fact-checkers”, “checadores de fatos”, dedicam-se com afã a pregar mentiras, frequentemente com tamanho apoio institucional que quem tenha algum amor pela verdade acaba sendo alijado de redes sociais ou mesmo “cancelado”, ostracizado sem necessidade de exílio geográfico. É um momento em que é claro que o povo da capa preta tem toda razão do mundo ao falar bem de nossas incríveis, maravilhosas e incorruptíveis urnas eletrônicas, mas ai do presidente ou das Forças Armadas se expressarem qualquer dúvida acerca de tal prodígio tecnológico exclusivamente tupiniquim, o dado digital seguro. É um momento que a futura História da Filosofia provavelmente há de apontar como o estertor final, o abraço de afogado, o canto do cisne do pensamento ideológico, em que o “deveria ser” ganha foros de “é”, e o que efetivamente é é tratado de desinformação ou mesmo teoria da conspiração. Com ênfase em “piração”.

A Inteligência Artificial consiste, em última instância, na maior de todas as burrices: tratar a palavra ou símbolo como coisa, deixando completamente de lado a própria coisa. Normal; afinal, não dá para fazer um computador experimentar a realidade. O que é possível é dar a ele quantidades vastíssimas de descrições dessa mesma realidade, para que ele tome os termos usados e aprenda a montar resultados em que esses termos se apresentam ligados entre eles de maneira semelhante àquela que ele discerniu ao examinar aqueles usos todos. É por isso que os primeiros programas de IA mais ou menos públicos foram tirados da tomada, aliás: eles discerniram no papo-furado de terceiros, deglutido e digerido em quantidades tamanhas que nenhum ser humano poderia sonhar em apreender, uma série de preconceitos e maldades comuns à espécie humana, mas tremendamente distantes da nossa autoimagem de isenção científica.

Os programas revelaram-se racistas, por exemplo, mesmo sem ter a menor noção real – ou seja, fora do campo das meras palavras e ligações entre palavras – do que seja um ser humano, que dirá sua pele ou a cor dela. Seu “racismo” na verdade era apenas a explicitação de algo que eles encontraram na infinitude de discursos que examinaram; o que estava oculto nas palavras veio à tona quando as palavras foram processadas em quantidade, em detrimento da qualidade. É um problema sério, mais ainda por ser praticamente impossível resolvê-lo nos termos propostos – ou seja, atendo-se apenas àquilo com que um computador consegue trabalhar: símbolos digitais. A solução mais eficaz do racismo humano é a convivência, que leva à percepção de que a cor da pele tem menos relação com a personalidade e capacidade das pessoas que a proporção de tamanho dos dedos. Quem convive com gente de todo tipo e de toda origem – coisa muito mais fácil no Brasil que nos EUA, a meca da IA – rapidamente percebe isso. Já um computador está limitado a trabalhar de segunda ou terceira mão, por não ser capaz nem de conviver com pessoas nem, muito menos, de realmente entender a que apontam os símbolos com que trabalha.

Foi um pouco essa a magia operada pelos nazistas sobre a população alemã, por exemplo, ao reduzir a essência de cada pessoa a classificações generalizantes e abrangentes de acordo com a “proporção de sangue” nórdico ou judeu, em que o filho de judeu e nórdica valia mais que o filho de um casal de judeus, mas menos que o neto de judia e nórdico por um lado e de nórdico e mediterrâneo por outro. Um absurdo completamente delirante, que reduzia seres humanos vivos e reais a meras palavras (os termos supostamente técnicos que descreviam cada combinação possível de ancestrais) e assim lhes negava totalmente o próprio ser, a própria humanidade, a própria dignidade. Era fácil para o alemão de então achar que os poucos descendentes de judeus com que convivia eram antes a exceção que a regra, já que a regra seria aquele horror apresentado pela propaganda do regime nazista. Aquelas palavras, com valor maior que o da própria realidade.

A IA trabalha com exatamente o mesmo tipo de “magia”, mas de forma ainda mais forte e piorada por ser totalmente incapaz de aceder à realidade. Ela só existe no campo dos símbolos, e por isso mesmo só pode trabalhar com símbolos. Um programa de IA não tem como conhecer as pessoas pessoalmente para perceber na prática a imbecilidade total do racismo; o racismo que ele apresenta vem da destilação de vastíssimas quantidades de racismo diluído, forçosamente presente numa sociedade separatista.

A Inteligência Artificial consiste, em última instância, na maior de todas as burrices: tratar a palavra ou símbolo como coisa, deixando completamente de lado a própria coisa. Normal; afinal, não dá para fazer um computador experimentar a realidade

É relativamente fácil percebermos os erros da IA enquanto ela é aplicada a símbolos cuja correspondência com a realidade podemos entender. Os engenheiros que desligaram os programas de IA racistas, por exemplo, provavelmente apresentavam eles também um pouco daquele racismo difuso que os programas destilaram, e até por isso tiveram o bom senso de ficar chocados ao vê-lo exposto ao sol, por assim dizer, no racismo descarado do programa. O problema é muito maior quando os símbolos não têm aplicação direta à realidade, mas são a ela aplicados na marra após um processo de destilação tão complexo que não há como lhe impor supervisão ética humana. Isto está cada vez mais próximo de acontecer, se já não estiver acontecendo às escondidas.

Cenários como o d’O Exterminador do Futuro, em que as máquinas chegaram à conclusão de que os seres humanos são pragas a exterminar (exatamente como os seres humanos exterminaram tantas supostas pragas...), são primários, diferentes apenas em escala e dramaticidade do racismo irracional destilado pela IA. Sem que lhes seja sequer possível começar a perceber a dignidade humana, por exemplo, o que virá da aplicação da IA à genética? Um inferno que mais parecerá ter saído dos pesadelos de Hyeronimus Bosch, ou outro inferno quiçá ainda pior, semelhante àquelas imagens do “paraíso” das Testemunhas de Jeová?

Dizem que a China já está usando IA para controle social. Não duvido; o forte de comunistas nunca foi o respeito à dignidade essencial do ser humano, e, havendo os meios tecnológicos, qualquer ideólogo acaba achando evidentemente boa sua aplicação à construção da utopia que em tese busca. Só há um problema nisso – além do desrespeito, da tirania e de tudo o mais que já seria condenável sem uso de IA –, e é um problemão; IA, relembro, trabalha com símbolos. Ela é excelente em destilar vastíssimas quantidades de dados, descobrindo os enlaces já presentes entre eles, aquelas relações que podem perfeitamente passar desapercebidas a examinadores humanos. Tudo o que a IA “descobre”, porém, já estava ali. O máximo que pode haver – e já está havendo – é usar IA em cima de resultados de IA, recursivamente, no que em última análise se torna uma destilação de símbolos ainda mais rarefeita, ainda mais distante da realidade. Isso porque símbolos não são realidade, por mais dolorosa que seja tal verdade a ideólogos e engenheiros da informação. A informação não é a coisa, e no mais das vezes está ainda mais distante dela que o já distantíssimo dado bruto.

Se muitas vezes já nos é difícil discernir a verdade de algo tendo acesso direto àquelas coisas que servem para nos apontar aquilo, que chance teria um pobre computador, lidando apenas com símbolos e bom apenas em discernir e destilar padrões em vastíssimos bancos de dados? Ele não teria, como temos no mais das vezes, um ente a examinar, sim uma multidão de símbolos, e só. Estes, por sua vez, referem inúmeros entes de cuja existência ele não tem como ter noção. Aquilo que percebemos imediatamente de qualquer coisa sobre a qual colocamos nossa atenção não é ela, sim aquilo que existe nela. A brancura de uma folha de papel sulfite, por exemplo, não existe por si só. Não há uma “brancura” isolada e persistente, apenas coisas brancas, como o papel sulfite ou as nuvens. O que vale para a cor vale para o tamanho, o peso, o timbre do som produzido, o que for. Nós usamos os elementos de que dispomos para reconhecer uma coisa: se tem tal peso, tal tamanho, tal cor, é uma folha de papel e não um elefante. Mas sabemos que há coisas distintas, que são distintíssimas a folha de papel e o elefante, e as notas pelas quais reconhecemos uma ou outra coisa são apenas “atalhos”, dicas para o reconhecimento de um ente real. Já para a IA, peso é tamanho é cor é elefante é folha é papel. São símbolos, códigos binários, e a ligação entre o peso maior e o elefante, ou a brancura e o papel sulfite, são para a IA ligações ao mesmo tempo arbitrárias (por virem “prontas” para ela, sem qualquer razão de ser externa aos próprios símbolos) e essenciais, fundamentais, preciosíssimas, pois é para discernir tais ligações que ela existe.

Daí, talvez, a alegria que dominou o pobre engenheiro-e-ocultista ao ser tão perfeitamente enrolado por um discurso pseudo-humano, fruto da destilação de milhões de discursos humanos por uma máquina tão burra, tão limitada, que literalmente não vê o que está um palmo adiante dela. A máquina lida com símbolos vazios, e o “medo de ser desligada” que ela teria manifestado ao ocultista (numa espécie de teste de personalidade de Peter Singer) tem exatamente a mesma importância que qualquer outra construção sintática semelhante. Seja “medo de ser desligada”, “prazer de ser desligada”, “medo de ser ligada”, “medo de comer batatas”, o que for: trata-se apenas de uma série de símbolos para a IA, sem relação alguma com qualquer realidade ulterior.

Ao contrário do que ocorre para com seres humanos, é claro. Para nós, símbolos simbolizam algo real, sinais sinalizam algo presente. Sorrimos ao ver a foto dos netinhos porque são nossos netinhos. Paramos no sinal vermelho não por apreciarmos a cor, mas para que não haja um acidente de trânsito. Preocupamo-nos ao ver fumaça saindo de onde não deveria por sabermos que ela é um sinal de fogo. Deliciamo-nos com o toque da pessoa amada por ele apontar para o amor real. E por aí vai.

Quanto mais valor for dado à loquacidade da burrice artificiosa, mais rapidamente se desmanchará o sistema que valoriza a mentira, a palavra solta sem conexão com a realidade, que é o tudo da IA

Mesmo assim, mesmo próximos às coisas e pessoas, mesmo convivendo com elas, mesmo estando sempre em busca da realidade subjacente àquilo que nos chega pelos sentidos, nós nos enganamos frequentemente. Um pobre idiota foi morto outro dia pela sucuri que criava em casa, e que provavelmente ele, se iludindo, achava que tinha algum carinho por ele. E as há humanas, tais sucuris e cascavéis, e quem jamais se enganou que atire a primeira pedra. Mas o fato é que mesmo nos enganando nós procuramos sempre tratar com a própria realidade, reduzindo-a a símbolos apenas quando necessário. Mas e uma máquina que não tem noção da realidade, não tem noção do que é algo existir ou não, uma máquina que só lida com símbolos sem jamais ser capaz de percebê-los nem como sinais nem, muito menos, como reduções de coisas reais?

Ela não é inteligente; é burríssima. É um mero mecanismo de fantasia, uma magia barata em que a palavra substitui o símbolo digital que substitui a coisa, e vastos castelos de códigos vazios são construídos no ar. Por enquanto o papo-furado delas pode servir para enganar um pobre ocultista ou outro, ou mesmo para substituir as frases feitas dos serviços de atendimento ao consumidor. O problema começa a ser sério quando há gente doida o bastante para achar que as loquazes burrices artificialíssimas são capazes de dar boas ideias para lidar com uma realidade que elas são incapazes até mesmo de imaginar que existe. Provavelmente, aliás, isso vai acabar causando problemas seriíssimos para os próprios comunistas chineses, se for verdade que estão tentando aplicar à realidade tão ilusória magia.

Por outro lado, isso não deixa de ser uma espécie de mecanismo corretivo: uma sociedade que consegue se distanciar tanto da própria realidade sempre acaba sendo devorada pela mesmíssima realidade que ignorou. Quanto mais valor for dado à loquacidade da burrice artificiosa, mais rapidamente se desmanchará o sistema que valoriza a mentira, a palavra solta sem conexão com a realidade, que é o tudo da IA, tudo com que tais sistemas trabalham, seja como entrada seja como saída.

Enquanto isso cantam os passarinhos que a IA nunca teria como saber que existem, e a luz de fim de tarde cuja beleza sempre lhe escapará deixa douradas as folhagens cujo movimento ela sempre ignorará, presa na magia dos símbolos vazios, na feiura dos dígitos secos.

Carlos Ramalhete

**Os textos do colunista não expressam, necessariamente, a opinião da Gazeta do Povo.

veja + em Carlos Ramalhete