Google Duplex conversando com pessoal ao telefone.

O Google quer tornar a humanidade obsoleta — e está conseguindo

Por
9/5/18, 12h13 8 min Comente

Desde 2016, o Google é uma empresa que se pauta por inteligência artificial (IA). Na visão deles — e de boa parte da indústria —, IA é a pedra fundamental em cima da qual se constrói a próxima onda de tecnologia de consumo. Não por acaso, o Google está muito bem posicionado para essa nova corrida e, recorrentemente, demonstra essa vantagem com produtos inéditos, incríveis e que desafiam a nossa credulidade.

No primeiro dia do Google I/O, o evento anual que a empresa promove para falar a desenvolvedores e apresentar suas novidades ao mercado, uma tecnologia chamou a atenção. Chama-se Google Duplex. Trata-se de uma inteligência artificial personificada em voz sintetizada, indistinguível da humana, que liga para estabelecimentos comerciais a fim de resolver problemas mundanos.

Na demonstração, vimos a voz agendar um corte de cabelo falando com um ser humano do salão, sem que a pessoa na outra ponta desconfiasse que estava falando com um robô, e outra reservando uma mesa em um restaurante. Aqui tem uma explicação técnica e, abaixo, as conversas (em inglês):

Parece uma tecnologia tentadora. Além da ojeriza que desenvolvemos em relação às ligações, reconheçamos que alguns estabelecimentos comerciais pioram deliberadamente essa forma de contato com seus clientes. Colocar uma inteligência artificial esperta para cancelar uma conta junto à operadora de telefonia móvel parece uma vingança irresistível às horas e fios de cabelo perdidos com atendentes precarizados seguindo roteiros confusos a fim de nos fazer desistir do cancelamento. Ou, então, colocá-la para falar com outros robôs menos sofisticados, como aqueles de bancos que pedem para você falar o que deseja apenas para, em seguida, informar que não entendeu a requisição, pode repetir pausadamente?

Seria ingenuidade, porém, acreditar que pararíamos (ou pararemos, se depender do Google) aí. Existem situações ainda mais delicadas que são ou podem ser tratadas por telefone. Repreender ou corrigir alguém no trabalho, por exemplo. Ou terminar um relacionamento amoroso. Soam como situações extremas, o que é verdade, mas que permanecem no mesmo patamar das com que o Google Duplex promete lidar nesse momento. São problemas que podem ser sanados por ele.

“Progressos”

A curta história da tecnologia de consumo está repleta desses “progressos” inadvertidos. Tomemos a noção de privacidade: coisas que são lugar comum hoje seriam, há uma ou duas décadas, consideradas absurdas. O que Google e Facebook fazem (para ficar nas duas maiores) é distorcer as noções convencionadas no contrato social para criarem o novo normal. A gente dá pouca atenção ao poder de moldagem que as empresas de tecnologia têm porque, a princípio, tudo parece fascinante e/ou inofensivo. Super útil, a ponto de ignorarmos as implicações nefastas que decorrem da nova tecnologia.

Algoritmos estão próximos a nos entender melhor do que nós mesmos nos entendemos. A gente já concede isso em algumas situações tangenciais: seguimos, sem questionar muito, o caminho que o Waze nos dá porque ele entende a cidade; ansiamos pelas playlists personalizadas do Spotify porque ele sabe o que gostamos e do que vamos gostar; as sugestões da Netflix não costumam errar porque, para os seus algoritmos, é fácil decodificar as características de uma produção audiovisual que nos agrada. Em que ponto parar? No que depender do Google, esse ponto não existe.

Vai além: seu seguro pode ficar mais barato se você tiver o perfil e os hábitos corretos. Seu crédito na praça também depende de uma conta feita por algoritmos capazes de prever, melhor do que qualquer promessa que você fizer, até pela sua mãe mortinha, que você irá pagar esse empréstimo. Em 2013, o Facebook já conseguia prever, com grande precisão, quando, com quem e por quanto tempo você namorará.

O mais ultrajante no Google Duplex é a audácia em simular o que nos torna humanos — as nossas imperfeições. A inteligência artificial hesita, faz pausas, diz “uhum”. Só faltou fazer o som de respiração ao telefone, mas não duvide que, caso a agenda do cabeleireiro esteja lotada, ela dê um suspiro de lamento.

Numa era com tanta desinformação e com tecnologias capazes de simular vozes conhecidas com computadores vendidos em supermercado, essa tecnologia é uma caixa de Pandora prestes a ser aberta. E é antiética, no sentido que engana a pessoa do outro lado da linha a pensar que está falando com outro ser humano, quando, na realidade, está falando com o nada.

Não é a primeira vez que o Google terceiriza para computadores atividades humanas. Na mesma apresentação no Google I/O, por exemplo, a empresa mostrou o “Smart Compose” do Gmail, uma inteligência artificial que escreve e-mails inteiros a partir de algumas palavras digitadas pelo usuário. É uma ampliação das Smart Replies, do próprio Gmail e do Allo, que oferece sugestões de respostas com base no que o interlocutor disse. O fim desse caminho é terceirizar toda a nossa comunicação.

GIF mostrando Smart Compose do Gmail em ação.
Smart Compose em ação. GIF: Google/Reprodução.

Imagine o WhatsApp mandando parabéns para todos os aniversariantes da sua agenda de contatos, automaticamente, todo dia. Que conveniente! Que artificial.

O futuro que nos aguarda

No livro Homo Deus, Yuval Noah Harari se debruça sobre o futuro da humanidade a médio prazo. Ele diz que é uma reflexão sobre os próximos 200 anos, mas talvez ele tenha subestimado o Google.

Vencidas as três piores mazelas da humanidade — a fome, a peste e a guerra, segundo Harari —, o que nos moverá? Como o avanço da tecnologia impactará a humanidade, no sentido mais profundo do termo? Em outras palavras, o que nos sobra quando inteligências artificiais como a do Google forem capazes de, além de agendar cortes de cabelo, reservar mesas em restaurantes e escrever e-mails, desempenharem todas as outras tarefas, chatas ou não, que hoje pessoas fazem, de fabricar parafusos a compor música clássica?

A certa altura, próximo do final do livro, Harari diz que uma solução pode ser nos saciarmos com realidade virtual e drogas alucinógenas. Embora esse pareça um cenário atraente para muita gente, a implicação de algo assim no sentido da existência seria brutal. Seria, para o autor, “um golpe mortal na crença liberal da sacralidade da vida humana e das experiências humanas”.

Antes disso, porém, quando os algoritmos se provarem marginalmente melhores que nós mesmos em decidir o que é melhor para nós em mais esferas da vida, eles virarão “hackers da humanidade”. Escreve ele:

“Quando isso acontecer, a crença no individualismo entrará em colapso e a autoridade vai se transferir de indivíduos humanos para algoritmos em rede. As pessoas não mais se verão como seres autônomos que levam suas vidas de acordo com o seu bem querer; na verdade, vão se acostumar a se verem como uma coleção de mecanismos bioquímicos que é constantemente monitorada e guiada por uma rede de algoritmos eletrônicos. Para que isso se concretize, não há necessidade de um algoritmo externo que me conheça perfeitamente e que nunca cometa nenhum erro; basta que esse algoritmo me conheça melhor do que eu me conheço e que cometa menos erros do que eu. Então fará sentido confiar a eles cada vez mais decisões e escolhas da vida.”

O livro de Harari me veio à mente enquanto assistia à inteligência artificial do Google enganar um ser humano pelo telefone. Veio novamente, semana passada, quando o Facebook mostrou pessoas com um capacete de realidade virtual de US$ 200 agitando as mãos no vazio para “jogar ping pong” ou assistir a uma TV gigante (virtual) em uma cobertura (virtual) com uma vista panorâmica do pôr do Sol (virtual).

Com uma frequência cada vez maior, me lembro de Homo Deus enquanto vejo os anúncios de novos produtos das maiores empresas do mundo ou Mark Zuckerberg dizendo que inteligência artificial resolverá os problemas (muito humanos!) do Facebook. Talvez o Google só esteja nos conduzindo ao inevitável, mas não deixa de ser assustador, e um pouco triste, testemunhar esse empobrecimento generalizado da existência travestido de tecnologia de ponta.

Compartilhe: