Pioneiro da IA teme ‘robôs assassinos’ e prefere seguir uma visão positiva, a la Star Trek

• 2

Yoshua Bengio teme que as inovações na inteligência artificial, da qual ele foi um dos pioneiros, possam levar a um futuro sombrio, caso "robôs assassinos" caiam em mãos erradas.

Mas o cientista da computação de 55 anos, canadense de fala mansa que este ano recebeu o Prêmio A. M. Turing – considerado o Prêmio Nobel da informática –, prefere ver o mundo com o idealismo de Star Trek ( "Jornada nas Estrelas"), em vez da visão apocalíptica de "O Exterminador do Futuro".

"Em 'Jornada nas Estrelas' há um mundo em que os seres humanos são governados pela democracia, todo mundo tem serviços de saúde, educação e alimentação, e não há guerras, exceto contra alguns alienígenas", disse Bengio, cuja pesquisa ajudou a pavimentar o caminho para a tecnologia de reconhecimento facial e de voz, a visão computacional e os carros autônomos, entre outras coisas. "Também tento unir a ciência com a forma como ela pode melhorar a sociedade."

Bengio falava sobre as promessas – e perigos – da IA recentemente, em seu pequeno escritório no Instituto Montreal de Aprendizagem de Algoritmos, um centro de pesquisa fundado por ele, que fez de Montreal um centro global de IA. A seu lado havia um quadro branco coberto com equações matemáticas complexas, juntamente com um aviso aos faxineiros escrito em francês: "Não apague."

Apagar essas equações poderia ter um alto custo para os seres humanos, assim como para as máquinas.

LEIA TAMBÉM: O breaking point da inteligência artificial

Bengio, professor de ciência da computação na Universidade de Montreal, é discreto. Mas seu trabalho em uma área conhecida como "aprendizagem profunda" – "ensinar máquinas a aprender de uma forma inspirada em nosso cérebro", diz ele – já afetou nosso dia a dia de inúmeras maneiras, possibilitando que o Google Translate converta uma sentença do francês para o mandarim, ou que um software detecte células cancerosas em um exame médico por imagem.

Ele e seus pesquisadores também estão aproveitando a IA para descobrir moléculas que poderiam curar doenças, detectar preconceitos de gênero em livros didáticos e prever quando desastres naturais vão acontecer.

Cherri M. Pancake, presidente da Associação de Maquinário Computacional, que oferece o prêmio de US$ 1 milhão, creditou Bengio e dois outros luminares da IA que compartilharam o prêmio, Geoffrey Hinton e Yann LeCun, como tendo criado a base para as tecnologias utilizadas por bilhões de pessoas."Quem tem um smartphone no bolso" sentiu seu impacto, disse ela, observando que o trabalho dos três também forneceu "novas ferramentas poderosas" nos campos da medicina, da astronomia e da ciência dos materiais.

Myriam Côté, cientista da computação que trabalhou com Bengio durante mais de uma década, descreveu-o como um iconoclasta e livre-pensador que se sentiria imobilizado pela limitação do Vale do Silício. Um verdadeiro comunitário, disse ela, ele evita a hierarquia e é conhecido por compartilhar os lucros de seus próprios projetos com os colegas mais novos, menos estabelecidos.

"Ele quer criar em liberdade", disse ela. Citando o credo dos estudantes rebeldes em 1968 em Paris, onde Bengio nasceu, ela afirma que a filosofia dele é: "É proibido proibir."

Isso pode ser visto em sua abordagem da IA.

Mesmo quando o falecido Stephen Hawking, o célebre físico de Cambridge, advertiu que a inteligência artificial poderia ser "o pior acontecimento na história da nossa civilização", e o empresário bilionário Elon Musk alertou que poderia criar um "ditador imortal", ele permaneceu otimista.

"Precisamos buscar conhecimento científico ou viveremos frustrados. Mas precisamos fazê-lo de modo sábio", disse ele. Referindo-se ao uso da álgebra para calcular os ângulos de mísseis, acrescentou: "Você não pode culpar o inventor da álgebra pela guerra."

No entanto, num momento em que os algoritmos do Facebook vêm sendo criticados por sua influência na eleição de 2016 nos Estados Unidos e em que aumenta o medo de que robôs poderiam usar a IA para perseguir pessoas sem a supervisão humana, Bengio está extremamente consciente de que suas inovações poderiam se tornar "monstros de Frankenstein". Como resultado, disse, ele apoia a regulamentação da IA, incluindo um tratado internacional que proíba "robôs assassinos" ou "armas autônomas mortais".

Mas rejeitou o "cenário do exterminador", no qual uma máquina dotada de emoções humanas se volta contra seu criador. As máquinas, salientou ele, não têm ego nem sentimentos humanos, e não são escravas que querem ser libertadas. "Imaginamos nossas criações se voltando contra nós porque estamos projetando nossa psicologia nelas", disse ele, classificando isso de "ridículo".

Filho de judeus sefarditas de Casablanca, no Marrocos, que emigraram para Paris na década de 1960, Bengio começou a se interessar por IA na infância, quando devorou livros de ficção científica de Isaac Asimov, Ray Bradbury e Arthur C. Clarke.

Bengio atribuiu seu sucesso a seus pais socialmente conscientes, observando que o pai, farmacêutico e diretor de teatro, e a mãe, agente de artistas, deram a ele e a seu irmão a liberdade de pensar por si mesmos.

LEIA TAMBÉM: Robôs e inteligência artificial vão somar US$ 15,7 trilhões ao PIB global, mas América Latina terá fatia pequena disso

Parece ter funcionado. Seu irmão, Samy, um ano mais novo, dirige um grupo de pesquisa no Google Brain, uma equipe de pesquisa de IA. Os dois eram "praticamente gêmeos", disse ele, colaborando na pesquisa e trocando ideias.

Quando ele tinha 12 anos, a família se mudou para Montreal, onde viviam seus avós maternos. Ele se lembra de que, enquanto perseguia seu mestrado e seu doutorado em ciência da computação na Universidade McGill no fim da década de 1980, se interessou pelo trabalho de Hinton, que se dedicava ao desenvolvimento de "computadores inteligentes" com base em redes neurais, algoritmos matemáticos que podem aprender tarefas por conta própria, analisando vastas quantidades de dados.

"Não era apenas matemática ou ciência da computação, mas a compreensão da inteligência humana para construir máquinas inteligentes." O trabalho de pós-doutorado no Instituto de Tecnologia de Massachusetts e no Bell Labs veio a seguir.

Bengio contou que ele, Hinton e LeCun trabalharam em redes neurais por décadas, mesmo quando muitos no departamento de ciência da computação as ignoravam, vendo-as como besteira, quase "magia negra", com pouca, ou nenhuma, aplicação prática. Para Bengio, ignorar os pessimistas e ir contra a sabedoria convencional era algo natural.

"O grande sonho de construir máquinas inteligentes desapareceu no fim dos anos 90 e as pessoas pensavam: 'Ah, é muito difícil – vamos só usar nossos algoritmos para resolver problemas concretos'", lembrou-se ele. "Acho que não ligo para o que as pessoas pensam, e eu acreditava no que estava fazendo."

Seu trabalho pioneiro transformou o campo – e o promoveu a estrela da IA –, mas Bengio ainda gosta de passar tempo com os alunos, a quem descreve como uma "família". Ele é divorciado e tem dois filhos adultos, um dos quais também trabalha com IA. Ele passa seus raros momentos livres lendo Spinoza e caminhando pela floresta perto de sua casa.

Sem se impressionar com prêmios científicos ou riqueza, Bengio salientou que a complacência e a confiança excessiva eram inimigas do progresso científico.

"Acreditar em si mesmo não é suficiente. Você pode ser autoconfiante e estar errado."