Facebook cria desafio de deepfakes para acelerar combate à manipulação ultrarrealista

• 0

O CTO do Facebook, Mike Schoepfer, anunciou nesta quinta-feira (05) a união de esforços acadêmicos e da indústria de tecnologia para combater um dos usos mais potencialmente danosos da Inteligência Artificial, o deepfake. A técnica consiste na produção de vídeos realistas gerados a partir de IA no qual pessoas reais aparecem fazendo e dizendo coisas fictícias, efeito que é possível por meio da substituição do rosto original da imagem.

No texto divulgado na página do Facebook voltada a IA, o CTO da companhia escreve que o deepfake "têm implicações significativas para determinar a legitimidade das informações apresentadas online. No entanto, o setor não possui um ótimo conjunto de dados ou benchmark para detectá-los".

Para acelerar a pesquisa e o desenvolvimento da área, o Facebook vai disponibilizar US$ 10 milhões para os esforços que reunirão ainda players como a Microsoft e universidades como o MIT em torno do chamado Deepfake Detection Challenge (ou Desafio de Detecção do Deepfake, em tradução livre).

Conforme Schoepfer "o objetivo do desafio é produzir tecnologia que todos possam usar para mais bem detectar quando a IA foi usada para alterar um vídeo, a fim de enganar o espectador. O desafio incluirá um conjunto de dados e uma tabela de classificação, além de concessões e prêmios, para estimular o setor a criar novas maneiras de detectar e impedir que mídias manipuladas via AI sejam usadas para enganar outras pessoas", conclui o executivo.

A informação é de que nenhuma informação de usuário do Facebook será empregada neste conjunto de dados; as imagens a serem manipuladas pelos participantes do desafio serão exclusivamente de atores (com o devido consentimento). O material será gratuitamente disponibilizado para uso da comunidade, "com participantes claramente concordantes e poucas restrições de uso".

Os parâmetros do desafio serão inicialmente testados em outubro e o Deepfake Detection Challenge será efetivamente lançado no mês de dezembro.