Criado pela desenvolvedora chinesa MoMo, o aplicativo não está disponível na App Store do Brasil ou dos Estados Unidos, nem na Google Play Store. Em fóruns como o Reddit, no entanto, é possível encontrar um APK para download no sistema operacional Android. Ainda assim, é necessário ter um número telefônico chinês para concluir a instalação.

App polêmico por nudez chega ao fim; entenda caso

Quer comprar celular, TV e outros produtos com desconto? Conheça o Compare TechTudo

O desenvolvedor de jogos Allan Xia testou o Zao e mostrou do que o app é capaz. Em seu perfil no Twitter, Xia postou um vídeo de 30 segundos em que aparece no corpo do ator Leonardo DiCaprio em várias cenas de filmes. Em outro clipe produzido com a aplicação, o usuário faz o papel de personagens da série Game of Thrones.

Embora cômicos, os resultados são convincentes. Segundo Xia, o primeiro vídeo foi produzido em apenas oito segundos, a partir de uma única foto, cuja miniatura está no canto inferior esquerdo do clipe. No entanto, conforme apurado pela agência de notícias Bloomberg, o app também orienta os usuários a tirar uma série de fotografias em diferentes situações — piscando os olhos ou abrindo a boca, por exemplo — para criar deepfakes mais realistas.

O Zao exemplifica como a tecnologia deepfake tem se tornado não apenas mais sofisticada, como também mais acessível. A técnica, que usa aprendizado de máquina e inteligência artificial para criar vídeos falsos em que pessoas se encontram em situações pelas quais nunca passaram na vida real, apareceu pela primeira vez no fim de 2017. Desde então, atrizes de Hollywood já foram vítimas de falsos clipes pornô, empresas passaram a oferecer o serviço e o Congresso dos Estados Unidos criou projetos de lei que criminalizam a prática.

Para que a transformação aconteça, o Zao requer que os usuários façam o upload de uma foto pessoal para os servidores da MoMo. Na primeira versão do app, os termos e condições de uso estipulavam que a empresa possuía uma licença "gratuita, irrevogável, permanente e transferível" de todo o conteúdo gerado pelo usuário. A política de privacidade gerou uma reação quase que imediata do público, que deixou a página do Zao na App Store com mais de quatro mil críticas negativas.

A MoMo atualizou os termos de uso, informando que o app não usará as imagens enviadas para outros propósitos senão o de melhorar o aplicativo e outros usos aprovados pelos usuários. A empresa acrescentou também que, caso as imagens sejam deletadas pelos usuários, elas também serão removidas dos servidores. A medida, no entanto, não foi rápida o bastante: o episódio rendeu ao Zao uma avaliação de 1,9/5 na App Store chinesa.

A polêmica com privacidade lembra o episódio do FaceApp, aplica