O que é deepfake? Inteligência artificial é usada pra fazer vídeo falso

O fim do programa de deepfake se dá depois da repercussão negativa sobre o app na imprensa internacional. O site de tecnologia Motherboard foi o primeiro a noticiar a existência do software, ressaltando o perigo do uso indevido da tecnologia. Durante o dia de ontem, o aumento do tráfego fez com que o app enfrentasse instabilidade e ficasse fora do ar. No fim da tarde, a empresa anunciou em seu perfil no Twitter que o aplicativo havia chegado ao fim: "DeepNude não lançará outras versões e não permitirá o acesso de mais ninguém — nem mesmo de usuários Premium".

Quer comprar celular, TV e outros produtos com desconto? Conheça o Compare TechTudo

O objetivo da aplicação era, a partir de fotos comuns, tirar a roupa das pessoas em poucos cliques, criando nudes realistas. Vale destacar que o sistema funcionava sem o consentimento de quem estava na fotografia e apenas com imagens de mulheres, trocando a blusa por seios e a calça por vulvas. O Motherboard testou o DeepNude, que não funcionou com fotos masculinas e, de acordo com a reportagem, conseguiu melhores resultados com fotos de mulheres com roupas leves, em que mostravam mais a pele.

O site do DeepNude definia o serviço como "um software automatizado Offline que transforma fotos, criando fake nudes". O programa era gratuito e funcionava em computadores Windows e Linux. Quem quisesse imagens em alta resolução poderia comprar a versão premium por US$ 50 (cerca de R$ 200). Todas as imagens falsas geradas pela plataforma continham uma marca d'água com a palavra FAKE.

Embora o algoritmo do DeepNude seja similar ao que é usado para a complexa criação de vídeos deepfake, a existência de um aplicativo que cria imagens falsas em cerca de 30 segundos poderia popularizar o uso mal intencionado da tecnologia para assédio, por exemplo. O que, de acordo com o desenvolvedor do software (que permanece anônimo), não seria um problema "se alguém tem más intenções, ter o DeepNude não muda muito... Se eu não fizer, alguém fará isso em um ano", disse em entrevista ao Motherboard antes dar fim à plataforma.

De acordo com o comunicado de encerramento, os criadores não previram que o app se tornaria viral, já que "não é tão bom assim", mas que não têm interesse em ganhar dinheiro com o uso inapropriado do sistema. "As chances de ocorrer uso indevido do aplicativo, caso tivéssemos 500 mil usuários, seriam altas. Nós não queremos lucrar dessa forma", explicam.

Esta não é a primeira vez que a inteligência artificial é usada com conotação sexual, para manipular a imagens de mulheres. Em 2018, a tecnologia deepfake ficou conhecida por incluir o rosto de atrizes famosas em filmes pornô. O termo se refere a uma tecnologia baseada em IA, capaz de gerar vídeos falsos. A técnica permite inserir rosto de pessoas reais em clipes diversos, ou gerar um áudio para parecer que uma pessoa disse aquilo. Desde seu surgimento, o deepfake tem sido usado com fins políticos (com falsificações de grandes pessoas públicas, como Trump e Obama) ou para fins pornográficos.

"Esta é a breve história e o fim do DeepNude. Nós iniciamos esse projeto alguns meses atrás para o entretenimento de usuários. Nós achávamos que as vendas mensais eram poucas e estavam sob controle. Honestamente, o aplicativo não é tão bom assim, e apenas funciona em algumas fotos. Nós nunca achamos que o app viralizaria, e que não seríamo