Inteligência Artificial pode criar

Enquanto as pessoas parecem ter se acostumado com a vasta existência de notícias falsas, as famosas “fake news”, a tecnologia já partiu para outro modo de falsificar informações: o “Fake Porn“. De acordo com a Motherboard, muitos usuários da internet têm criado conteúdo pornográfico falso substituindo os rostos das pessoas. Isso é feito por meio de inteligência artificial, que pode substituir o rosto de um ator ou atriz pornô por faces de outros famosos, por exemplo. 

O fenômeno começou a ficar popular no mês passado, especialmente no Reddit, onde usuários compartilham links e tecnologias para fazer a “montagem” do pornô usando IA. O usuário do site de nick “deepfakes” começou com a “moda” publicando um vídeo pornográfico onde o rosto da atriz Gal Gadot (protagonista de Mulher Maravilha) aparecia no corpo de uma atriz pornô. O vídeo foi criado com algorítimos de aprendizagem de máquina, ferramentas open source (encontradas em bibliotecas virtuais públicas) e imagens do Google, stock photos e YouTube. 

Um novo aplicativo de troca de face até foi criado pelo usuário. Agora, além da prática de montar os vídeos com rostos de personalidades famosas, o pornô falso pode ser criado com faces de qualquer pessoa apenas usando um app de inteligência artificial. É claro que apps com a função “swap face” (trocar os rostos) já existia, mas agora, com a IA, é possível substituí-los de maneira bem convincente em vídeos. 

O “deepfakes” criou seu app (chamado “deepfakeapp“) de troca de face em vídeos pornôs, e contou à Motherboard que sua intenção é fazer com que o usuário apenas selecione um vídeo, o rosto que deseja substituir e crie seu próprio conteúdo de maneira simples e rápida. É claro que os vídeos não são perfeitos, mas alguns chegam a ser realistas, fazendo com que pessoas acreditem que são verídicos. 

Gif do rosto de Jessica Alba no corpo de uma atriz pornô. A imagem utilizou o aplicativo “deepfakeapp”.

Por mais que pareça uma brincadeira ou apenas passatempo para que usuários realizem alguns desejos, essa prática se torna uma ameaça à vida pessoal das pessoas. Muito além de afetar personalidades famosas com a troca de rostos, a ferramenta pode ser uma alternativa ao “revenge porn” (pornô de vingança), onde ex-parceiros podem falsificar conteúdos para buscar atingir pessoas com as quais se relacionavam. 

Via: Engadget, Motherboard