ebook
GUIA DO REGRESSO ÀS AULAS
Prático e Descomplicado
Assunção Duarte
Assunção Duarte
24 Mai, 2021 - 11:19

Fake apps: criar conteúdos fictícios nunca foi tão fácil

Assunção Duarte

Gratuitas, divertidas e fáceis de utilizar, as fake apps vêm agravar os problemas de credibilidade e segurança que assombram a humanidade digital.

fake apps

As fake apps popularizaram-se durante o ano de 2020, transformando qualquer smartphone num verdadeiro estúdio de animação, capaz de criar os famosos vídeos “deepfake”.  Estas aplicações podem pedir subscrição paga, mas na sua maioria oferecem versões gratuitas com as quais o utilizador pode facilmente colocar a imagem de qualquer pessoa, a fazer e a dizer coisas que nunca fez ou disse. 

E assim, o que muitos temiam, aconteceu. A banalização de uma ferramenta que pode ser utilizada como arma de difamação, agressão e manipulação, com consequências gravíssimas. Quer para os que vêm a sua imagem manipulada, quer para os que acreditam e atuam com base nessas imagens falsas.

Fake apps: como funcionam

inovação tecnológica em aplicações

O nome deepfake surgiu de uma combinação entre deep learning – designação dada ao processo de aprendizagem aprofundado executado pelos softwares de Inteligência Artificial –  e a palavra fake (falso).

Nas fake apps, o deep learning define a forma como os algoritmos reconhecem padrões a partir de imagens reais, fotografias ou vídeos, sobre determinada pessoa. O algoritmo aprende “como é” essa pessoa e vai reproduzir a sua imagem num novo contexto. 

À medida que novos dados são introduzidos na aplicação, por exemplo algo que queremos que a pessoa diga ou um movimento que queremos que faça, o algoritmo executa-os, comparando constantemente o resultado gráfico com as imagens originais, corrigindo e optimizando os padrões encontrados.

Essa reprodução será tanto mais perfeita quanto maior for o número de imagens a que o algoritmo teve acesso sobre essa pessoa. Ele poderá assim aprender como ela se move, que expressões faciais tem, que movimento faz, e até mesmo como é a sua voz, para depois as reproduzir no novo contexto.

Fake apps: as mais famosas

aplicações para smartphone

Enquanto que os softwares primitivos utilizados no cinema de animação produziam estes efeitos de forma lenta e exaustiva, para obter um resultado final perfeito, as novas fake apps fazem-no de forma mais grosseira para serem mais rápidas e simples. Mas fazem-no cada vez melhor.

Deixamos-lhe aqui alguns exemplos das aplicações mais populares. 

1

Zao: a app chinesa

Esta aplicação foi a que mais popularizou a criação e partilha de deepfakes nas redes sociais.

Apesar de só estar disponível para o mercado chinês, ela tornou-se muito popular neste país e os vídeos produzidos pelos seus utilizadores invadiram a internet, especialmente o TikTok.

Muito fácil de utilizar e muito rápida a sincronizar expressões faciais, a aplicação permite que o utilizador possa colocar a imagem do seu rosto ou de qualquer outra pessoa, em qualquer tipo de vídeo, filme ou programa de TV, criando resultados muito realistas. 

No seu curto e bem sucedido período de vida, esta aplicação teve apenas um revés, que funcionou como um alerta para os utilizadores deste tipo de softwares. A MoMo, a empresa responsável pela Zao, ficava inicialmente detentora das imagens dos utilizadores, podendo utilizá-las livremente, mas viu-se obrigada a mudar a sua política. Atualmente, a empresa compromete-se a não utilizar essas fotos, apagando-as do servidor se o utilizador o fizer na sua aplicação. Mas ainda assim, fica o alerta.

A base de dados da Zao pode já ser imensa e tudo indica que vai crescer, quando ficar disponível para os utilizadores fora da China.

2

Reface: a troca de rostos mais rápida do ocidente

Esta aplicação utiliza a tecnologia Faceswap para trocar o rosto do utilizador pelo de outra pessoa num vídeo ou Gif animado. Basta o utilizador tirar uma selfie para que o seu rosto seja mapeado noutro rosto de forma muito realista.

A Reface é uma das aplicações mais descarregadas da App e Goole Store americanas. Lançada em Janeiro de 2020, em Setembro tinha já mais de 42 milhões de downloads a partir da App Store.

Para fugir às polémicas dos dados pessoais criadas pela estreante Zao, a Reface informa, à partida, os utilizadores sobre a sua política de privacidade: todas as fotos utilizadas são apagadas da Google Cloud após 24 horas.

3

Avatarify: a app mais popular para iPhone

Nunca foi tão fácil colocar uma celebridade ou a foto de outra pessoa a dizer e a fazer o que o utilizador está a dizer e a fazer em tempo real. Basta este abrir a foto da pessoa desejada e ligar a sua câmara de selfie. Depois é só falar e mexer-se para ver a imagem do ecrã repetir exatamente aquilo que está a fazer, como se fosse uma marioneta na ponta dos seus dedos.

Os vídeos feitos na versão gratuita exibem uma marca de água, mas se o utilizador fizer uma subscrição, ela deixa de aparecer. Já falta pouco para Avatarify ficar disponível também para Android.

Quantas aplicações do seu telemóvel usa realmente?
Veja também Quantas aplicações do seu telemóvel usa realmente?
4

Wombo: nunca foi tão fácil ser cantor

Esta aplicação é especializada em sincronização dos lábios o que permite ao utilizador transformar um fotografia sua ou de outra pessoa, num vídeo em movimento, onde aparecem a cantar.

Só nas primeiras duas semanas de utilização, esta app disponível para Android e iPhone, gerou mais de 100 milhões de vídeos.

A Wombo disponibiliza vários tipos de músicas por defeito para que o utilizador possa selecionar e aplicar à fotografia escolhia.

5

My Heritage: ressuscita fotos antigas

O site My Heritage permitia aos utilizadores descobrir a história familiar, desenvolver a sua árvore genealógica, encontrar novos parentes e explorar centenas de registos históricos. Mas agora também oferece uma nova funcionalidade de fake apps, a Deep Nostalgia, que permite aos utilizadores dar vida às suas fotografias de família mais antigas.

A aplicação tem um período experimental gratuito de 14 dias, mas os seus utilizadores crescem a olhos visto. Segundo fontes oficiais já foram feitas mais de 82 milhões de animações com o Deep Nostalgia e o número continua a crescer.

Fake apps: deepfake precisa de regras 

alterar uma imagem em aplicação

A tecnologia para a manipulação digital da imagem já há várias décadas que estava disponível ao grande público, como é o caso do famoso software Photoshop. Mas a facilidade com que estas novas aplicações o fazem com o vídeo veio mudar as regras do jogo, transformando-a numa arma perigosa para os utilizadores sem ética.

As notícias falsas, o assédio ou mesmo a criação de falsa pornografia, são os problemas mais denunciados e, até agora, têm sido as mulheres as maiores vítimas.

O primeiro grande boom de utilização do deepfake foi feito recorrendo à imagem de atrizes, cantoras e personalidades femininas famosas que foram mapeadas e colocadas em cenas de vídeos para adultos. O chamado Revenge Porn (pornografia de vingança), que também já afectou mulheres da cena política e até mulheres que não são celebridades, é considerada uma das utilizações mais frequentes e prejudiciais das fake apps. (fonte: Deeptrace)

Mas estamos apenas no início da massificação desta tecnologia. Quer governos quer especialistas em ética, já demonstram grande preocupação pelo que ainda está para vir. Temem que possa contribuir para um cada vez maior descrédito sobre as instituições democráticas e apelam para que as próprias empresas que desenvolvem estas aplicações tomem medidas para definir regras e utilizações que permitam contornar estes problemas. 

Veja também