A vida desta mulher virou um inferno por causa da IA: "Puseram a minha cara num vídeo para adultos"

Há segundos que podem mudar uma vida para sempre. Para Kate Isaacs, bastou abrir o Twitter e olhar para uma notificação. No ecrã estava um vídeo pornográfico onde parecia ser ela a protagonista. O rosto era o seu. Os gestos pareciam reais. Mas havia um detalhe aterrador: Kate nunca tinha gravado aquelas imagens.

Era vítima de uma "deepfake", uma tecnologia de Inteligência Artificial capaz de manipular vídeos e fotografias para criar conteúdos falsos incrivelmente realistas. E, como contou pela primeira vez à BBC News, o pesadelo estava apenas a começar.

"Senti o pânico tomar conta de mim"

Kate Isaacs, de 30 anos, é ativista contra a pornografia não consensual, fundadora da campanha #NotYourPorn e seguida por mais de 14 mil pessoas nas redes sociais devido a esta causa que defende.  A ironia é cruel: foi precisamente por defender vítimas deste tipo de abuso que acabou por se tornar uma delas.

Segundo contou à BBC News, alguém utilizou imagens de entrevistas televisivas onde aparecia para sobrepor digitalmente o seu rosto ao corpo de uma atriz pornográfica. "Roubaram a minha identidade. Alguém pegou na minha cara, pô-la num vídeo pornográfico e fez parecer que era mesmo eu naquelas imagens. Foi como se o meu coração parasse. Não conseguia pensar. Só conseguia imaginar aquele vídeo a espalhar-se pela Internet", recordou.

O vídeo foi publicado no Twitter e Kate foi identificada diretamente na publicação, aumentando ainda mais a exposição.

O vídeo era falso, mas o impacto foi real

Apesar de saber que aquele conteúdo era fabricado, Kate temia que outras pessoas acreditassem que aquelas imagens eram verdadeiras. "Foi uma violação da minha identidade. Usaram o meu rosto de uma forma para a qual nunca dei consentimento", afirmou à BBC News.

A situação rapidamente saiu do controlo. Nos comentários começaram a surgir mensagens de ódio, ameaças de violação e promessas de que iriam persegui-la, filmar um ataque e divulgar as imagens online.

Pouco depois, os autores publicaram também a morada da sua casa e do local de trabalho, uma prática conhecida como doxing, que consiste na divulgação de dados pessoais com o objetivo de intimidar ou colocar alguém em perigo.

"Comecei a pensar na minha família. E se vissem aquele vídeo? E se alguém aparecesse em minha casa? Fiquei completamente paranoica."

A maioria das "deepfakes" já não tem celebridades como alvo

Durante anos, as deepfakes eram associadas sobretudo a celebridades ou políticos. Mas essa realidade mudou. De acordo com dados citados pela BBC News, da empresa de cibersegurança Deeptrace, cerca de 96% das deepfakes existentes na internet são vídeos pornográficos criados sem o consentimento das vítimas.

Qualquer fotografia publicada nas redes sociais pode servir de matéria-prima para este tipo de manipulação.

Mesmo quando desaparecem, nunca desaparecem totalmente

No caso de Kate, um colega denunciou rapidamente o vídeo, os comentários e a divulgação da sua morada. Todo o conteúdo acabou por ser removido da plataforma.

Mas isso não significa que tenha desaparecido da internet. Uma vez partilhadas, estas imagens podem ser copiadas, descarregadas e republicadas inúmeras vezes, tornando praticamente impossível eliminá-las por completo.

"Eu só queria que aquele vídeo desaparecesse da internet. Mas não havia nada que pudesse fazer", lamentou à BBC News.

A história de Kate é apenas um exemplo de um fenómeno que preocupa cada vez mais especialistas e autoridades. No Reino Unido, o Governo continua a trabalhar em legislação para responsabilizar plataformas digitais pela divulgação de conteúdos prejudiciais, incluindo este tipo de abuso sexual baseado em imagens geradas por Inteligência Artificial.

Enquanto isso, milhares de vítimas continuam vulneráveis a uma tecnologia que evolui mais depressa do que a capacidade de a travar. Como mostra o testemunho de Kate à BBC News, basta uma fotografia disponível online para que qualquer pessoa possa ser transformada, contra a sua vontade, na protagonista de um vídeo que nunca existiu.