Telegram: robô usa deepfake para colocar rosto de mulheres e crianças em filmes pornô

O Telegram está inserido em uma enorme polêmica: alguns usuários da região da Rússia e países vizinhos criaram grupos com robôs dotados de uma Inteligência Artificial capaz de gerar fotos pornográficas de mulheres conhecidas, os DeepNudes. Atualmente, a empresa ainda não solucionou o problema e é acusada de ignorar os avisos de diversos especialistas.

O problema se agrava com a suposta presença de imagens de crianças e adolescentes, entre as muitas produzidas diariamente pelos robôs nos grupos dedicados à atividade. Para isso, os criminosos usaram uma versão modificada da ferramenta DeepNude AI, criada no ano passado, capaz de remover roupas de fotos e compor o resto do corpo digitalmente.

A empresa de segurança digital Sensity, responsável por expor o caso, estima que mais de 100 mil fotos foram geradas desde o surgimento dos grupos. Nesse sentido, ela já havia descoberto a presença do robô na plataforma no início desse ano e não obteve resposta prática do Telegram nas tentativas de contato.

Em outubro, após a revelação do caso para a mídia, os grupos que anunciavam o serviço dos robôs se silenciaram, usuários conhecidos trocaram de nome e os canais mudaram o assunto quanto deepfakes, tratando agora de outras tecnologias relacionadas. Tudo isso dificultou a investigação da rede criminosa para as autoridades, que agora compõem uma força tarefa internacional.

Apesar do silêncio, a Sensity afirma que os robôs continuam operando discretamente e, na verdade, nunca pararam de funcionar. Entretanto, após as denúncias em outubro, foi possível limitar sua atuação em dispositivos iOS, que passaram a exibir na época uma mensagem de aviso de violação da seção 1.1 da guia de desenvolvedores. A regra limita conteúdos explicitamente pornográficos ou sexuais na App Store. Atualmente, apenas uma mensagem genérica de erro aparece no Telegram ao tentar usar o robô.

A investigação ainda revelou mais problemas entre os grupos de Telegram, como o caso de canais voltados para a divulgação de fotos íntimas como vingança. Os diversos casos colocam a política de privacidade do mensageiro em cheque, que agora está mais do que nunca sob pressão das autoridades para se posicionar sobre o assunto.