Tecnologia

Telegram: robô usa deepfake para colocar rosto de mulheres e crianças em filmes pornô

Rosto de qualquer pessoa, inclusive o seu, pode ser trocado pelo rosto original da atriz. Polícia já atua no caso
20/11/2020 - 11h17min Tecmundo Corrigir

O Telegram está inserido em uma enorme polêmica: alguns usuários da região da Rússia e países vizinhos criaram grupos com robôs dotados de uma Inteligência Artificial capaz de gerar fotos pornográficas de mulheres conhecidas, os DeepNudes. Atualmente, a empresa ainda não solucionou o problema e é acusada de ignorar os avisos de diversos especialistas.

O problema se agrava com a suposta presença de imagens de crianças e adolescentes, entre as muitas produzidas diariamente pelos robôs nos grupos dedicados à atividade. Para isso, os criminosos usaram uma versão modificada da ferramenta DeepNude AI, criada no ano passado, capaz de remover roupas de fotos e compor o resto do corpo digitalmente.

A empresa de segurança digital Sensity, responsável por expor o caso, estima que mais de 100 mil fotos foram geradas desde o surgimento dos grupos. Nesse sentido, ela já havia descoberto a presença do robô na plataforma no início desse ano e não obteve resposta prática do Telegram nas tentativas de contato.

Dificuldades técnicas

Em outubro, após a revelação do caso para a mídia, os grupos que anunciavam o serviço dos robôs se silenciaram, usuários conhecidos trocaram de nome e os canais mudaram o assunto quanto deepfakes, tratando agora de outras tecnologias relacionadas. Tudo isso dificultou a investigação da rede criminosa para as autoridades, que agora compõem uma força tarefa internacional.

Apesar do silêncio, a Sensity afirma que os robôs continuam operando discretamente e, na verdade, nunca pararam de funcionar. Entretanto, após as denúncias em outubro, foi possível limitar sua atuação em dispositivos iOS, que passaram a exibir na época uma mensagem de aviso de violação da seção 1.1 da guia de desenvolvedores. A regra limita conteúdos explicitamente pornográficos ou sexuais na App Store. Atualmente, apenas uma mensagem genérica de erro aparece no Telegram ao tentar usar o robô.

A investigação ainda revelou mais problemas entre os grupos de Telegram, como o caso de canais voltados para a divulgação de fotos íntimas como vingança. Os diversos casos colocam a política de privacidade do mensageiro em cheque, que agora está mais do que nunca sob pressão das autoridades para se posicionar sobre o assunto.

MAIS NOTÍCIAS

ELETRO CLIC
ROGÉRIO CALÇADOS
SUPER SÃO JOSÉ
PADARIA ESTRELA
OLIDATA
RESTAURANTE COME COME
DIGA NÃO!
FUNERÁRIA BOM PASTOR
ADRIANO CONRADO
ART MÓVEIS
FUNERÁRIA CAMAQUENSE
Tocando agora: Relembre bons momentos
Diminuir/Aumentar Fonte: Fonte: A - A +