Coreia do Sul enfrenta escândalo de pornografia deepfake em larga escala no Telegram

No mês passado, a Coreia do Sul foi abalada por umescândalo de pornografia deepfake que revelou a utilização crescente das imagens que são geradas por inteligência artificial que combinam o rosto de uma pessoa real com um corpo falso (normalmente em situações sexualmente explícitas), para assediar mulheres e meninas. O caso, que envolveu mais de 500 instituições educacionais, trouxe à tona o uso sistemático do aplicativo de mensagens Telegram para a disseminação dessas imagens.

A denúncia foi feita pela jornalista Ko Narin, que expôs a existência de grupos de bate-papo no Telegram onde usuários compartilhavam fotos de mulheres conhecidas e as transformavam em deepfakes pornográficos emquestão de segundos. A prática, que começou a ser investigada pela polícia em duas das principais universidades do país, se estendeu para escolas de ensino médio e fundamental, onde as vítimas eram expostas em salas de bate-papo rotuladas como “salas de humilhação”.

Governo e ativistas reagem

A reação pública foi imediata, levando o governo a prometer punições mais severas para os envolvidos. A Agência Nacional de Polícia de Seul anunciou que investigaria o Telegram por permitir a distribuição de imagens pornográficas falsas de crianças, seguindo o exemplo da França, que recentemente acusou o fundador do Telegram, Pavel Durov, de crimes relacionados à plataforma.

No entanto, ativistas de direitos das mulheres criticam as autoridades sul-coreanas por não agirem antes, apontando que o país já enfrentou crises semelhantes no passado. Em 2019, uma rede de sexo no Telegram coagia mulheres e crianças a criarem e compartilharem imagens sexualmente explícitas, masa falta de ação efetivapor parte do governo e da plataforma resultou em um agravamento do problema.

“Eles condenaram os principais atores, mas negligenciaram a situação, e acho que isso agravou a situação”, disse a jornalista Ko Narin.

A situação atual tem levado muitas jovens a desativarem suas contas nas redes sociais e a temerem por sua segurança online. A ansiedade gerada pela possibilidade de terem suas imagens manipuladas e compartilhadas tem feito com que adolescentes e jovens mulheres se tornemhipervigilantes em suas interações sociais.

Enquanto isso, o governo prometeu aumentar as penas para quem criar, compartilhar ou visualizar deepfakes pornográficos, reconhecendo a necessidade de abordar a raiz do problema, que reside no sexismo estrutural da sociedade sul-coreana.

As 10 personalidades brasileiras mais influentes nas redes sociais

1 /10(1º Neymar Jr - 3.5M)

2 /10(2º Vinicius Jr - 2.6M)

3 /10(3º Virginia Fonseca - 1.5M)

4 /10(4º Endrick - 1.3M)

+ 6