ONG estuda uso de IA para assédio sexual, ciberbullying e extorsão sexual contra crianças e adolescentes e vai apresentar como será a pesquisa no IGF 2025, em Lillestrom
A SaferNet participa nesta quarta-feira (25) do Fórum de Governança da Internet (IGF, 2025), organizado pela ONU, em Lillestrom, Noruega. A ONG fará parte do debate “Combate às deepfakes sexuais: protegendo adolescentes globalmente” que vai abordar, entre outros temas, como escolas poderão implementar cidadania digital e conhecimento sobre os perigos das deepfakes sexuais.
No Brasil, várias escolas, especialmente da rede particular, têm enfrentado problemas com a alteração de imagens reais com inteligência artificial (deepfakes) com conteúdo sexual. Aplicativos divulgados em redes sociais e vendidos em grupos e fóruns criados em aplicativos de mensagens, por exemplo, permitem a “nudificação” de uma imagem, ou seja, modificar uma foto verdadeira de uma pessoa em qualquer traje, fazendo com que ela apareça nua.
Geralmente, as vítimas das deepfakes são meninas e os autores, meninos. A manipulação de imagens de pessoas menores de 18 anos para conteúdo de nudez ou ato sexual é um ato infracional equivalente ao crime de “pornografia infantil”. Além da difusão das imagens de nudez criadas com inteligência artificial, os casos acabam envolvendo o ciberbullying e a extorsão sexual, quando o autor da imagem chantageia a vítima para não divulgar a foto ou o vídeo criado com IA.
Além da SaferNet, o debate do qual a ONG participará terá representantes da Ásia e da Europa.
No debate, a diretora de projetos especiais da SaferNet falará do estudo “Uso indevido de IA generativa: perspectivas sobre riscos e danos centradas nas crianças” que está sendo conduzido pela ONG sobre o uso de IA para assédio sexual, ciberbullying e extorsão sexual contra crianças e adolescentes. Juliana apresentará também dados das pesquisas realizadas pelo projeto Discover da SaferNet, no Telegram, sobre disseminação de imagens de abuso e exploração sexual infantil nessa plataforma.
O projeto brasileiro, um estudo qualitativo, financiado com recursos do fundo SafeOnline, gerido pela Unicef, terá metodologia participativa e contará com a participação direta de jovens para a geração de dados com a visão de adolescentes sobre suas experiências relacionadas aos riscos e ameaças trazidos por imagens de abuso sexual e nudez geradas por IA generativa.
“O estudo que está sendo realizado pela SaferNet visa preencher uma lacuna em dados qualitativos sobre o mau uso de IA generativa no Brasil visando a recomendação de políticas baseadas em evidências e centradas nas crianças que possam ir além do pânico moral e abordagens meramente punitivas e focar na criação de conhecimento sobre o impacto dessas imagens e o abuso e exploração sexual infantil online, ciberbullying, assédio e extorsão sexual e a criação de estratégias de prevenção desses crimes”, afirmou a diretora de projetos especiais da SaferNet, Juliana Cunha, que está na Noruega para o IGF2025 e participará do debate.
O debate dessa quarta-feira tratará de medidas legais e educacionais que sejam efetivas para discutir os impactos da criação e divulgação de deepfakes sexuais entre adolescentes nas escolas; como o currículo escolar pode incluir a cidadania digital e conhecimento sobre os perigos das imagens sexuais criadas com IA generativa e que medidas pró-ativas podem ser implementadas pelos países para antecipar as mudanças tecnológicas e prevenir os perigos das deepfakes sexuais contra os adolescentes de todo o mundo.
Os participantes do debate, de acordo com o site do IGF2025, “terão uma compreensão mais clara de quão sério e disseminada se tornou a questão das deepfakes sexuais entre crianças e adolescentes em várias partes do mundo”.
Sobre a SaferNet
A Safernet completará 20 anos de existência em dezembro deste ano. Durante sua trajetória, a ONG brasileira tornou-se referência na promoção dos direitos humanos na internet. Com uma abordagem multissetorial, atua no enfrentamento aos crimes cibernéticos contra os Direitos Humanos, no acolhimento de vítimas de violência online e em programas de educação, prevenção e conscientização.
A Safernet mantém o Canal Nacional de Denúncias, conveniado ao Ministério Público Federal e o Canal de Ajuda, o Helpline, para vítimas de violência e outros problemas online. A Safernet promove o uso seguro da internet com projetos educacionais como a Disciplina de Cidadania Digital.
Texto publicado em 24/06/2025
SERVIÇO
IGF 2025, Lillestorm, Noruega, Sala 1 (Room 1)
Debate: Combate às deepfakes sexuais: cuidando dos adolescentes globalmente (Combating Sexual Deepfakes: Safeguarding Teens Globally)
Com Yi Teng Au, Ji Won Oh, Kenneth Leung, Janice Richardson e Juliana Cunha (SaferNet Brasil).
Quando: 25 de Junho de 2025
Horário: 4h (horário de Brasília)
Para assistir ao vivo, inscreva-se no site do IGF2025.
