Investigação divulgada pelo Wall Street Journal esta semana tornou pública a informação de que a rede social Instagram, pertencente ao grupo Meta, proprietário também do Facebook e do WhatsApp, estaria ajudando a conectar e promover uma vasta rede de contas abertamente dedicadas à compra de conteúdo sexual envolvendo menores de idade.
Como destaca a publicação, os pedófilos usam a internet há muito tempo, mas, ao contrário dos fóruns e serviços de transferência de arquivos que atendem a pessoas interessadas em conteúdo ilícito, o Instagram não apenas hospeda essas atividades. Na verdade, seus algoritmos as promoveriam.
Para escapar de potencial censura e responsabilização criminal, pedófilos envolvidos na divulgação de material contendo abuso sexual infantil com postagens rotuladas e promovidas estariam fazendo uso estratégico de hashtags e emojis codificados. Pesquisadores da Universidade Stanford (Stanford University) e repórteres do Wall Street Journal descobriram, por exemplo, que a rede social se tornou um mercado aberto para os criminosos, com o Instagram não apenas permitindo, mas também facilitando a descoberta e o crescimento dessas contas abusivas.
Embora fora de vista para a maioria na plataforma, as contas sexualizadas no Instagram são descaradas sobre seu interesse. Para esconder suas intenções, os pedófilos se utilizariam de uma linguagem codificada. Emojis, como um mapa (que significa “menor-atraída pessoa”) e uma pizza (que representa “pornografia infantil”), são usados como uma espécie de código secreto. Além disso, os pesquisadores descobriram que o Instagram permitia que as pessoas pesquisassem hashtags explícitas.
As contas do Instagram que oferecem a venda de material sexual ilícito geralmente não o publicam abertamente, em vez disso, publicam “menus” de conteúdo. Certas contas convidam os compradores a realizar atos específicos.
A investigação revelou ainda que, mesmo após relatos de abuso, a empresa deixou algumas postagens inalteradas por meses. Devido à falta de ação eficaz, contas banidas simplesmente reapareceriam, pois, as sanções são geralmente aplicadas às contas e não aos usuários ou dispositivos.
A promoção de conteúdo de sexo com menores de idade viola as regras estabelecidas pela Meta, bem como a lei federal em quase todos os países. Em resposta às perguntas do Wall Street Journal, a Meta reconheceu problemas em suas operações de fiscalização e disse que montou uma força-tarefa interna para tratar das questões levantadas. “A exploração infantil é um crime horrível”, disse a empresa, acrescentando: “Estamos continuamente investigando maneiras de nos defender ativamente contra esse comportamento”.
A Meta disse ainda que nos últimos dois anos derrubou 27 redes pedófilas e está planejando mais remoções. Desde que recebeu as consultas do Wall Street Journal, a plataforma disse que bloqueou milhares de hashtags que sexualizam crianças, algumas com milhões de postagens, e restringiu seus sistemas de recomendar aos usuários que pesquisem termos associados a abuso sexual. Ela disse que também está trabalhando para impedir que seus sistemas recomendem que adultos potencialmente pedófilos se conectem ou interajam com o conteúdo um do outro.
Apesar dos esforços da plataforma para mitigar a disseminação de conteúdo sexual infantil, a supervisão de palavras-chave se mostrou, aparentemente, desafiadora. A reportagem revelou, por exemplo, que o Instagram permitiu que os usuários pesquisassem termos que seus próprios algoritmos sabiam que poderiam estar associados a material ilegal.
Além disso, a plataforma tem sido criticada por sua resposta lenta e muitas vezes inadequada às denúncias de abuso sexual infantil. Uma falha de software impediu o processamento de uma parcela significativa das denúncias dos usuários, e a equipe de moderação da empresa não estava aplicando adequadamente as regras da plataforma. Mesmo quando o Instagram derruba contas que vendem conteúdo sexual para menores de idade, elas nem sempre desaparecem.
Sarah Adams, uma mãe canadense de dois filhos, compartilhou sua experiência pessoal com a plataforma em entrevista à publicação americana. Após o contato superficial com uma conta que promovia o incesto, ela descobriu que a mesma estava sendo sugerida a outros usuários que visitaram seu perfil, demonstrando a falha no sistema de recomendação do Instagram.
Embora a Meta tenha reconhecido as falhas e tenha informado que está trabalhando em correções e treinamento adicional para moderadores, muitos questionam se as medidas são suficientes. A situação levanta questões sérias sobre a segurança das crianças em plataformas de mídia social e se as gigantes da tecnologia estão fazendo o suficiente para proteger seus usuários mais vulneráveis.
