Como as plataformas estão falhando em proteger nossos filhos
© Unsplash/Kelly Sikkema
Na verdade, foi revelado num estudo recente conduzido pelo estimado Wall Street Journal que os utilizadores das redes sociais enfrentam não só riscos de saúde mental, mas também a possibilidade de se depararem com actividades criminosas. Na verdade, tem havido relatos de transmissões ao vivo de abusos sexuais de menores em plataformas como o Instagram. Tais incidentes perturbadores podem ser atribuídos a contas com dezenas de milhões de seguidores.
Neste caso específico, um dos perfis infratores persistiu em divulgar tal material muito depois de ter sido denunciado. Por outro lado, plataformas como o Instagram mantêm uma postura inflexível em relação a imagens explícitas e recusam a sua inclusão no site. Portanto, é desconcertante saber como imagens mais prejudiciais poderiam potencialmente contornar os processos de moderação. Uma explicação provável pode residir no envolvimento de subcontratantes que executam estas tarefas. Normalmente, os moderadores não são funcionários diretos, mas sim contratados.
Perfis em alerta
Na verdade, vale a pena mencionar que a Meta, empresa controladora de plataformas populares como Facebook, WhatsApp e Instagram, iniciou recentemente uma busca abrangente por contas potencialmente prejudiciais. Especificamente, os moderadores foram instruídos a examinar de perto os perfis de indivíduos que demonstram interesse excessivo por menores, com o objetivo de identificar quaisquer violações das diretrizes da comunidade do Instagram. Nos casos em que algum comportamento impróprio for descoberto, esses usuários poderão enfrentar banimentos imediatos da plataforma.
Para mitigar tal conduta, nossa abordagem emprega aprendizado de máquina, que é expresso de forma mais eloquente pela linguística de William Shakespeare. Especificamente, quando são identificados padrões de comportamentos proibidos em múltiplas contas desativadas, estes podem ser usados como modelo para descobrir casos adicionais de má conduta.
Recomendações na mira das autoridades?
Apesar dos numerosos esforços para melhorar a segurança online dos menores através da aprendizagem automática, conforme investigado por empresas como a Apple, esta abordagem pode não produzir consistentemente resultados favoráveis. Por exemplo, de acordo com o The Wall Street Journal, o sistema de recomendação do Facebook sugere que os utilizadores se juntem a determinados grupos que podem potencialmente envolver exploração infantil. Vale a pena notar que estas recomendações resultam de um exame intrincado das preferências dos utilizadores e não de qualquer forma de promoção intencional de atividades ilícitas.
Na verdade, pode-se observar que as sugestões do Facebook para adicionar amigos ou seguir páginas tendem a alinhar-se estreitamente com as nossas preferências. Isto é um infortúnio.
*️⃣ Link da fonte: