Um sistema pernicioso de vigilância em massa?
O algoritmo CAF na mira da Quadrature du Net © sylv1rob1/Shutterstock
O fundo de bolsa família buscaria complicar a vida dos mais precários? Em qualquer caso, é o que afirma uma publicação recente da Quadrature du Net, uma associação que luta pelas liberdades digitais.
Após um longo período de preparação, a Quadrature du Net adquiriu com sucesso o código-fonte de um algoritmo destinado a auxiliar no combate à fraude online. No entanto, a organização levantou preocupações sobre a imparcialidade do algoritmo, afirmando que este “fornece provas irrefutáveis da natureza tendenciosa dos critérios de seleção” e afeta desproporcionalmente indivíduos vulneráveis, resultando numa “punição dupla” para aqueles que enfrentam desafios significativos.
A caça aos pagamentos indevidos
Na prossecução dos seus esforços para combater as técnicas de vigilância, uma organização que defende as liberdades digitais divulgou publicamente dois antigos algoritmos. Estes modelos, utilizados sucessivamente de 2010 a 2014 e novamente de 2014 a 2018, foram concebidos para determinar a “pontuação de suspeita” de um destinatário para determinar se era justificado um exame de potenciais pedidos de pagamento indevido. Lamentavelmente, a iteração atual deste algoritmo permanece indisponível através do Fundo Central Francês (CAF).
possuir um nível de rendimento baixo, receber benefícios da Receita de Solidariedade Ativa (RSA), residir numa zona socialmente desfavorecida ou não ter emprego estável. Além disso, os indivíduos que são elegíveis para o Subsídio para Pessoas com Deficiência Adulta Permitido (AAH) e que exercem uma atividade remunerada também podem ser abrangidos pelo âmbito deste algoritmo.
Um algoritmo “neutro”?
A implementação de um algoritmo que desfavorece estruturalmente indivíduos em circunstâncias vulneráveis foi considerada como um componente de um mecanismo de vigilância em massa generalizado e prejudicial pela La Quadrature du Net. Em resposta às críticas levantadas pelo Defensor dos Direitos, um representante da autoridade francesa de protecção de dados (CAF) afirmou que o algoritmo é imparcial e, na verdade, contraproducente para a discriminação, uma vez que não fornece qualquer fundamentação para as suas selecções.
O algoritmo proposto pretendia abranger aproximadamente 32 milhões de indivíduos, incluindo cerca de 13 milhões de menores residentes em domicílios que receberam assistência do CAF. Estas metas baseavam-se na deteção de pagamentos em excesso superiores a 600 euros num período de dois anos, ou uma média de 25 euros por mês.
Fonte: Quadrature du Net, GitLab
*️⃣ Link da fonte: