Como a CAF discrimina os vulneráveis

Para combater atividades fraudulentas no Fundo Bolsa Família (CAF), é utilizado um algoritmo. Este algoritmo foi concebido para identificar e avaliar potenciais fatores de risco associados a comportamentos fraudulentos, permitindo que a equipe investigativa da CAF tome as medidas adequadas. Embora esta abordagem tenha sido utilizada há algum tempo, a CAF não divulgou anteriormente detalhes específicos sobre os seus métodos devido a questões de confidencialidade.

Após uma investigação conduzida pela Quadrature du Net, foram obtidos insights sobre o algoritmo CAF, apesar de ter esperado vários meses para acessá-los. No entanto, a organização francesa focada na liberdade na Internet não consegue adquirir o código-fonte da versão atual; em vez disso, foi-lhes concedido acesso aos algoritmos utilizados de 2010 a 2014 e novamente de 2014 a 2018. Parece que a CAF optou por não divulgar todas as variáveis ​​utilizadas no seu processo, o que a Quadrature considera desagradável. No seu relatório, a associação expressa preocupações sobre práticas de vigilância preditiva “distópicas”, questionando se esta luta é verdadeiramente relevante ou se se tornou demasiado politicamente orientada e centrada na polícia.

Uma “pontuação de suspeita” atribuída a 32 milhões de pessoas

A revelação da Quadrature du Net revela um conceito intrigante conhecido como “pontuação de suspeita”, que é supostamente computado algoritmicamente por máquinas para cada destinatário dentro de um intervalo de 0 a 1.

Tendo em conta vários factores socioeconómicos, tais como circunstâncias familiares, situação profissional, situação monetária, potenciais deficiências físicas e localização residencial, além de dados recolhidos dos seus representantes sobre a natureza e extensão dos serviços utilizados, padrões de conectividade à Internet, duração desde última visita ao escritório, frequência da correspondência por e-mail e atualidade dos envios de declarações, a CAF calcula uma avaliação de risco para cada indivíduo registrado nela, totalizando 32 milhões de indivíduos, incluindo 13 milhões de menores.

De uma forma imprevista, o método pelo qual o algoritmo opera inadvertidamente apresenta preconceito em relação a indivíduos considerados vulneráveis ​​ou marginalizados. Para demonstrar este fenómeno, a Quadrature du Net realizou simulações de cinco níveis variados de suspeição, utilizando como exemplo perfis distintos e diversos.

-Uma família “rica” com alta renda. -Uma família “modesta” onde ambos os pais ganham o salário mínimo. -Um pai solteiro que ganha um salário mínimo. -Uma família em que ambos os pais são beneficiários de prestações sociais mínimas, -Uma família onde um dos pais é trabalhador com deficiência. O gráfico publicado pela Quadrature du Net revela as pontuações de suspeita dos cinco perfis acima.//Fonte: Quadrature du Net

O gráfico representado ilustra até que ponto o algoritmo CAF desconsidera nuances e preferências individuais, levantando preocupações quanto aos seus potenciais preconceitos em relação a indivíduos com níveis de rendimento mais baixos.

A consideração das prestações por invalidez como um factor de risco no âmbito do Quadro de Abordagem Comum (CAF) levou a várias preocupações éticas, paralelamente ao cenário das famílias monoparentais, que a CAF está actualmente a examinar mais aprofundadamente. O pressuposto subjacente da CAF é que os indivíduos com menos estabilidade financeira são susceptíveis de manipular os seus rendimentos, isentando assim aqueles com maior estabilidade do escrutínio. Esses fatores levantam questões adicionais sobre as variáveis ​​ocultas dentro da CAF e quais motivações podem estar impulsionando tais decisões.

A Quadrature du Net destaca em seu estudo que o algoritmo se concentra intencionalmente nos indivíduos mais vulneráveis. Além dessa afirmação, disponibilizaram publicamente o código-fonte do CAF, permitindo aos interessados ​​acessá-lo e utilizá-lo.

Com base num relatório da Quadrature du Net, parece que o nível de suspeita aumentou.

-se você tem baixa renda, -se você está desempregado, -se você se beneficia do RSA, -se você mora em um bairro desfavorecido, -se o aluguel dele for muito caro -se sua renda não for estável.

O indivíduo elucida que fatores sociais e econômicos exercem influência significativa sobre o sistema de pontuação, conforme evidenciado pela representação gráfica.

O algoritmo CAF pode ser visualizado no GitHub.//Fonte: Capture este site

Existe um sistema mais justo?

A questão central permanece se o CAF pode atingir o objetivo pretendido de detectar fraudes sociais de forma eficaz, sem prejudicar inadvertidamente indivíduos vulneráveis ​​ou aqueles que não estão em conformidade com as normas sociais definidas pelo modelo algorítmico.

La Quadrature du Net examina a lógica por trás da recente controvérsia em torno dos regulamentos propostos, argumentando que as restrições impostas à recolha de dados pessoais podem ser excessivas, dados os limitados benefícios percebidos. Além disso, levantam preocupações sobre o potencial impacto negativo dos esforços destinados a combater reclamações fraudulentas, uma vez que estas medidas resultam frequentemente num aumento das taxas de erro na comunicação de informações. A validade do algoritmo de Feedback de Precisão Contínua (CAF) permanece um tópico de controvérsia.

Convidamos você cordialmente a explorar ainda mais nossa estimada publicação, agraciando-nos com sua assinatura por meio de nossa presença no Google Notícias. Ao fazer isso, temos certeza de que você apreciará ainda mais o conteúdo excepcional que oferecemos e descobrirá uma grande variedade de artigos adicionais que se alinham aos seus interesses. Para garantir que você se mantenha informado e atualizado sobre todas as nossas atualizações mais recentes, assine nosso boletim informativo através do Google Notícias e desfrute de uma experiência de leitura perfeita, adaptada especificamente às suas preferências.

*️⃣ Link da fonte:

Quadraturando a Rede , colocar o CAF código-fonte on-line , Capturar este site ,