CAF revida acusações de discriminação de algoritmos
CAF nega monitoramento e discriminação de beneficiários © Corentin Béchade para este site
Acusado por La Quadrature du Net de ter implementado um sistema que prejudica os beneficiários mais precários, tenta se defender.
A recente escalada da controvérsia merece uma resposta nossa. Anteriormente, La Quadrature du Net, um grupo de defesa dedicado à proteção das liberdades digitais, divulgou uma declaração abrangente abordando alegações de parcialidade em relação à nossa plataforma, especificamente em relação ao X e ao Twitter.
“Classificar” e não “monitorar”
Num esforço para promover um discurso racional e bem informado em torno do assunto em questão, a Caisse des Allocations Familiales apresentou a sua perspectiva sobre a questão. É importante notar que os algoritmos empregados pela Quadrature não servem como meio de monitoramento dos beneficiários, mas sim para classificar arquivos contendo possíveis discrepâncias com o objetivo final de garantir um tratamento equitativo e minimizar reembolsos substanciais no futuro.
Os referidos algoritmos não se qualificam como “opacos” de acordo com os critérios da CAF; em vez disso, são considerados confidenciais para evitar a exposição de potenciais atividades fraudulentas. A organização divulgou os detalhes destes algoritmos tanto à CNIL como recebeu validação da Comissão de Acesso a Documentos Administrativos (CADA), o que confirma a sua legitimidade.
O algoritmo não apresenta comportamento discriminatório em relação aos destinatários mais empobrecidos; em vez disso, à medida que o programa de Transferência Condicional de Renda (CCT) atribui maior assistência a este grupo demográfico, eles tornam-se desproporcionalmente sobre-representados no sistema, levando a uma maior probabilidade de erros. De facto, o fundo observou que aproximadamente um terço de todos os ajustamentos pós-avaliação resulta em resultados favoráveis para estes indivíduos que recebem apoio financeiro adicional.
Um algoritmo muito “confidencial”?
Lamentavelmente, a organização não aborda o cerne da questão, especificamente os critérios que levam o algoritmo a priorizar a avaliação de perfis específicos em detrimento de outros. Como o algoritmo permanece confidencial, é inviável validar as afirmações feitas pelo Credit Assessment Framework (CAF).
Em essência, a declaração publicada no Twitter não aborda a questão política mais profunda destacada por La Quadrature du Net. Segundo a organização, é impossível existir um modelo algorítmico sem impactar negativamente a população vulnerável, pois seu fundamento está na identificação de pagamentos excessivos e não fraudulentos, como disse Daniel Buchet, ex-diretor de Gestão de Riscos e Prevenção de Fraudes da CAF , apontado em 2010.
Captura de tela do site da CAF © Sharaf Maksumov/Shutterstock
Na verdade, o fundo reconhece a necessidade deste empreendimento devido ao facto de reconhecer que os indivíduos de alto risco apresentam uma maior probabilidade de cometer erros, como evidenciado por cálculos matemáticos que indicam que 31% dos ajustamentos apoiam o beneficiário, enquanto 69% permanecem imparciais ou prejudicial ao seu caso.
Uma cláusula de revisão na primavera de 2024
As discrepâncias acima mencionadas podem ser atribuídas a “erros declaratórios não intencionais”, decorrentes da natureza complexa destes regulamentos, que aumentam a probabilidade de erros de cálculo, como sugerido por La Quadrature du Net. Esta noção é ainda apoiada pela declaração de Daniel Buchet em 2005, onde postulou que “as próprias vantagens sociais criam vulnerabilidade”, dado que abrangem vários aspectos das circunstâncias de um indivíduo, sujeitos a flutuações ao longo do tempo e inerentemente imprevisíveis.
Apesar dos esforços contínuos para extinguir as chamas, a Patrulha Aérea Civil (CAP) está a colaborar com uma equipa diversificada de especialistas, incluindo sociólogos, cientistas de dados e vários especialistas, a fim de aumentar a visibilidade e adaptabilidade das suas práticas algorítmicas. Os progressos alcançados até agora serão submetidos a uma avaliação abrangente até à primavera de 2024, altura em que poderão ser considerados quaisquer ajustamentos necessários à abordagem.
A fonte desta informação é uma publicação no Twitter de um indivíduo ou organização denominada “Abonos de Família-X”, bem como um relatório da Comissão dos Assuntos Sociais datado de 21 de Outubro de 2010.
*️⃣ Link da fonte:
Twitter tweet , Family Allowances-X/Twitter , Cairn, Atas-Comissão de Assuntos Sociais 21 de outubro de 2010 ,