Uma jornada além da percepção negativa

A promulgação da Lei da IA ​​apresenta um desafio em termos de compreensão e articulação. A fim de clarificar as suas disposições, muita atenção foi dirigida a um aspecto saliente da legislação-nomeadamente, a proibição da pontuação social. Refere-se à prática de atribuir uma pontuação agregada ao caráter de um indivíduo com base em sua conduta, que pode variar ao longo do tempo.

Na verdade, o conceito de avaliar e avaliar uns aos outros não é uma ideia nova, pois foi explorado em um episódio da série de televisão “Black Mirror” intitulado “Nosedive”, que foi ao ar pela primeira vez na Netflix em 2016. A premissa do programa gira em torno de em torno de indivíduos que atribuem pontuações uns aos outros, criando assim uma sociedade movida por julgamentos e classificações superficiais.

A noção de pontuação social, que serve como uma representação implícita do mais formidável perigo algorítmico, suscita um consenso generalizado na sua representação. Desafiar esta construção seria insustentável. Consequentemente, a Europa abraça esta ideia com entusiasmo sempre que possível.

Em Outubro de 2021, o Parlamento Europeu manifestou a sua oposição à “classificação social” alegando que viola os direitos fundamentais e a dignidade humana. A Comissão Europeia já havia considerado a classificação social uma ameaça significativa à segurança da IA, categorizando-a como um risco inaceitável seis meses antes.

Veja a pontuação social para não ver o resto

Tornou-se popular destacar a inconsistência no recente tumulto. Embora sejam necessárias medidas de precaução, é igualmente importante examinar o que nos rodeia e resolver quaisquer problemas internos. O ato dos cidadãos avaliarem uns aos outros não é um fenômeno novo.

Na sociedade contemporânea existem diversas plataformas como Airbnb, Uber e Deliveroo, onde os usuários são convidados a avaliar o desempenho dos indivíduos que prestam serviços através de um sistema de classificação de uma a cinco estrelas. Estas classificações têm um impacto significativo nas oportunidades profissionais e nas condições de trabalho do indivíduo. Argumenta-se frequentemente que estas entidades representam apenas empresas privadas. No entanto, esta perspectiva ignora o papel crucial desempenhado pelas instituições administrativas na formação da nossa paisagem social.

Foi recentemente relatado pelo Le Monde e pela associação Quadrature du Net que o funcionamento do algoritmo CAF (Fundo de Abono de Família) foi descoberto. Este fundo calcula uma “pontuação de risco” para cada indivíduo com base no seu perfil, com o objetivo de identificar aqueles que têm maior probabilidade de cometer fraudes. Curiosamente, parece que este método afecta desproporcionalmente certos grupos, incluindo indivíduos solteiros e aqueles em circunstâncias mais vulneráveis, especialmente mulheres.

O nosso sistema educacional também depende de avaliações, com os alunos recebendo elogios ou críticas na forma de classificações acadêmicas, como uma pontuação de dez ou dezoito em vinte. Em alguns casos, essas avaliações podem fazer com que os alunos fiquem entrincheirados em parâmetros confinantes que são difíceis de transcender.

A utilização da inteligência artificial possui preconceitos inerentes, que não permitimos que se manifestassem na sua concepção. A alusão à noção de “pontuação social” serve apenas como uma acusação às questões sistémicas abrangentes subjacentes a este fenómeno, em vez de atribuir a culpa a qualquer entidade ou factor singular.

Conheça este site\+

A subscrição da nossa estimada publicação através da estimada plataforma Google News é altamente recomendada para aqueles que desejam manter-se informados e a par da atualidade, garantindo que não perdem um único exemplar de informação pertinente.

do cache 1 4477/post_tag

*️⃣ Link da fonte: