O perigo de bebês com cabeça em formato de repolho e Jesus com corpo de camarão nas redes sociais!
Os golpistas têm um futuro brilhante graças à IA © sitthiphong/Shutterstock
Esse conteúdo, gerado por IA, é destacado pelo algoritmo do Facebook, permitindo que golpistas prendam suas vítimas.
O notável grau de realismo exibido pela tecnologia de geração de imagens pode ocasionalmente ser perturbador. Estes modelos demonstraram a capacidade de gerar fotografias altamente realistas que capturaram o interesse e a imaginação de muitos indivíduos, incluindo alguns que podem não compreender totalmente os riscos potenciais associados à circulação de tal conteúdo, coloquialmente conhecidos como “boomers”.
Uma pesquisa recente realizada pelo Observatório da Internet de Stanford destacou as graves consequências para a segurança e integridade dos utilizadores, especialmente das crianças. Os receios já observados relativamente à utilização abusiva destas tecnologias para injetar informações falsas no discurso político,.
Jesus parece amar camarão a ponto de se tornar um…na Internet, de qualquer maneira, tudo é possível © Love God & God Love You no Facebook
O cativante surrealismo da IA
O magnífico surrealismo de “Shrimp Jesus” ilustra perfeitamente a capacidade da IA de produzir imagens atraentes, novas e envolventes. Resumindo, centenas de páginas de spam geradas por IA são publicadas repetidamente todos os dias e são favorecidas pelo algoritmo de recomendação de IA.. Como resultado, conteúdos cada vez mais malucos se tornam virais e depois são oferecidos às pessoas que gostaram dele. Algumas destas páginas, inicialmente criadas para atrair um grande número de assinantes, foram desde então redirecionadas para sites saturados de publicidade, por vezes gerada por IA, ou para sites que vendem produtos baratos ou oferecem descontos..
Além disso, algumas páginas começaram a comprar temas que destacam temas como Jesus ou incentivam curtidas em páginas como “Se você respeitar os militares dos EUA”.
“Essas imagens representam centenas de milhões de interações no total e são apresentadas através do feed de notícias do Facebook para alguns usuários do Facebook que não seguem as páginas, diz Renee DiResta, do Stanford Internet Observatory.
Esses bebês super fofos são gerados pela IA e espalhados pelas redes © Oun Tein Monkey no Facebook
IA no crescimento de páginas e golpes
Para entender como a tecnologia é usada para o crescimento de páginas e integrada em spam e golpes, os pesquisadores examinaram mais de 100 páginas do Facebook, cada uma postando mais de 50 imagens geradas por IA. Algumas dessas contas formam clusters coordenados, que publicam um grande número de imagens geradas por IA. As motivações aparentes parecem ser atrair usuários para sites fora da plataforma, vender produtos e conquistar um maior número de seguidores.
Os pesquisadores concentraram-se em indivíduos que gerenciam contas e páginas com spam que direcionam seus seguidores para fazendas de conteúdo, bem como naqueles que se envolvem em atividades fraudulentas, como tentativa de vender produtos inexistentes, furtar sites que supervisionam ou manipular feedback de seus audiência através de meios enganosos. Os dados coletados abrangem inúmeras interações de usuários, totalizando bilhões de instâncias e são frequentemente exibidos no Feed de Notícias do Facebook para membros que não assinam essas páginas específicas.
Este fenômeno bastante recente ainda não suscitou uma resposta do Meta, que, no entanto, parecia comprometido com a luta contra os deepfakes. Mas isso pode mudar em breve, como o Google, que recentemente ajustou seu algoritmo principal para eliminar conteúdo de qualidade inferior de seus resultados.
30 de agosto de 2023 às 09:00 Comparações de serviços
Fonte: Futurismo, Stanford Internet Observatory
*️⃣ Link da fonte: