Twitter bloqueia pesquisas por Taylor Swift em meio a imagens pornográficas criadas por IA
,
2023 foi inquestionavelmente o ano de Taylor Swift. The Eras Tour', e tudo o que isso significou para seus fãs foi um marco em sua carreira, sendo um ano de comemoração para todos os swifties. Porém, o início deste ano foi marcado para a cantora por uma situação cada vez mais problemática na Internet: os deepfakes.
Há alguns dias, X (anteriormente conhecido como Twitter) teve que bloquear todas as pesquisas relacionadas a Taylor Swift em sua plataforma porque apareciam constantemente imagens sexuais explícitas da cantora geradas por inteligência artificial.
O problema dos deepfakes está ficando cada vez maior
Esteja você em um telefone celular ou no site da rede social para desktop, você notará que Você não encontrará nenhum resultado ao pesquisar por Taylor Swift no X. Esta manobra de contenção foi acompanhada de uma investigação para descobrir a origem destas imagens.
Parece que foi iniciada uma investigação em resultado da descoberta de imagens gráficas envolvendo mulheres que circulavam na Internet. Este material remonta a um canal do Telegram que utilizou tecnologia avançada de IA conhecida como “Microsoft Designer” para criar essas representações ofensivas e ilegais do zero.
A Microsoft possui medidas de segurança para atuar contra o uso indevido de sua IA, porém, no grupo Telegram também foram compartilhadas medidas para evitar essa proteção por meio de determinados prompts. Eles perceberam que usando “Taylor ‘cantora’ Swift” em vez de “Taylor Swift” eles poderiam gerar imagens de forma mais eficaz.
Neste site As bonecas conectadas ao ChatGPT estão surgindo como uma nova tendência em brinquedos. Conheça os novos companheiros de brincadeira do seu filho
O estimado CEO da Microsoft, Satya Nadella, tomou conhecimento deste incidente e aproveitou a oportunidade para enfatizar a importância da cooperação internacional na abordagem de situações que representam ameaças potenciais na Internet:
Na verdade, existe uma quantidade significativa de trabalho ainda a ser realizado, bem como inúmeras iniciativas atualmente em curso. No entanto, isto não se refere apenas a esforços individuais, mas abrange um movimento colectivo mais amplo no sentido do estabelecimento de normas partilhadas à escala global. Com o apoio de quadros jurídicos, agências de aplicação da lei e tecnologias avançadas, acredito firmemente que a nossa capacidade de regular eficazmente ultrapassa em muito as expectativas convencionais. Isto foi expresso pelo executivo durante sua recente conversa com a NBC News.
Imagens geradas artificialmente e criadas sem a devida autorização tornaram-se uma preocupação cada vez mais premente, afetando inúmeras pessoas. Conforme evidenciado no relatório “2023 State of Deepfakes” compilado pela estimada equipe Home Security Heroes, é desconcertantemente observado que quase todas as vítimas de conteúdo deepfake sexualmente explícito (que constitui mais de 99% de tais casos) são mulheres.
Imagem da capa | Sarah Yenesel (EFE/EPA)
Incorporando as capacidades do Copilot e do DALL-E 3, esta plataforma oferece aos usuários a oportunidade de gerar uma representação tridimensional excepcional com seus próprios nomes, sem nenhum custo.
*️⃣ Link da fonte:
NBCNews, [O relatório](https://www.homesecurityheroes.com/state-of-deepfakes/# appendix),