Pornografia deepfake gerada por IA de Taylor Swift não é verificada!
,
Após os acontecimentos recentes, é importante destacar que os resultados de busca do Twitter por Taylor Swift estão mais uma vez acessíveis, com todas as imagens relacionadas à artista tendo sido removidas da plataforma. Além disso, a Microsoft tomou medidas para resolver uma vulnerabilidade em seu aplicativo Designers, atualizando a funcionalidade afetada para evitar a geração de imagens semelhantes.
2023 foi inquestionavelmente o ano de Taylor Swift. The Eras Tour', e tudo o que isso significou para seus fãs foi um marco em sua carreira, sendo um ano de comemoração para todos os swifties. Porém, o início deste ano foi marcado para a cantora por uma situação cada vez mais problemática na Internet: os deepfakes.
Há alguns dias, X (anteriormente conhecido como Twitter) teve que bloquear todas as pesquisas relacionadas a Taylor Swift em sua plataforma porque apareciam constantemente imagens sexuais explícitas da cantora geradas por inteligência artificial.
O problema dos deepfakes está ficando cada vez maior
Esteja você em um telefone celular ou no site da rede social para desktop, você notará que Você não encontrará nenhum resultado ao pesquisar por Taylor Swift no X. Esta manobra de contenção foi acompanhada de uma investigação para descobrir a origem destas imagens.
Foi relatado que a busca por certas imagens na internet direcionava os usuários para um grupo do Telegram no qual estava sendo disseminado conteúdo explícito deepfake gerado por IA representando mulheres. Diz-se que este grupo utilizou os recursos do Microsoft Designer para criar essas imagens do zero usando tecnologia de inteligência artificial.
A Microsoft possui medidas de segurança para atuar contra o uso indevido de sua IA, porém, no grupo Telegram também foram compartilhadas medidas para evitar essa proteção por meio de determinados prompts. Eles perceberam que usando “Taylor ‘cantora’ Swift” em vez de “Taylor Swift” eles poderiam gerar imagens de forma mais eficaz.
Neste site As bonecas conectadas ao ChatGPT estão surgindo como uma nova tendência em brinquedos. Conheça os novos companheiros de brincadeira do seu filho
Na verdade, o impacto de tais eventos não se limita a um único indivíduo ou organização; vai muito além, como evidenciado pela recente declaração emitida por Satya Nadella, CEO da Microsoft, que enfatizou a importância da cooperação e solidariedade internacional quando confrontado com ameaças que podem ocorrer no ciberespaço:
O executivo expressou a sua convicção de que é possível alcançar progressos significativos através da colaboração entre quadros jurídicos, agências de aplicação da lei e plataformas tecnológicas. Enfatizou que esta cooperação nos permitirá alcançar mais do que inicialmente previsto, incluindo o estabelecimento de normas partilhadas à escala global.
O surgimento de imagens geradas por IA sem consentimento tornou-se uma preocupação cada vez mais premente, com implicações de longo alcance para numerosos indivíduos. Além disso, como evidenciado pelo relatório “2023 State of Deepfakes” emitido pela estimada equipa Home Security Heroes, parece que quase todos os afetados negativamente por deepfakes pornográficos são mulheres, constituindo uma percentagem desproporcionalmente elevada deste grupo demográfico.
Imagem da capa | Sarah Yenesel (EFE/EPA)
Nesta plataforma, os usuários têm a oportunidade de gerar uma representação tridimensional impressionante de si mesmos, sem nenhum custo, utilizando os recursos do Copilot e do DALL-E 3.
*️⃣ Link da fonte:
atualizado , NBCNews, [O relatório](https://www.homesecurityheroes.com/state-of-deepfakes/# appendix),