Descobrindo a verdade chocante por trás da proliferação de imagens sexuais falsas

O surgimento de imagens deepfake tem sido motivo de preocupação, especialmente um incidente em janeiro passado envolvendo a musicista Taylor Swift, cuja imagem foi explorada através de milhares de fotografias manipuladas que a retratavam em situações comprometedoras na plataforma anteriormente conhecida como Twitter. O volume desse conteúdo motivou até uma resposta da Casa Branca, com sugestões de legislação para resolver o problema em questão.

Pode ser um desafio, se não totalmente inatingível, impedir a proliferação de deepfakes devido à natureza onipresente da Internet. Uma infinidade de ferramentas está prontamente acessível on-line, permitindo que os indivíduos sobreponham sua imagem em várias mídias com relativa facilidade. Mesmo navegando por portas virtuais, pode-se topar com uma rede expansiva de mercados deepfake que atendem a conteúdos ilícitos, como a pornografia.

Criar um deepfake está cada vez mais fácil

No final de fevereiro, um relatório preocupante foi publicado pela empresa de segurança cibernética CheckPoint sobre a proliferação de “fábricas de tráfico facial”. Parece que existem mais de 3.000 repositórios relacionados disponíveis em plataformas como o GitHub, voltado para desenvolvedores. Além disso, foi relatado que o Telegram hospeda vários canais entre 400 e 500, juntamente com vários grupos que oferecem serviços deepfake, incluindo bots automatizados para auxiliar os usuários durante todo o processo, bem como serviços personalizados fornecidos diretamente por profissionais individuais.

Com efeito, de acordo com o referido documento, a faixa de custos para tais ofertas é bastante diversificada. Começa em US$ 2 por clipe e pode chegar a US$ 100, abrangendo vários clipes e revisões. Consequentemente, pode-se supor que esta mídia enganosa constitui uma despesa excepcionalmente razoável.

Além disso, deve-se notar que este fenômeno frequentemente serve apenas como um passo inicial. Ao obter tais ferramentas, os utilizadores tendem a gerar quantidades excessivas de material explícito que posteriormente vendem ou carregam em sites adultos para obter ganhos monetários.

Aplicativos Deepfake disponíveis para todos na App Store

Na verdade, ao realizar uma investigação básica no Telegram, encontramos vários canais que defendem aplicativos deepfake.

Canal do Telegram promove serviço de “nudificação” de fotos.//Fonte: este site

Muitas dessas plataformas fornecem bots que podem executar automaticamente operações de roubo de imagens. Uma plataforma de língua russa notavelmente proeminente anuncia sua capacidade de criar vídeos deepfake convincentes a um custo acessível, aceitando pagamentos por meio de criptomoeda ou em rublos russos.

Um método alternativo envolve a utilização de software que permite a integração imediata de características faciais alteradas nas imagens gravadas. Estas ferramentas podem ser acedidas através da App Store e requerem apenas uma taxa nominal, normalmente na ordem dos vários euros, para gerar um extenso conjunto de vídeos manipulados, abrangendo tanto imagens como som.

A criação desses vídeos requer um investimento mínimo de tempo. Num esforço para recolher informações, experimentámos gerar imagens pornográficas utilizando software de inteligência artificial que obscurecia características faciais, a fim de proteger questões de privacidade. Da mesma forma, a ferramenta é capaz de produzir resultados semelhantes quando se trata de material sexualmente explícito.

Rosto de Vladmir Putin no corpo de Gretha Tunberg.//Fonte: este site

Informamos a Apple, o fabricante, sobre a presença deste software e recebemos uma resposta indicando que “os aplicativos podem ser submetidos para avaliação por equipes de revisão relevantes quando considerado apropriado.

Em essência, de acordo com as diretrizes estabelecidas pela App Store da Apple, representações ou representações explícitas de anatomia ou atos sexuais, destinadas a provocar excitação em vez de resposta artística ou emocional, constituem conteúdo proibido. O aplicativo em questão não exibe explicitamente tal conteúdo e, portanto, pode ser utilizado sem restrições. Além disso, existem inúmeras outras aplicações que operam com princípios semelhantes.

Em 2019, o Snapchat permitiu a disponibilidade de recursos deepfake para plataformas Android e iOS, permitindo assim que os editores criassem aplicativos de troca de rostos que podem promover casos de exploração sexual através de comunidades online.

A grande ameaça da desinformação às eleições

Dada a proliferação de deepfakes e o seu potencial impacto nos processos eleitorais, particularmente no que diz respeito às próximas eleições na União Europeia, nos Estados Unidos e noutros países, os profissionais de segurança cibernética da Check Point alertam que estes ficheiros multimédia manipulados podem perturbar significativamente o discurso político e minar confiança nos resultados eleitorais. A organização sublinha que este desenvolvimento representa uma ameaça sem precedentes às instituições democráticas a nível mundial, destacando a necessidade de uma maior sensibilização e de contramedidas robustas para salvaguardar contra tal interferência.

O quadro jurídico francês abrange uma abordagem abrangente de combate à desinformação, estendendo-se aos casos que envolvem conteúdos hiperfalsos. Por outro lado, a distribuição ou posse de material explícito com intenção de enganar é explicitamente proibida nos termos do artigo 226-8 do Código Penal.

Numa comunicação recente com esta plataforma, Marco Eggerling, que atua como Diretor de Segurança de Sistemas de Informação na Check Point, expressou as suas preocupações relativamente à potencial ameaça representada pelas ferramentas alimentadas por IA. Ele os vê como um dos desafios mais significativos que a sociedade contemporânea enfrenta. Por exemplo, houve casos em que as imagens de raparigas de ascendência espanhola foram exploradas na produção e distribuição de pornografia infantil. Tais ocorrências podem ter consequências devastadoras para as famílias afectadas. Além disso, indivíduos mal-intencionados podem utilizar tácticas semelhantes contra candidatos políticos para manipular os resultados eleitorais, de acordo com as observações do Sr. Eggerling.

Parece que a total dependência de fontes online de informação levou a uma proliferação de desinformação, como evidenciado pelo fenómeno acima mencionado. Contudo, pode ser difícil abster-se totalmente de tais fontes e, em vez disso, confiar apenas no jornalismo tradicional. Isto se deve em parte à facilidade com que se pode acessar e divulgar informações por meios digitais. Como tal, parece que devemos adoptar uma abordagem mais criteriosa ao consumir informação, incluindo fontes tradicionais e online, a fim de navegar no cenário incerto do consumo moderno de meios de comunicação social.

Conheça este site\+

A assinatura da nossa estimada publicação através da estimada plataforma do Google Notícias é altamente recomendada para aqueles que desejam se manter informados e atualizados sobre os acontecimentos atuais, pois garante que não serão privados de quaisquer desenvolvimentos ou atualizações de interesse jornalístico.

*️⃣ Link da fonte:

um relatório alarmante, várias meninas menores de origem espanhola ,