Liberando o sucesso de golpes cibernéticos com IA de código aberto em seu PC!
,
“A inteligência artificial está avançando aos trancos e barrancos.” Não importa quando você lê isso, é verdade.. E não avança apenas na qualidade dos resultados, mas também na sua acessibilidade. E nem tudo depende de grandes plataformas comerciais na nuvem…
…agora é suficiente ter uma configuração de hardware, se não for ‘barata’, então moderadamente acessível, para poder executar poderosos modelos de IA de código aberto em nossos próprios PCs.
O surgimento de técnicas de aprendizagem profunda nos últimos tempos ampliou significativamente o escopo de aplicações potenciais para diversas tecnologias, como chatbots, assistentes virtuais, software de transcrição de áudio e ferramentas de geração de imagens, tornando-as prontamente disponíveis para empresas, programadores e indivíduos em todo o mundo.
Mistral AI, uma empresa francesa com grandes ambições de se tornar “a OpenAI europeia”, recentemente ganhou as manchetes com o lançamento do Mixtral 8x7B, um modelo adaptável liderado pelo principal cientista da empresa.
“corresponde ou supera LlaMa 2 70B e GPT3.5 na maioria dos benchmarks e […] suporta um comprimento de contexto de 32 mil tokens.”
Mixtral também é-parecido (mais ou menos) com o LLaMa 2 e diferente do GPT-3.5-um modelo código aberto. O que não significa apenas que é gratuito e que qualquer pessoa pode baixá-lo… mas também que qualquer pessoa pode modificá-lo, portanto não possui salvaguardas de segurança ou é exposto a qualquer pessoa com conhecimento suficiente pode remover tais salvaguardas.
Neste site A importância da IA de código aberto para evitar o ‘cenário SkyNet’… o mesmo que OpenAI e outros levantam para bloqueá-lo
Conforme afirmado por Ethan Mollick, um ilustre estudioso da Universidade da Pensilvânia e figura proeminente no campo da inteligência artificial,
“Este lançamento tem coisas boas, mas […] apontar os benefícios não anula os malefícios: […] reguladores, especialistas em segurança informática…, também devem ter em mente que ‘o génio saiu da garrafa’.
“Há uma série de implicações imediatas das quais as pessoas deveriam estar cientes, para o bem e para o mal. Por exemplo, aquele GPT-3.5 é muito bom em spear phishing. […] E esse modelo de código aberto é melhor que o GPT-3.5”.
Uma olhada em… ROUBO DE DADOS e PACOTES NÃO SOLICITADOS O QUE É ESCOVAÇÃO
O perigo do phishing de IA
Phishing é uma técnica de crime cibernético em que Os invasores tentam manipular suas vítimas fazendo-se passar por entidades confiáveis (administrações públicas, instituições financeiras, etc.) para roubar informações confidenciais, como senhas e dados financeiros.
Ao ter modelos de IA de alto desempenho à sua disposição, os invasores podem criar textos mais atraentes para seus e-mails e mensagens de texto, o que aumenta a chance de sucesso de seus ataques.
Editor deste artigo, iniciando sua carreira para se tornar um supervilão
Lembremos que o ‘spear phishing’ é um tipo de phishing que se diferencia por ter como objetivo enganar um alvo específico , normalmente baseado no conhecimento de informações prévias sobre o mesmo.
E um artigo acadêmico publicado (PDF) em maio deste mesmo ano já destacava que o modelo de linguagem em que se baseia a versão gratuita do ChatGPT era muito eficaz na geração de mensagens de phishing personalizadas e realistas, a um custo muito baixo.
0
O perigo de democratizar certos recursos… e de não fazê-lo
Qualquer democratização no acesso a qualquer recurso expande necessariamente o seu potencial de utilização desse recurso para fins maliciosos. Os modelos avançados de IA não são exceção a essa regra. E como acontece com o resto dos recursos, este não pode ser um argumento para evitar a referida democratização.
1 
O algoritmo levou a melhor sobre mim desta vez, mas minha vingança será terrível. MWAHAHAHA.
Modelos fechados e comerciais implementam salvaguardas que filtram certos tipos de conteúdo, sim… mas uma boa engenharia imediata ‘provou ser suficiente para evitá-los em muitos casos.
2
E, em qualquer caso, mesmo que essas salvaguardas fossem confiáveis na versão oferecida aos mortais comuns, nada impede os proprietários dessa tecnologia de usar em seu próprio benefício uma versão sem limitações da mesma.
3
Imagem | Marcos Merino através da IA
Nesta plataforma, a tecnologia de código aberto desempenha um papel essencial no fomento dos rápidos avanços na inteligência artificial que testemunhamos hoje.
4
*️⃣ Link da fonte: