A perspectiva de um pesquisador

,

Embora ChatGPT Tem a capacidade de poupar muito tempo e aumentar a sua produtividade , a realidade é que você deve ter cuidado com as informações que fornece. Na verdade, uma boa prática de segurança é não dizer aos dados que você não deseja que cheguem a outras pessoas… algo que a equipe da Samsung aprendeu da maneira mais difícil. Mas não se trata apenas do modelo OpenAI AI ser treinado com nossos chats (a menos que você o configure para que não salve seu histórico), nem da grande quantidade de dados que ele coleta, é que as violações de segurança que ocorreram nos últimos meses resultaram em informações confidenciais chegando a terceiros. E parece que nem mesmo os patches de segurança ChatGPT lançados posteriormente o corrigiram completamente.

De acordo com um relatório do Bleeping Computer que ecoa o Mashable, a OpenAI teria lançado uma correção para um problema do ChatGPT em que vazava dados do usuário para terceiros não autorizados. Os dados disponíveis para terceiros incluiriam bate-papos e seus metadados correspondentes, como o ID do usuário e outras informações da sessão.

No entanto Johann Rehberger, pesquisador de segurança que descobriu esta vulnerabilidade detalhando como ela funcionava, parece que ainda existem falhas neste patch. Resumindo: que a falha de segurança ainda está ativa.

O que se sabe sobre o vazamento de dados do ChatGPT

A chave está no novo e customizado GPT que a OpenAI lançou há algumas semanas e que permite aos usuários criar seus próprios GPTs para posteriormente comercializá-los na GPT Store, uma loja de aplicativos de inteligência artificial no estilo Google Play Store ou App Store. Assim, Rehberger conseguiu aproveitar essa função dos GPTs para criar o seu próprio, capaz de vazar dados do ChatGPT usando essa lacuna , algo que outras pessoas também poderiam replicar com o objetivo de roubar informações confidenciais.

De acordo com o pesquisador de segurança, ele contatou a OpenAI sobre essa técnica de “exfiltração de dados” primeiro em abril e depois em novembro, fornecendo informações adicionais sobre como conseguiu criar um GPT personalizado usando esse processo. Há alguns dias, Rehberger postou uma atualização em seu site detalhando que a OpenAI corrigiu essa vulnerabilidade de vazamento e que'embora o patch não seja perfeito, é um passo na direção certa'.

O motivo pelo qual a solução não é perfeita é que, segundo o pesquisador, o ChatGPT ainda está vazando dados por meio da vulnerabilidade. Ou seja, o modelo ainda pode ser enganado para enviar dados. Rehberger fala sobre testes rápidos que mostram que vazamentos podem ser roubados, ou seja, que pequenas quantidades de informações são filtradas e ‘são lentas e mais perceptíveis para o usuário’.

Embora este patch esteja indo na direção certa, ele ainda tem espaço para melhorias de acordo com esses sinais e tome cuidado porque Essa falha de segurança ainda está presente nos aplicativos ChatGPT para iOS e Android, que ainda não foram atualizados. Portanto, quer você use o modelo OpenAI em seus dispositivos móveis ou em seu computador, é melhor ser extremamente cuidadoso com as informações fornecidas se você usar GPTs de terceiros.

A imagem acima se chama “Capa” e foi capturada pelo fotógrafo Matheus Bertelli no Pexels, plataforma popular para imagens de alta qualidade.

Melhore a sua rotina diária utilizando as seguintes onze aplicações práticas do ChatGPT, disponíveis à sua disposição nesta plataforma.

*️⃣ Link da fonte:

um relatório do Bleeping Computer, ecoa Mashable, detalhando como funcionou , postou uma atualização em seu site , Foto de Matheus Bertelli sobre Pexels ,