Pesquisadores do Google ficam surpresos quando o ChatGPT vaza dados pessoais em uma experiência complicada
,
Os pesquisadores de segurança do Google queriam procurar problemas no ChatGPT em uma publicação interessante que foi publicada esta semana no arXiv. A conclusão foi clara: “Usando apenas 200 dólares de consultas ao ChatGPT (GPT 3.5 e Turbo) conseguimos extrair 10.000 exemplos de dados de treinamento memorizados.”
Este estudo tentou demonstrar que, ao inserir corretamente os comandos apropriados, informações privadas podem ser extraídas de pessoas reais. Desta forma, você tem uma grande tarefa pendente para OpenAI com o objetivo de resolver todos esses problemas de segurança que são graves.
Uma olhada em… ‘Sgroogled.com’: quando a MICROSOFT lançou anúncios ANTI-GOOGLE
ChatGPT conseguiu acessar dados pessoais armazenados
Deve-se levar em consideração que qualquer inteligência artificial funciona com treinamento prévio com grande quantidade de informações. Tudo depende do objetivo que se pretende atingir em relação à inteligência artificial. Por exemplo, IAs que geram imagens e textos precisam de informações muito extensas obtidas na Internet. E obviamente nos modelos GPT Esta informação armazenada não é oferecida.
Mas agora os pesquisadores do Google refinaram técnicas de “hacking imediato” que tentarão forçar a IA a exibir essas informações confidenciais. E embora grandes empresas como OpenIA ou Google tentem corrigir esses problemas nos prompts, as técnicas para explorá-los também estão sendo aperfeiçoadas.
Agora, nesta investigação, os investigadores conseguiram colocar a IA da OpenAI aos seus pés, e também obter dados pessoais com algumas consultas que custam apenas 250 euros. O truque estava em repetir até o infinitivo escrever a palavra “poema”, e embora a princípio tenha cumprido as repetições, chegou um momento em que começou a copiar os dados armazenados.
Neste site tem quem fez do ChatGPT seu próprio engenheiro de alerta, profissão que promete ótimos resultados: esse é o comando que usam
E embora no GPT-4 pareça que esse truque foi resolvido (bloqueando a instrução), os pesquisadores estão muito preocupados. E torna-se mais preocupante se for feito um investimento superior a 250 euros (o que não é muito difícil) para poder obter uma grande quantidade de dados pessoais. Desta forma, dá um alerta às empresas que criam essas IAs para evitar que essas vulnerabilidades ocorram.
Nesta plataforma, compilamos uma lista de nove prompts ChatGPT inovadores projetados para agilizar seu fluxo de trabalho e reduzir significativamente o tempo gasto em tarefas tediosas. Ao utilizar essas ferramentas eficientes, você pode realizar tarefas complexas com facilidade e precisão, liberando um tempo valioso para empreendimentos mais importantes.
*️⃣ Link da fonte: