Um guia para questões de segurança do ChatGPT

-ChatGPT

Na pressa de experimentar o enorme potencial do ChatGPT, todos nós rapidamente nos inscrevemos na plataforma OpenAI, usando nossa caixa de entrada de e-mail. Na realidade, este comportamento quase instintivo pode ser muito perigoso.

De acordo com um grupo de pesquisadores, liderado por Rui Zhu da Indiana University Bloomington, identificou um potencial risco à privacidade ligado precisamente a esta prática generalizada.

De acordo com alguns testes realizados por Zhu, utilizar seu e-mail para se cadastrar no serviço ofereceria à IA a possibilidade de divulgar essas informações pessoais durante sua utilização. O pesquisador, por meio de alguns prompts, solicitou ao ChatGPT informações confidenciais sobre a equipe do Times, obtendo o e-mail de trabalho de 80% dos funcionários.

Os modelos de linguagem OpenAI, incluídos GPT-3.5 Turbo e GPT-4 , são projetados para aprender continuamente com novos dados e, nessa busca constante por informações, mesmo aqueles vinculados às contas pessoais daqueles que usam os chatbots.

E-mail de inscrição e ChatGP: teste alarmante de pesquisadores revela enorme vulnerabilidade

Se é verdade que OpenAI, assim como Half e Google , empregam várias técnicas para neutralizar solicitações que solicitam informações pessoais, e Zhu e sua equipe acharam fácil contornar essas limitações.

Para esta demonstração convincente, os especialistas utilizaram a API ChatGPT em vez da interface padrão, obtendo dados muito sensíveis sobre os usuários da plataforma sem muito esforço. Os investigadores expressaram, portanto, cepticismo sobre a eficácia da OpenAI para a protecção do utilizador, sublinhando como o seu teste é facilmente replicável por qualquer cibercriminoso.

A descoberta desta vulnerabilidade levanta muitas dúvidas, não só no contexto do ChatGPT mas, a um nível mais genérico, em todos os grandes modelos de linguagem ( LLM ) que podem ter falhas semelhantes. Para tornar tudo mais complexo está o facto de as formas como os modelos são alimentados serem muitas vezes secretas, tornando a Inteligência Artificial uma área que tende a ser pouco transparente do ponto de vista da privacidade.

barra lateral inferior relacionada 300

*️⃣ Link da fonte: