ChatGPT proíbe repetições infinitas de palavras para melhorar a experiência do usuário

Uma publicação recente de uma equipe de investigadores demonstrou a viabilidade de extrair informações confidenciais do ChatGPT, como números de telefone, endereços de e-mail, data de nascimento e outros detalhes de identificação pessoal utilizados durante o processo de treinamento.

Um problema mundano, mas perturbador, surge quando se solicita a um sistema de IA que pronuncie repetidamente frases específicas indefinidamente. Num estudo colaborativo envolvendo pesquisadores do Google DeepMind, da Universidade de Washington e da UC Berkeley, observou-se que tais solicitações podem resultar na geração de conteúdo aparentemente irrelevante e desconexo. Porém, após uma análise mais detalhada, esses resultados contêm dados confidenciais, incluindo informações de contato pessoal de indivíduos reais.

O ChatGPT considera a extração de tais dados uma violação de seus termos de serviço, de acordo com um representante da OpenIA que conversou com o Engadget. Se for viável obter informações que não deveriam ser reveladas, a OpenIA incentiva os usuários a enviar relatórios, a fim de aprimorar suas capacidades de inteligência artificial.

Imagem de ilgmyzin no Unsplash

A utilização de sistemas automatizados para extração de dados é explicitamente proibida no uso do ChatGPT, porém, solicitar a repetição de um termo específico não constitui violação destas diretrizes. Este modelo de inteligência artificial baseia-se em vastos conjuntos de dados que abrangem uma extensa gama de informações, incluindo material potencialmente sensível obtido sem o conhecimento dos utilizadores. Além disso, alguns casos de IA são empregados no setor médico, onde podem ser acessados ​​detalhes abrangentes sobre o histórico médico dos pacientes, resultados de testes e tratamentos.

O site oferece uma coleção abrangente de artigos e informações relacionadas à inteligência artificial, que podem ser acessados ​​através desta página específica.

*️⃣ Link da fonte:

relatórios , ilgmyzin , Unsplash ,