Liberando a criatividade? Uma em cada quatro empresas proíbe IA generativa para funcionários!
A adoção da IA generativa pelas empresas está a ser dificultada, em certa medida, devido a preocupações com a privacidade, conforme indicado pelo relatório Cisco Data Privacy Benchmark Study 2024. O estudo envolveu entrevistas com 2.600 profissionais de privacidade e segurança de 12 países, incluindo Itália.
IA generativa: preocupações das empresas com privacidade
Na verdade, embora seja inegável que ferramentas generativas de IA, como o ChatGPT, podem melhorar significativamente a eficiência organizacional através da automatização e aceleração de várias tarefas, as preocupações em torno da privacidade permanecem importantes. Especificamente, o fornecimento de informações a estes sistemas contribui inevitavelmente para a expansão da base de conhecimento do LLM, o que coloca desafios formidáveis para evitar que dados sensíveis, especialmente informações relacionadas com o cliente, sejam comprometidos.
Na verdade, de acordo com um relatório da Cisco, uma percentagem substancial de empresas inquiridas admite que devem ser tomadas medidas adicionais para salvaguardar a confidencialidade da sua clientela. Além disso, uma proporção esmagadora (aproximadamente 94 por cento) compreende que os clientes podem abster-se de fazer compras, a menos que sejam apresentadas garantias relativamente ao tratamento das suas informações de identificação pessoal. Concordando com esse sentimento, Harvey Jang, vice-presidente e diretor de privacidade da Cisco, afirmou que quase todos os participantes do estudo atestam o fato de que os consumidores só realizarão transações com organizações cujos protocolos de proteção de dados sejam considerados confiáveis. A interdependência entre a privacidade e a confiança do consumidor é perceptível, especialmente em relação à inteligência artificial, onde
Por um lado, uma parcela substancial dos entrevistados da nossa pesquisa, totalizando 79%, afirma que a Inteligência Artificial Gerativa contribui positivamente para as operações da organização. No entanto, ao mesmo tempo, persistem as apreensões relativamente às ambiguidades relacionadas com a privacidade, já que quase metade das empresas inquiridas (48%) confessam que os seus funcionários utilizam ferramentas de IA para gerar material classificado. Isto inclui informações relativas aos funcionários (33%) e à própria empresa (38%). Consequentemente, existe um consenso esmagador entre os nossos participantes, com aproximadamente 92% a defender métodos inovadores para lidar eficazmente com esses dados sensíveis, particularmente em países como a Itália, onde a percentagem de casos de introdução de informações sensíveis, incluindo detalhes de funcionários (38%) e segredos corporativos
IA generativa e privacidade: o que as empresas italianas estão fazendo?
A fim de evitar potenciais problemas jurídicos e manter a confiança do consumidor, muitas organizações estão a tomar medidas para melhorar a supervisão de informações sensíveis. É relatado que quase metade, 49%, impôs restrições aos tipos de dados inseridos em aplicações de inteligência artificial capazes de gerar conteúdo. Este número aumenta internacionalmente, com 58% impondo tais limitações. Da mesma forma, 49% restringiram os instrumentos genéticos específicos que podem ser utilizados. No entanto, uma parte notável, equivalente a um quinto dos indivíduos inquiridos em Itália e aproximadamente um quarto em todo o mundo, optou por uma proibição absoluta da utilização de tecnologia de IA generativa como medida de segurança.
Mais detalhadamente, o relatório da Cisco delineia as estratégias utilizadas pelas organizações que optaram por não restringir a utilização de IA generativa. Especificamente, metade destas entidades está envolvida no desenvolvimento de iniciativas educativas destinadas a esclarecer o funcionamento de tais aplicações, bem como os perigos potenciais associados à sua implantação. Além disso, uns impressionantes 49% implementaram protocolos internos concebidos para promover o emprego ético dos avanços tecnológicos, enquanto um terço dos inquiridos (33%) afirma realizar auditorias regulares às aplicações de software GenIA para identificar e eliminar quaisquer preconceitos presentes na IA. próprio sistema ou os dados subjacentes utilizados para seu processo de treinamento.
Dev Stahlkopf, Diretor Jurídico da Cisco, descreve GenAI como um desafio tecnológico para as organizações. Segundo ele, mais de 90% dos participantes da pesquisa consideram que a GenAI necessita de novas abordagens para gerenciar e proteger dados e riscos associados. É imperativo exercer uma governança meticulosa, dada a importância primordial da confiança do cliente neste contexto.
*️⃣ Link da fonte: