Reforçando as medidas de segurança em meio a perigos crescentes
Os perigos da Inteligência Artificial, com o passar dos meses, ficam cada vez mais evidentes.
Neste sentido, a OpenAI quis agir a tempo, criando o que será um novo grupo consultivo de segurança, capaz de coordenar técnicos especializados, tendo poder de veto em questões relativas aos perigos da IA.
Em resposta às preocupações cada vez maiores, portanto, a OpenAI quer responder com uma estrutura mais complexa, indo além de simples reuniões a portas fechadas entre funcionários. Em uma nova postagem no blog oficial, a OpenAI discute sua “Estrutura de Preparação” atualizada, provavelmente modificada devido à recente remoção de Helen Toner e à mudança de função de Ilya Sutskever, dois membros do conselho.
Perigos da IA: OpenAI pronta para enfrentar potenciais riscos catastróficos
O objetivo desta iniciativa é estabelecer uma estrutura organizacional abrangente que forneça um curso de ação transparente e sequencial, a fim de identificar, avaliar e tomar decisões informadas com eficácia sobre quaisquer riscos “catastróficos” potenciais associados à inteligência artificial.
Este contexto inclui potenciais danos económicos de centenas de milhares de milhões de dólares ou ações que podem prejudicar a Saúde ou a própria existência de muitos indivíduos. Os especialistas, portanto, devem trabalhar com base em diferentes categorias de risco, que vão desde a mais simples desinformação até perigos relacionados a ameaças biológicas ou nucleares.
Mesmo que menos urgente, a luta contra eles continua sendo uma prioridade para OpenAI abuso sistemático de ChatGPT. Nesse sentido, a equipe de segurança pretende trabalhar ainda mais no contexto de restrições e/ou otimizações de API.
Embora a maior parte da exploração maliciosa da IA esteja relacionada com a última categoria, com a criação de malware e de campanhas de phishing , é evidente que a situação poderá degenerar em breve. O compromisso da OpenAI em não ser pego desprevenido, portanto, é certamente uma ação mais do que apreciável.
barra lateral inferior relacionada 300
*️⃣ Link da fonte: