A abordagem inovadora da Microsoft para prevenir alucinações de IA
L'Inteligência Artificial é uma tecnologia ainda por descobrir, com enorme potencial mas também com grandes fragilidades.
Uma delas, sem sombra de dúvida, são as famigeradas alucinações, ou seja, respostas inverídicas da IA que inventa informações sem lógica aparente. Aparentemente, a Microsoft está trabalhando para eliminar de uma vez por todas esse fenômeno.
Sarah Bird, diretora de produtos da Microsoft responsável pelo setor de IA, deu uma entrevista interessante ao The Verge.
Conforme afirmado por Bird, sua equipe desenvolveu vários recursos de segurança, que são fornecidos aos clientes do Azure. Essas novas ferramentas, baseadas no LLM, deverão ser capazes de monitorar e bloquear possíveis alucinações de IA.
A função específica é chamada Detecção de Aterramento e deve nos permitir evitar respostas sem sentido da IA. Isso também será apoiado por outra ferramenta, a saber Prompt Shields , capaz de bloquear prompts considerados “maliciosos”, bloqueando também possíveis fontes externas consideradas não confiáveis.
Não apenas alucinações de IA: a Microsoft está trabalhando no gerenciamento de filtros personalizados
Na verdade, o instrumento final suscita um discurso apaixonado sobre os meios pelos quais a inteligência artificial opera.
Casos como o do Google Gemini e a geração de imagens de seres humanos, por exemplo, demonstram como esse sistema apresenta falhas óbvias e como a configuração da IA pode criar situações no mínimo desagradáveis.
Na verdade, os líderes da indústria possuem autoridade para determinar o âmbito das capacidades da IA e influenciar as suas ações em conformidade. Embora reconhecendo esta limitação, Bird afirmou que os usuários da plataforma Azure da Microsoft teriam o poder de ativar ou desativar filtros relativos à promoção do ódio ou da violência.
Aparentemente, os recursos propostos estarão imediatamente disponíveis para modelos como GPT-4 e Llamas 2. O problema das alucinações de IA não é absolutamente uma prerrogativa da Microsoft: outros gigantes do setor, como OpenAI, eles têm que lidar com esse fenômeno irritante.
barra lateral inferior relacionada 300
*️⃣ Link da fonte: