Revolucione seus modelos generativos com Windows AI Studio e Phi-2 no WSL

Durante a conferência Microsoft Ignite 2023, a empresa de Redmond anunciou o lançamento iminente do Phi-2, um LLM (Large Language Model) que não é tão grande, comparado a muitas outras alternativas disponíveis hoje. Na verdade, é bom porque com apenas 2,7 bilhões de parâmetros, o Phi-2 apresenta desempenho comparável a modelos até 25 vezes mais pesados. Em breve, o Phi-2 estará disponível graças ao Windows AI Studio , uma solução da Microsoft que simplifica o desenvolvimento de aplicativos generativos com tecnologia de IA.

O que é o Windows AI Studio e como funciona

Com o retorno de Sam Altman à frente da OpenAI, a Microsoft ainda reforçou sua posição dentro da empresa ao deixar claro que o futuro da empresa responsável pela evolução dos modelos GPT (Generative Pre-trained Transformer), do chatbot ChatGPT , de modelo generativo para imagens DALL-E e novas ferramentas multimodais baseadas em inteligência artificial que serão moldadas em breve, representa um motor essencial para os negócios da multinacional liderada por Satya Nadella.

Outra nova confirmação chega agora com a publicação do Windows AI Studio, um software que combina ferramentas avançadas para IA desenvolvimento de inteligência artificial com base em recursos da Microsoft (incluindo a plataforma Azure) e fontes como Hugging Face.

Com o Windows AI Studio, é possível “navegar no catálogo” de modelos de IA com tecnologia AzureML e Hugging Face, baixá-los localmente, refiná-los, testá-los e usá-los em seus aplicativos. Como todo o processamento ocorre localmente, é necessário ter hardware capaz de suportar as cargas de trabalho geradas pelo Windows AI Studio.

Compatibilidade com GPUs NVidia e uso de WSL (Windows Subsystem for Linux)

É curioso observar que o Windows AI Studio, pelo menos por enquanto, é baseado em GNU/Linux. Para usar a nova ferramenta, na verdade, desenvolvedores, engenheiros e cientistas de dados devem necessariamente instalar para habilitar o WSL (Windows Subsystem for Linux) no Windows 10 ou Windows 11. Este é o componente da Microsoft que permite executar o vasto maioria das distribuições Linux diretamente de uma janela do Windows (há também a possibilidade de executar programas Linux individuais a partir do menu Iniciar ou da área de trabalho…).

Vimos como usar Linux no Windows com WSL: No caso do Windows AI Studio, é essencial instalar uma distribuição Ubuntu 18.4 ou posterior. Além disso, os últimos lançamentos do WSL trazem ótimas novidades em termos de gerenciamento de recursos e redes.

Além disso, por enquanto, o Windows AI Studio é exclusivamente compatível com GPUs NVIDIA e é fornecido como uma extensão para o Visual Studio Code.

Para utilizar o Windows AI Studio, é necessário inicialmente baixar e instalar o Visual Studio Code como pré-requisito. Posteriormente, você pode obter o complemento necessário por meio da Microsoft Store para integração perfeita em seu ambiente de desenvolvimento.

Concluída a instalação do Windows AI Studio, uma verificação do sistema permite garantir que todos os recursos estão disponíveis: após verificar os pré-requisitos, você pode concluir a configuração do ambiente clicando em “Configurar ambiente WSL”.

Como começar a trabalhar com o Windows AI Studio

Para usar o Windows AI Studio, você deve primeiro fazer login com uma conta do GitHub. Depois que esta etapa simples for concluída, quando o Windows AI Studio for iniciado, você poderá escolher entre algumas opções:

-Ajuste fino do modelo -Projeto RAG -Parque Modelo Phi-2 -Modelos otimizados para Windows

Actualmente, apenas as opções iniciais e finais estão disponíveis para selecção, tendo a Microsoft indicado que as restantes opções serão introduzidas oportunamente.

Com o Model Fine-tuning , você pode iniciar uma sessão de otimização local de um modelo generativo escolhido no catálogo do AzureML. Você não precisa de uma conta Azure para baixar os modelos que, graças à abordagem QLoRA (Quantized Low-Rank Adaptation) e ao Windows AI Studio, podem ser enriquecidos e otimizados.

Modelos otimizados para Windows em vez disso, é uma coleção de modelos de IA já otimizados para Windows, disponíveis em vários locais, incluindo Hugging Face, GitHub e assim por diante. Você pode navegar pelos modelos e encontrá-los todos em um só lugar, prontos para download e integração direta em seus aplicativos do Windows.

O modelo Phi-2, em breve integrado ao Windows AI Studio

Apesar do tamanho compacto, o modelo Microsoft Phi-2 se destaca pela capacidade de competir e superar modelos treinados com um número significativamente maior de parâmetros, mesmo em benchmarks complexos. E isto graças a algumas inovações que melhoram a escalabilidade do modelo e aos cuidados especiais tomados na fase de formação.

Segundo os engenheiros da Microsoft, Phi-2 supera Mistral e Llama-2, com base – respectivamente – em 7 bilhões e 13 bilhões de parâmetros. O comportamento do Phi-2 também seria comparável ao do modelo Gemini Nano 2 do Google, apesar de seu tamanho menor.

Utilizando os recursos inovadores do Phi-2 Model Playground, os usuários do Windows AI Studio agora podem acessar e testar o modelo de última geração apresentado por Nadella e sua equipe.

Recomendamos monitorar a página GitHub do Windows AI Studio para atualizações e desenvolvimentos relacionados a esta ferramenta progressiva, para se manter informado e atualizado com seus avanços.

Crédito da imagem de abertura: iStock.com/Choreograph

barra lateral inferior relacionada 300

*️⃣ Link da fonte:

[complemento via Microsoft Store](https://marketplace.visualstudio.com/items?itemName=ms-windows-ai-studio.windows-ai-studio&ssr=false# overview) , repositório GitHub , Coreografia ,