Diga adeus ao ChatGPT e muito mais!
-ChatGPT
O termo inteligência artificial está agora na boca de todos e nas páginas deste site tentamos acompanhar de perto os principais desenvolvimentos. Falamos, por exemplo, sobre Ollama , um projeto aberto que atua como coletor e gerenciador de modelos generativos de código aberto , permitindo sua utilização a partir da janela do terminal. Para quem não está familiarizado com linha de comando, descobrimos mais recentemente alguns projetos de interfaces gráficas para LLMs (Large Language Models).
Jan é uma ferramenta criada com o objetivo de democratizar a IA: o software vem na forma de um aplicativo com interface gráfica, compatível com sistemas Windows, macOS e Linux. O aplicativo elimina a complexidade técnica associada à implementação de soluções de IA e transforma seu computador em um sistema pronto para executar os principais modelos de IA.
Repense seu computador e transforme-o em uma máquina alimentada por IA com Jan
Para aqueles que procuram um aplicativo que utilize efetivamente modelos generativos de código aberto proeminentes e, ao mesmo tempo, facilite a interação com soluções comercialmente disponíveis, como GPT 3.5 e GPT 4 da OpenAI, não procure mais, Jan, que pode ser obtido baixando-o neste site. Este software versátil foi projetado para atender a uma ampla gama de usuários e requer configuração mínima na instalação; simplesmente clicar em um botão permitirá seu uso.
Proposto como um aplicativo independente, fácil de usar, esteticamente bonito, Jan pode ser utilizado sem limitações e sem pagar um centavo. AS vantagens São muitas até Jan mas, para começar, queremos destacar essencialmente três delas:
-O programa aproveita automaticamente a aceleração da GPU (especialmente se houver uma placa dedicada) e é compatível com soluções NVIDIA, AMD, Intel e Apple. Também pode funcionar no modo “somente CPU”. -Com base nos Hubs a apenas um clique de distância, você pode escolher qual LLM ou LLMs usar. No caso de modelos de código aberto, estes são salvos automaticamente na pasta Jan (subpasta modelos). No Windows, geralmente é encontrado no caminho %userprofile%\jan\models. -Jan possibilita a utilização de uma inteligência artificial soberana no sentido de que a aplicação funciona 100% localmente, sem necessidade de ligação à Internet (apenas necessária para descarregar os vários modelos de interesse). Os dados permanecem sempre no computador do usuário sem nunca serem trocados com nenhum servidor remoto.
Como usar janeiro
O primeiro passo após a instalação do Jan é clicar no ícone Hubs , localizado na coluna da esquerda. Aqui você pode percorrer a lista interminável de LLM diretamente suportados pelo aplicativo.
Jan verifica a compatibilidade de cada modelo com o sistema em uso e, por exemplo, não recomenda a instalação quando a quantidade de RAM ou espaço livre não for suficiente.
O botão Downloads permite baixar o template e armazená-lo localmente, na pasta Jan. Assim que esta operação for concluída, você pode clicar no ícone Threads para começar a conversar com o LLM. O campo no canto superior direito Título , pode ser usado para atribuir um rótulo de identificação à conversa. Além disso, atuando na caixa Instruções , podem ser dadas instruções muito precisas, “regras” que o modelo deve seguir ao fornecer respostas e, em geral, ao interagir com o usuário.
Um pouco mais abaixo você encontrará todos os parâmetros de inferência: são as variáveis e fatores que influenciam o processo de inferência do modelo, ou seja, a dedução de novas informações ou a proposição de conclusões baseadas em informações já conhecidas ou em dados disponíveis.
Os usuários também podem controlar os níveis de censura e usar Jan em diversos ambientes, desde a sala de conferências até qualquer ambiente da sua casa. Você também pode ampliar as habilidades de Jan usando outros modelos disponíveis no HuggingFace ou fazer upload de modelos personalizados.
Inteligência artificial que funciona em modo privado e offline
Dissemos que todos os LLMs (a menos que você especifique, por exemplo, chaves para usar modelos OpenAI GPT) suportados por Jan funcionam localmente, garantindo o máximo de privacidade. As conversas são, portanto, absolutamente privadas e os dados são salvos no nível do sistema de arquivos em um formato de dados transparente e aberto.
Jan oferece uma opção de código aberto que permite aos usuários examinar cada linha de seu código-fonte para confirmar a segurança e a confidencialidade de suas informações.
Perfeito para desenvolvedores, graças às APIs estilo OpenAI
Jan é definitivamente voltado para desenvolvedores , dando-lhes a capacidade de integrar facilmente um LLM executado localmente em seus projetos.
Você pode ativar o modo de servidor local para começar a construir projetos concretos usando uma API (Application Programming Interface) que não difere em nada da abordagem usada pelo OpenAI. Com a diferença de que no caso de Jan não é necessário pagar um centavo a ninguém para usar o modelo.
Em particular, o Jan Desktop inclui um console do desenvolvedor e uma interface de usuário intuitiva que facilita a visualização de registros, a configuração de modelos e muito mais.
Para iniciar o processo, selecione o ícone do servidor API local exibido no canto inferior esquerdo da interface JAN. Conforme ilustrado na ilustração anexa, o JAN identifica a porta designada na qual escuta por padrão (TCP 1337; no entanto, isso pode ser alterado de acordo com a preferência). Ao clicar em “Iniciar Servidor”, o aplicativo deixará de reconhecer as entradas do usuário por meio da interface gráfica e se comunicará apenas por meio da API fornecida.
Para quem gosta de experimentar, Jan oferece a possibilidade de personalizar a aparência e funcionalidades da aplicação através de temas, assistentes e templates, sem a necessidade de escrever código. A aplicação pode ser totalmente customizada através da utilização de ferramentas específicas extensões , inspiradas no conceito introduzido pela Microsoft com o Visual Studio Code.
Crédito da imagem de abertura: iStock.com – da-kuk
barra lateral inferior relacionada 300
*️⃣ Link da fonte: