Revolucionando a IA com a tecnologia inovadora do iPhone da Apple!
Em maio passado, foi revelado que a Apple já está usando seu próprio AI chatbot , chamado “ Ajax ” (mais tarde renomeado como “ Apple GPT ”). Pesquisadores da Apple publicaram recentemente um item intitulado “ * *LLM in a flash: Efficient Large Language Model Inference with Limited Memory** ”, que parece ser voltado para permitir que você execute um sistema com estilo ChatGPT no iPhone. Chatbots baseados em LLM como ChatGPT e Claude Eles consomem muitos recursos e normalmente exigem grandes quantidades de memória para funcionar. Isso representa um desafio para dispositivos como iPhones, que têm capacidade de memória limitada. Para resolver esse problema, os pesquisadores da Apple desenvolveram um novo método que usa a memória flash – a mesma memória onde aplicativos e fotos são salvos – para armazenar dados do modelo AI.
Apple: as duas técnicas principais para tornar LLMs no iPhone mais eficientes
Os pesquisadores observam que a memória flash em dispositivos móveis é maior do que a RAM tradicionalmente usada para execução de LLMs. O método deles contorna essa limitação usando duas técnicas principais que minimizam a transferência de dados e maximizam o rendimento da memória flash. O primeiro é Janelas. Este é um método de “reciclagem” que reutiliza dados já processados, em vez de fazer upload de novos dados. Isso torna o processo mais rápido e tranquilo. O outro é o Pacote de Linha-Coluna. Isso agrupa os dados de forma eficiente para serem lidos mais rapidamente na memória flash. Isso acelera a capacidade da IA de entender e gerar linguagem. A combinação desses métodos permite que os modelos administrem até o dobro da memória disponível do iPhone. Isso resulta em um aumento de velocidade de 4 a 5 vezes em processadores padrão (CPU) e de 20 a 25 vezes em processadores gráficos (GPUs).
O avanço na eficiência da inteligência artificial abre novas possibilidades para o futuro iPhone. Por exemplo, eles podem ser introduzidos funcionalidade Siri tradução de idiomas mais avançada em tempo real e recursos sofisticados de IA na câmera e realidade aumentada. A tecnologia também estabelece a base para que iPhones executem assistentes de IA e chatbots complexos em seu dispositivo, como uma nova versão do Siri mais inteligente. De acordo com relatórios do The Information e do analista Jeff Pu, a Apple introduzirá algum tipo de funcionalidade de inteligência artificial generativa no iPhone e no iPad no final de 2024, coincidindo com o lançamento do iOS 18. Em outubro passado, Pu disse que a Apple em 2023 construiu algumas centenas de servidores de IA , com outros chegando em 2024. A Apple supostamente oferecerá uma combinação de IA baseada em nuvem e IA com processamento no dispositivo.
barra lateral inferior relacionada 300
*️⃣ Link da fonte:
item ,