Como eles planejam superar as limitações de hardware
,
2023 nos trouxe o surgimento da inteligência artificial, que além dos bots conversacionais, influenciou o mercado de telefonia móvel. O Google apresentou o Gemini, que estará no Pixel 8 Pro, até mesmo em sua versão on-device, enquanto na calçada oposta, o AppleGPT alimentará o Siri no iOS 18.
A IA generativa está em todas as primeiras páginas, especialmente desde que a gigante de Mountain View revelou o Gemini Nano, que não exigirá conexão com a Internet. No entanto, os telemóveis mais antigos continuarão a depender da nuvem, dada a impossibilidade de funcionar localmente. Mas a Apple quer virar o jogo e inventou uma maneira engenhosa de incorporar sua futura IA em iPhones antigos.
Seu iPhone antigo também terá IA local e não dependerá da nuvem
Se o ano que encerramos foi uma revolução no campo da inteligência artificial, parece que o próximo 2024 será uma revolução na IA on-device (IA generativa que roda localmente). O Google irá promovê-lo em seu novo carro-chefe, o Pixel 8 Pro, pois possui capacidades técnicas para fazer isso.
Neste site A melhor funcionalidade ChatGPT agora é gratuita no iPhone e Android: este é o modo AI conversacional
Do outro lado do setor está a Apple, que utilizará a próxima versão de seu sistema operacional, o iOS 18, como ponte para inteligência artificial generativa. Talvez o futuro iPhone 16 atenda às especificações de IA no dispositivo, mas a empresa de Cupertino quer dar um passo além, oferecendo-o no antigo iPhone sem diferenças.
Como podemos ler no Financial Times, que descobriu um documento de pesquisa da Apple, existe uma solução para executar esses modelos de linguagem em dispositivos com quantidades mais limitadas de RAM. Esse seria o caso dos iPhones lançados até agora, a menos que a Apple tenha deixado a geração atual preparada para isso (mesmo assim, o iPhone 14 e anteriores não estariam prontos).
A Apple teria conseguido levar sua IA generativa no dispositivo para todos os iPhones. Mesmo aqueles que não têm RAM suficiente
Indo direto ao ponto, a solução encontrada pela Apple é manter a linguagem “parâmetros do modelo” dentro do armazenamento , carregando pequenos pedaços dela para a RAM, sem carregá-la totalmente. Um truque engenhoso e útil, contornando assim esse limite estabelecido pelo hardware.
Esses métodos permitem executar modelos com até o dobro do tamanho da memória DRAM disponível, com um aumento de 4-5x e 20-25x na velocidade de inferência em comparação com métodos ingênuos de carregamento na CPU e GPU. , respectivamente. Diz o Financial Times
A IA generativa no dispositivo requer, como dissemos antes, muita RAM. Isso ocorre porque você precisa das velocidades rápidas de leitura e gravação deste componente para funcionar de maneira ideal. Portanto, a solução da empresa americana parece ideal e também proporcionaria à indústria um método mais do que viável para evitar esta exigência.
Este seria o método escolhido para que a Apple possa fornecer aos iPhones novos e mais antigos os recursos generativos de IA. Vale ressaltar que na Apple isso se torna mais importante, já que os iPhones geralmente incorporam quantidades menores de memória em comparação com alguns telefones Android.
Agora, esta solução não é a única capaz de conseguir isso: outros players importantes como Qualcomm ou Mediatek já estão trabalhando em alternativas. O segundo citado possui em sua nova geração de processadores, o INT4 de precisão, que reduz modelos de linguagem para que possam rodar localmente.
Por enquanto, continuaremos aguardando novidades sobre este interessante tema, pois ainda são vazamentos que podem acabar em ouvidos surdos. O próximo ano será um ponto de inflexão para a inteligência artificial em dispositivos, ou pelo menos parece que será.
0
Através de | Tempos Financeiros
1
A ilustração que acompanha foi habilmente elaborada usando as ferramentas inovadoras fornecidas pelo Bing Image Creator, que também permite uma série de edições personalizáveis.
Bem-vindo ao nosso site, onde oferecemos uma solução de ponta para criar mensagens requintadas de feriados usando tecnologia de IA em seu dispositivo móvel.
2
*️⃣ Link da fonte: