GPT e modelos aceleram!
Um avanço potencial para o Apple GPT pode ocorrer mais rapidamente do que o previsto, já que os especialistas em IA da Apple relatam que alcançaram um marco significativo na incorporação de grandes modelos de linguagem em dispositivos como iPhones e outros com capacidade de memória restrita por meio de um novo método envolvendo a utilização de memória flash.
Para que modelos de linguagem avançados como o ChatGPT funcionem de forma eficaz, eles necessitam de grandes quantidades de informações e recursos computacionais. Isto representa um obstáculo significativo para smartphones com capacidades de armazenamento limitadas, incluindo aqueles baseados em iOS. Em resposta a esse problema, a Apple desenvolveu uma nova abordagem que utiliza memória flash, comumente usada para armazenar aplicativos e imagens, para acomodar os requisitos de dados do modelo de inteligência artificial.
Em um novo artigo de pesquisa intitulado “LLM in a flash: Efficient inference of large Language Models with Limited Memory”, os autores observam que a memória flash é mais abundante em dispositivos móveis do que a RAM tradicionalmente usada para executar modelos LLM. Seu método contorna habilmente essa limitação usando duas técnicas principais que minimizam a transferência de dados e maximizam o rendimento da memória flash.
O primeiro método é chamado de janelamento: em vez de carregar novos dados a cada vez, o modelo de IA reutiliza alguns dos dados que já processou. Isso reduz a necessidade de buscar memória constantemente, tornando o processo mais rápido e suave.
O segundo método é o agrupamento linha-coluna: esta técnica pode ser comparada à leitura de um livro em pedaços maiores, em vez de uma palavra por vez. Ao agrupar os dados de forma mais eficiente, eles podem ser lidos na memória flash com mais rapidez, acelerando a capacidade da IA de compreender e gerar linguagem.
De acordo com pesquisadores da Apple, a combinação dessas metodologias resulta em um aumento de velocidade de até 4 a 5 vezes em processadores padrão (CPU) e de 20 a 25 vezes mais rápido em processadores gráficos (GPU).
IA mais rápida no iPhone
Os recentes avanços na inteligência artificial abriram caminho para uma série de aplicações inovadoras dentro do ecossistema do iPhone. Por exemplo, a funcionalidade da Siri pode ser melhorada através de uma maior eficácia computacional, permitindo uma gama mais abrangente de tarefas a serem executadas por comando de voz. Além disso, os serviços de tradução de idiomas em tempo real podem agora ser integrados perfeitamente no dispositivo, garantindo aos usuários acesso à comunicação instantânea através de barreiras linguísticas. Além disso, as capacidades fotográficas e de realidade aumentada podem beneficiar da incorporação de algoritmos sofisticados de IA, resultando num melhor reconhecimento de imagens, detecção de objectos e experiência geral do utilizador.
A Apple tem feito avanços significativos no desenvolvimento de inteligência artificial generativa, que pode potencialmente ser perfeitamente integrada ao seu popular assistente virtual, Siri. Ainda em fevereiro passado, a Apple convocou uma Cúpula de Inteligência Artificial, onde divulgou detalhes sobre seu progresso na criação de modelos de linguagem avançados para seus funcionários. Além disso, de acordo com fontes respeitáveis como a Bloomberg, a Apple parece estar focada no desenvolvimento de uma iteração mais inteligente do Siri que estará intrinsecamente interligada com a tecnologia de IA de última geração.
Apple GPT
Sim, ele diz que a Apple está desenvolvendo seu próprio modelo generativo de IA chamado “Ajax”. Projetado para competir com os modelos GPT-3 e GPT-4 da OpenAI, o Ajax opera em 200 bilhões de parâmetros, sugerindo um alto nível de complexidade e capacidade de compreender e gerar linguagem.
Indicado internamente e não apenas como Apple GPT, o Ajax visa unificar o desenvolvimento de aprendizado de máquina em todo o ecossistema Apple, sugerindo uma estratégia mais ampla para integrar a IA mais profundamente.
Num artigo separado, a equipa de investigação da Apple delineia um método para aproveitar a visão computacional e as técnicas de aprendizagem automática para gerar avatares 3D altamente realistas a uma velocidade sem precedentes, cem vezes mais rápida do que os sistemas existentes. As duas abordagens mencionadas anteriormente podem ser utilizadas não apenas em iPhones, mas também em dispositivos como Vision Pro e vários outros produtos Apple com modificações mínimas necessárias.
Esta página serve como um recurso abrangente para todas as notícias relativas à Inteligência Artificial, abrangendo uma variedade de diversos tópicos e perspectivas dentro da área.
*️⃣ Link da fonte: