O OpenAI Q-Star, mas devemos ficar entusiasmados?

-Negócios

Nas últimas horas, muitos jornais online competiram literalmente para descrever a ameaça potencial representada pelo projeto OpenAI Q * (pronuncia-se Q-Star).

Segundo “fontes bem informadas”, o desenvolvimento do projeto Q * seria a “pedra do escândalo” que levou o anterior conselho de administração da OpenAI a mostrar a porta ao histórico CEO Sam Altman, posteriormente reintegrado após a pressão exercida pela Microsoft e pelo seu CEO Satya Nadella.

O que é o projeto Q* ou Q-Star da OpenAI

Já quando falamos sobre a possível chegada de uma nova versão aprimorada do modelo generativo OpenAI, GPT-5, observamos que a intenção da empresa, no médio-longo prazo, era desenvolver uma Inteligência Artificial Geral (AGI ). Com AGI refere-se a um tipo de inteligência artificial capaz de compreender, aprender e aplicar conhecimento de forma semelhante a um ser humano. Ao contrário de muitos sistemas de IA especializados que executam tarefas específicas, uma AGI deve ter a capacidade de enfrentar uma vasta gama de tarefas complexas de forma autónoma, sem estar limitada a um único domínio de especialização.

O objetivo de uma AGI é replicar a amplitude e flexibilidade da inteligência humana, demonstrando a capacidade de adaptação a novas situações, aprender com diferentes experiências e aplicar o conhecimento desenvolvido em múltiplos contextos.

A ideia da AGI levanta questões éticas e de segurança , uma vez que tal inteligência avançada pode ter impactos significativos na sociedade como um todo.

OpenAI nunca mais será o mesmo

Entre os diversos motivos que teriam levado à demissão de Sam Altman haveria um pesado conflito ideológico entre o CEO e a diretoria da OpenAI em relação à velocidade do desenvolvimento tecnológico dentro da empresa. E o projeto Q-Star é apresentado como a “gota que quebrou as costas do camelo”.

O certo é que a OpenAI nasceu como uma organização sem fins lucrativos (e ainda o é): o modelo foi escolhido com o intuito de dar prioridade à missão de perseguir o bem público em detrimento das necessidades de"ganhar dinheiro". No entanto, algo também confirmado pela “semana de loucura” que a OpenAI acaba de viver, a ética entrou claramente em conflito com os interesses económicos dos investidores, com a prevalência dos interesses financeiros.

A trajetória futura da OpenAI parece ter mudado do seu foco original orientado para a missão e, em vez disso, tornou-se cada vez mais impulsionada por considerações de ganho financeiro para as suas partes interessadas. A organização parece preparada para continuar neste caminho indefinidamente, tornando difícil prever um regresso ao seu antigo propósito.

Nosso forte ceticismo em relação à Q-Star

A questão das preocupações éticas e de segurança em torno do desenvolvimento da IA ​​​​tem sido extensivamente analisada, com alguns vendo o Q-learning como uma sinistra “Estrela da Morte” que representa uma ameaça para a humanidade. Embora esta perspectiva possa ser dramática, é crucial manter uma abordagem racional e equilibrada ao considerar estas questões.

Q* é apresentado como um AGI capaz de resolver alguns problemas matemáticos deterministicamente. Hoje ele seria capaz de realizar cálculos como uma criança do ensino fundamental, mas no futuro suas habilidades poderão crescer dramaticamente.

Calma. Como já destacamos repetidamente, os modelos generativos atuais são baseados em uma abordagem estocástica. A sua capacidade de gerar resultados não é completamente determinada por um conjunto fixo de parâmetros ou condições iniciais. Em vez disso, esses modelos introduzem elementos probabilísticos no processo de geração , tornando a saída variável mesmo quando as condições iniciais são as mesmas. Este é um esquema vencedor porque introduz diversidade e variabilidade nos resultados gerados, tornando o modelo mais flexível e capaz de produzir resultados mais ricos e realistas.

Os modelos generativos estocásticos são baseados, como sabemos, em técnicas de aprendizado de máquina como redes neurais generativas (GAN), redes neurais recorrentes (RNN) ou modelos de linguagem probabilística. Esses modelos definem uma distribuição de probabilidade sobre dados de treinamento e usam essa distribuição para gerar novos dados que se assemelham aos dados de treinamento. No artigo dedicado a como programar com ChatGPT, explicamos porque esses modelos são batizados de “papagaios estocásticos”.

Diferenças entre abordagens determinísticas e estocásticas

A abordagem determinística baseia-se em regras fixas e condições iniciais para produzir resultados repetíveis e previsíveis. Num contexto determinístico, o resultado de um processo é completamente determinado pela configuração inicial e pelas regras que orientam o processo. O esquema em questão é utilizado quando é essencial obter resultados consistentes e facilmente interpretáveis, especialmente em contextos onde a clareza e a reprodutibilidade são prioridades.

Pelo contrário, a abordagem estocástica baseia-se na riqueza dos dados e explora o elemento de aleatoriedade ou probabilidade para introduzir variabilidade nos resultados. Utilizando distribuições de probabilidade e técnicas de amostragem aleatória, os modelos estocásticos podem gerar uma ampla gama de resultados, tornando possível produzir resultados mais variados e realistas. Isto é especialmente útil quando se trata de lidar com a complexidade e a diversidade do mundo real. Nos contextos criativos, como a geração de texto, imagens ou sons, a abordagem estocástica pode, portanto, produzir resultados criativos e originais.

Usando a abordagem estocástica da inteligência artificial moderna, nada é descartado. O desperdício de um modelo determinístico torna-se peculiaridades. Os dados, sejam eles quais forem, aumentam automaticamente de valor. Quanto mais dados você passar para o algoritmo, mais informações você poderá obter e mais conteúdo valioso poderá ser produzido automaticamente.

A cultura de dados desempenha um papel central

Uma inteligência artificial certamente pode ser projetada para realizar cálculos de forma determinística, em vez de estocástica. Se as condições e regras iniciais forem conhecidas, o o resultado do processamento será sempre o mesmo. Na IA, um modelo ou algoritmo que opera deterministicamente produzirá a mesma saída para uma entrada específica, independentemente de quantas vezes for executado.

Se Q* implementasse algo semelhante, certamente seria um excelente exercício de estilo, mas não teria as vantagens que a abordagem estocástica que todos aprendemos a apreciar trouxe diante dos olhos de todos.

Na grande maioria das situações do mundo real, o ambiente em que uma IA opera é complexo e dinâmico. Variáveis ​​inesperadas, interações complexas e mudanças rápidas podem dificultar a garantia de um comportamento totalmente determinístico. Por outro lado, como praticamente sempre acontece, se os dados de entrada forem variáveis ​​ou incontroláveis, é muito difícil garantir que a IA reaja de forma determinística. Depois, há problemas de ruído que podem tornar algumas entradas imperfeitas, ambiguidades nas especificações, problemas no tratamento de exceções e muito mais.

Por outro lado, a ontologia de dados presente nos sistemas de TI que utilizamos na empresa, no escritório, em casa, é cada vez mais útil para a criação de ferramentas orientadas por IA, precisamente utilizando uma abordagem estocástica, baseada nas relações probabilísticas que existem entre os vários dados. A beleza da abordagem estocástica está justamente na possibilidade de extrair informações valiosas, por exemplo, de todos os dados de uma empresa.

A representação visual inicial é elaborada utilizando os recursos imaginativos do Bing Image Creator da Microsoft, uma ferramenta poderosa conhecida por sua capacidade de gerar imagens cativantes e visualmente atraentes que podem capturar a essência de conceitos complexos em um instante.

barra lateral inferior relacionada 300

*️⃣ Link da fonte: