O projeto que levou à demissão de Altman
,
O mundo da inteligência artificial testemunhou atualmente uma trama complexa em torno da OpenAI e seu agora retornado CEO, Sam Altman. Embora já tenhamos analisado as tensões internas e as facções que tornaram possível este confronto, a agência Reuters despertou hoje outro possível (e muito recente) ponto de atrito entre a administração e Sam Altman.
O conflito teria surgido depois que alguns pesquisadores da OpenAI alertaram o conselho sobre um avanço no desenvolvimento de IA no qual teriam visto potencial para ameaçar a Humanidade: o enigmático projeto conhecido como “Q”*.
Embora detalhes específicos sobre os riscos mencionados na carta não tenham sido revelados, Este evento acabou sendo um dos principais fatores que levaram ao breve mas notório exílio de quatro dias de Sam Altman.
Uma olhada em… ZAO, o APP MÓVEL chinês que através do DEEPFAKE transforma você em DICAPRIO em SEGUNDOS
Q* e Q-Learning
“Wh*” —pronunciado como"Q-Star"— foi considerado por alguns dentro da OpenAI como um passo significativo para alcançar a inteligência artificial geral (AGI), que é definida como sistemas autônomos capazes de superar os humanos na maioria economicamente. tarefas valiosas.
Neste site O CEO da OpenAI já tem o bunker preparado enquanto sua empresa planeja como lidar com a criação de’IA forte’Embora nenhum detalhe específico sobre o conteúdo da carta tenha sido revelado, afirma-se que os pesquisadores expressaram preocupação sobre as possíveis consequências deste desenvolvimento.
O projeto Q*, especificamente, tem se destacado pela sua capacidade de resolver problemas matemáticos complexos. Até agora, a IA generativa de modelos como o GPT demonstrou as suas capacidades na escrita e na tradução de línguas, mas a resolução de problemas matemáticos envolve um nível de raciocínio muito mais avançado.
Na verdade, contando apenas com suas próprias capacidades computacionais, o GPT 4.0 pode não ter sido totalmente confiável para realizar cálculos precisos. Consequentemente, foi necessário que o sistema incorporasse as funcionalidades da plataforma Wolfram|Alpha para garantir que tais tarefas pudessem ser realizadas com alto grau de precisão e confiabilidade.
A base teórica para Q\* reside no domínio da aprendizagem por reforço, com ênfase específica no paradigma’Q-learning'-uma categoria de algoritmos que se concentra em determinar o mérito de uma ação em uma determinada situação, de modo a determinar o curso de ação ideal, otimizando assim as recompensas cumulativas ao longo do tempo.
Um aspecto fundamental do processo de’tomada de decisão’baseado em Q-learning é o equilíbrio entre ‘exploração’(tentar novas ações) e’exploração'(usar informações conhecidas).
Os perigos
Mas, após os primeiros testes do modelo em funcionamento, Nas semanas que antecederam a demissão de Altman, surgiram preocupações sobre os riscos associados à aceleração do progresso neste campo, mesmo entre os responsáveis pelo próprio projeto…
…entre os quais está Ilya Sutskever, cientista-chefe da OpenAI com papel fundamental na demissão de Altman …E, incompreensivelmente, também um das centenas de funcionários da empresa que acabaram pedindo publicamente seu retorno.
0 
Neste site “A IA vai matar todos nós”, afirma um dos maiores especialistas do mundo. Ele não assinou a carta de Elon Musk porque ela é insuficiente
A carta misteriosa que os pesquisadores enviaram ao agora demitido conselho da OpenAI Nas próximas semanas, poderá se tornar um tema central de debate ao considerar como articular o equilíbrio entre avanço tecnológico e responsabilidade.
1
Vale lembrar a polêmica que gerou no início deste ano a carta aberta de Elon Musk e outros especialistas na área de IA na qual foi solicitada pausa’grandes experimentos de IA’:
2
“A humanidade pode desfrutar de um futuro próspero graças à IA. Tendo conseguido criar poderosos sistemas de inteligência artificial, podemos agora desfrutar de um ‘verão de IA’[…] não nos apressemos despreparados para um outono.
[…] Os sistemas de IA mais poderosos só deverão ser desenvolvidos quando estivermos confiantes de que os seus efeitos serão positivos e que os seus riscos serão controláveis.”
Imagem | Marcos Merino por meio de IA
De acordo com nosso conhecimento atual, a OpenAI iniciou o processo de registro da marca ‘GPT-5’. Mais detalhes sobre o status e o andamento deste registro ainda não foram apurados.
3
*️⃣ Link da fonte: