A razão chocante por trás da rescisão de Sam Altman na OpenAI
A OpenAI fez progressos consideráveis no domínio da inteligência artificial, suscitando preocupações de alguns investigadores relativamente às implicações para o futuro da humanidade.
Sam Altman, cofundador da OpenAI
As razões precisas por detrás da cessação do emprego de Sam Altman na OpenAI permanecem enigmáticas, apesar do seu papel como cofundador da organização e da subsequente turbulência que sofreu durante a sua ausência. No entanto, o Sr. Altman retomou a sua posição de liderança dentro da empresa, mas a justificativa que orientou a decisão de encerrar o seu mandato permanece obscura.
Parece que a Agência de Notícias Reuters apurou as potenciais motivações por detrás da decisão do Conselho, que podem ser atribuídas a preocupações relativas ao avanço da OpenAI e não apenas a factores externos.
Aproximando-se do AGI, mas o que é AGI?
De acordo com reportagem da agência de notícias Reuters, um grupo de pesquisadores da OpenAI escreveu uma carta urgente ao Conselho de Administração da organização, alertando-os sobre os avanços alarmantes que estão sendo feitos. Estes desenvolvimentos são considerados como constituindo uma ameaça significativa para a sociedade em geral. A agência conseguiu entrevistas com duas fontes independentes que podem atestar estas afirmações, embora não lhes tenha sido concedido acesso à correspondência propriamente dita. Além disso, os pedidos de comentários dos pesquisadores por trás da carta ou dos funcionários da OpenAI até agora ficaram sem resposta.
Segundo estas duas fontes, foi esta carta e o progresso da OpenAI que levaram à demissão de Sam Altman. Mais precisamente, estamos falando do projeto Q*, um avanço prodigioso no campo da IA que aproximaria a OpenAI da AGI, para Inteligência Geral Artificial. Esta é a fase em que a IA seria capaz de superar os humanos na maioria das tarefas com valor económico acrescentado.
O projeto Q* prevê o potencial de um sistema generativo de inteligência artificial para enfrentar desafios matemáticos. Atualmente, as suas capacidades limitam-se a fornecer soluções equivalentes às de um estudante do ensino secundário; no entanto, mesmo uma proficiência tão modesta seria digna de nota, conforme relatado pela Reuters. A resolução de problemas matemáticos necessita de uma resposta altamente específica e singular, tornando-a incompatível com resultados probabilísticos normalmente associados a tarefas de processamento de linguagem natural.
A realização desta iniciativa resultaria num aumento notável das capacidades de inteligência artificial da OpenAI no que diz respeito à capacidade cognitiva. O objetivo é criar uma entidade equipada com adaptabilidade autossuficiente e maior proficiência na compreensão de diversos conceitos.
Um avanço significativo foi recentemente reconhecido por Sam Altman numa importante conferência económica, destacando ainda mais o seu impacto potencial na indústria.
Nas últimas duas semanas, tive a oportunidade de estar nesta sala, enquanto afastamos o véu da ignorância e avançamos a fronteira da descoberta, e é a honra profissional de uma vida.
Sam Altman retornou como líder da OpenAI, após o anúncio do conselho de administração de encerrar o mandato de seu antecessor. Durante o período intermediário, Emmett Shear assumiu o controle da OpenAI. Como fundador e CEO da Twitch, o Sr. Shear acreditava que a inteligência artificial representava uma ameaça significativa à estabilidade do universo.
A questão do altruísmo eficaz
Lamentavelmente, não conseguimos verificar o conteúdo específico da carta mencionada pela Reuters, tornando assim difícil avaliar o perigo percebido para a humanidade neste momento. Além disso, foi relatado que a OpenAI se encontra envolvida numa disputa política e ideológica. Nomeadamente, alguns ex-membros do conselho defendem o “altruísmo eficaz”, uma tendência filosófica influente prevalecente em Silicon Valley, que se preocupa em restringir os rápidos avanços na inteligência artificial devido à apreensão relativamente às suas consequências potencialmente prejudiciais.
De acordo com Sam Altman, citado num artigo do Wall Street Journal, o fundador da OpenAI não apoia a noção de que um grupo de bilionários da tecnologia, incluindo Sam Bankman-Fried, o ex-CEO da FTX que foi condenado por fraude e a lavagem de dinheiro, bem como outras figuras notáveis, como ex-membros do Skype e do Facebook, constituem um movimento “deficiente”. Diz-se que este movimento atraiu indivíduos como Elon Musk, entre outros.
O movimento, que inclui pessoas que ajudaram a moldar o boom generativo da IA, é insular e multifacetado, mas partilha a crença em fazer o bem no mundo, mesmo que isso signifique apenas ganhar muito dinheiro e doá-lo a beneficiários merecedores.
Tendo em conta as circunstâncias dadas, é concebível que os investigadores que procuraram sensibilizar para os perigos colocados por Sam Altman se alinhem com esta ideologia particular.
*️⃣ Link da fonte: