Liberando o poder da superinteligência com equipes OpenAI!
Em julho passado, OpenAI formou a equipe Superalignment (liderada pelo cientista Ilya Sutskever ) para desenvolver formas de regular e governar sistemas de inteligência artificial “*superinteligente**”, ou seja, sistemas teóricos com grande inteligência. superior ao dos humanos. A empresa criadora do ChatGPT publicou agora os primeiros resultados da investigação realizada pela sua equipa sobre os possíveis riscos deste tipo de inteligência artificial. Num artigo recente, o grupo descreve uma técnica que permite um modelo de linguagem grande menos poderoso do que supervisionar um modelo mais poderoso e sugere que este pode ser um pequeno passo para compreender como os humanos poderiam supervisionar máquinas superinteligentes.
OpenAI: testes da equipe de superalinhamento para prevenir os perigos do AGI
A equipe do Superalignment visa garantir que a IA permaneça segura e vantajosa à medida que se aproxima e supera a inteligência humana. Conforme afirmado por Leopold Aschenbrenner, pesquisador do grupo de pesquisa Superalignment da OpenAI, aos colegas da WIRED, “A AGI – inteligência artificial geral – está se aproximando muito rapidamente. Veremos modelos sobre-humanos, eles terão grandes habilidades e poderão ser muito, muito perigosos, e ainda não temos métodos para controlá-los”. Os experimentos envolveram a utilização do gerador de texto GPT-2 da OpenAI para fazer solicitações ao GPT-4 , um modelo mais avançado. Os pesquisadores testaram dois métodos para evitar a degradação do desempenho do GPT-4. O primeiro método envolveu o treinamento de modelos progressivamente maiores , enquanto o segundo adicionou uma modificação algorítmica ao GPT-4. Este último provou ser mais eficaz, embora os investigadores reconheçam que o controlo perfeito do comportamento ainda não está garantido.
A OpenAI planeja dedicar uma parte significativa de seu poder computacional ao projeto Superalignment, mas também está procurando uma colaboração externa. A L’agency , em parceria com o ex-CEO e presidente do Google Eric Schmidt , está lançando um programa de subsídios de 10 milhões de dólares para apoiar pesquisas técnicas sobre alinhamento superinteligente. Algumas cotas serão reservadas para laboratórios acadêmicos, organizações sem fins lucrativos, pesquisadores individuais e estudantes de pós-graduação. A OpenAI planeja eventualmente sediar uma conferência sobre superalinhamento no início de 2025, onde compartilhará e promoverá o trabalho dos finalistas do projeto.
barra lateral inferior relacionada 300
*️⃣ Link da fonte: