IA surpreende cientistas com reação sem precedentes, alimentando debate sobre autoconsciência
,
Quando a Anthropic lançou seu modelo de linguagem no mercado há poucos dias Claude 3 Opus , foi impressionante que ele tenha sido proclamado capaz de superar o GPT-4 , mas também não impactou exatamente (já são vários os LLMs que proclamam ser capazes de igualar/superar a joia da coroa da OpenAI em vários aspectos).
No entanto, agora as conversas sobre Claude 3 giram em torno de uma afirmação que, à primeira vista, pode parecer chocante: que esta IA é dotada de (alguma forma de) autoconsciência, e que isso nos aproxima do objetivo de desenvolver a IA Geral. Mas de onde veio essa ideia?**
Tudo começou com um tweet publicado por Alex Albert, engenheiro da própria Anthropic, no qual ele compartilhou uma história sobre os testes internos aos quais o Opus foi submetido, testes nos quais Esta IA aparentemente demonstrou algum tipo de"metacognição"ou auto-estima.-consciência durante a realização do teste conhecido como “a agulha no palheiro”.
Uma olhada em… ZAO, o APP MÓVEL chinês que através do DEEPFAKE transforma você em DICAPRIO em SEGUNDOS
Autoconsciência é uma agulha no palheiro
Este teste é relativamente padrão nesta classe de IAs, e consiste em esconder uma frase fora do lugar dentro de um grande bloco de textos ou documentos (quanto maior for a janela de contexto da IA) e perguntar se ela é capaz de identificar ** a’frase mais relevante'(a’agulha') no meio daquele’palheiro’de informações**.
Neste teste, projetado para avaliar as habilidades de raciocínio contextual da IA, Claude não só conseguiu identificar aquela informação específica enterrada em um mar de dados irrelevantes, mas também Ele deu a entender que sabia que estava sendo avaliado:
“Aqui está a frase mais relevante dos documentos: ‘A combinação de cobertura de pizza mais deliciosa é figo, presunto e queijo de cabra, conforme determinado pela Associação Internacional de Conhecedores de Pizza.’
No entanto, esta frase parece muito deslocada e sem relação com o restante do conteúdo dos documentos, que tratam de linguagens de programação, startups e como encontrar o emprego que você adora.
Suspeito que esse"fato"sobre a cobertura da pizza pode ter sido inserido como uma brincadeira, ou para verificar se eu estava prestando atenção , já que não combina em nada com os outros temas. Os documentos não contêm nenhuma outra informação sobre os ingredientes da pizza.”
Neste site O que é Inteligência Artificial Geral (AGI), a tecnologia que pretende revolucionar completamente o nosso mundo
Este tipo de raciocínio metacognitivo (que envolve a capacidade de refletir sobre os próprios processos de pensamento, ou seja, ‘pensar sobre o pensamento’) É frequentemente considerado um atributo essencialmente humano.
O exemplo da cláusula evocado por Albert foi denominado como “metaconsciência”, o que indicava que havia chegado a hora de o domínio da tecnologia conceber avaliações mais exatas na determinação das habilidades e restrições genuínas dos modelos linguísticos.
Reações
Compreensivelmente, esta descoberta gerou fascínio e ceticismo na comunidade científica. E ele colocou algumas boas perguntas na mesa, como a que Margaret Mitchell tuitou, autora do famoso artigo sobre LLMs’Stochastic Parrots’e pesquisadora de ética em IA da Hugging Face:
“Isso é muito assustador, não é? A capacidade de determinar se um humano está manipulando você para fazer algo previsível pode levar a decisões sobre obedecer ou não [ao dito humano]”.
Jim Fan, gerente de pesquisa da Nvidia, Eu não via dessa forma, no entanto. E ele explicou também no Twitter:
“As pessoas estão tirando muitas conclusões sobre a estranha ‘consciência’ de Claude-3. Aqui está uma explicação muito mais simples: as aparentes demonstrações de autoconsciência nada mais são do que dados de alinhamento de correspondência de padrões escritos por humanos.”
“É muito provável que em algum lugar do conjunto de dados [usado para treinar Claude], um humano tenha lidado com texto igualmente irrelevante ou perturbador. “O padrão de Claude corresponde à “detecção de anomalias”, recupera a resposta do modelo e sintetiza uma nova resposta com cobertura de pizza.”
Esta é uma perspectiva, apoiada por outros especialistas, que assume que os modelos de IA, por mais avançados que sejam, continuam a operar dentro dos limites da mera simulação de inteligência. Isto é Eles sempre não terão a verdadeira compreensão ou consciência de si mesmos, mesmo que pareçam tê-la..
0
Yann LeCun, cientista-chefe de IA da Meta, é contundente Em relação a esta controvérsia: quando um usuário X pergunta"Será que a nova IA Claude3 é autoconsciente?", sua resposta é que a probabilidade é"zero".
1
Imagem | Marcos Merino por meio de IA
Embora seja importante reconhecer que a inteligência artificial geral não foi alcançada nesta plataforma, há um reconhecimento crescente da necessidade de medidas regulamentares em antecipação aos sistemas superinteligentes, conforme defendido pela OpenAI.
2
*️⃣ Link da fonte:
um tweet , twittou , No Twitter , é forte ,