Quando as mentes superam os algoritmos

Coloque-o uma noite antes do jantar, na Galleria de Milão, na histórica livraria Rizzoli. Um deles, Tomaso Poggio , é um daqueles cientistas que o mundo inveja, e de fato há quarenta anos trabalha nos EUA, no MIT em Boston, fundador da neurociência computacional , membro do Laboratório de Ciência da Computação e Inteligência Artificial do MIT e codiretor do Center for Brains, Minds and Machines. O outro, Marco Magrini, é um daqueles jornalistas que falam de inovação como poucos: durante 24 anos correspondente e depois correspondente do Il Sole 24 Ore, hoje escreve para a Royal Geographical Society.

Juntos, eles publicaram um livro que é, em nossa opinião, o único no qual você pode enfiar o nariz se quiser entender algo mais do que está acontecendo no mundo da neurociência e da inteligência artificial sem se deixar atrair pelo cotidiano. notícias e marketing de IA. É intitulado Brains Minds Algorithms e é publicado na Itália pela Sperling & Kupfer.

Então, digamos que uma noite antes do jantar, na Galeria de Milão, na apresentação do livro na grande sala abaixo do nível da rua da livraria Rizzoli, com uma centena de pessoas ouvindo fascinadas por mais de uma hora enquanto os dois contada, estimulada por perguntas de Marco Pratellesi , vice-diretor do Today , que orquestrou o encontro. Estas são as notas que recolhemos, uma espécie de relato quase taquigráfico de uma daquelas noites memoráveis ​​em que falamos de substância e não de gnose de fanfole.

Portanto, fiquem à vontade porque não teremos falta alguma.

Como nasce um livro

O texto de Poggio e Magrini é particular: são dois autores referem-se a uma só voz. “Um livro – diz Pratellesi em sua estreia – que atravessa a humanidade de diferentes maneiras e em diferentes momentos. Em algumas passagens mais concisas, em outras mais profundas. Não são temas fáceis escritos sem fazer concessões, tentando explicar como as coisas realmente acontecem."

“A história deste livro – diz Magrini – já dura dez anos. Desde o dia em que saí do Sole 24 Ore, em 2013. À noite tive uma explosão de ideias sobre o que fazer daquele dia em diante mas de manhã só me lembrei de uma: fazer um livro com o Poggio. Eu o conheci e entrevistei há algum tempo, gostei dele. Eu o conheci em Boston, conversamos sobre isso e ele me disse que concordou: venha na minha casa por três meses e vamos trabalhar nisso. Um ano depois eu fui, trabalhamos, mas depois, por problemas técnicos, suspendemos."

“Enquanto eu estava no Poggio-Lab do MIT-continua Magrini – não me lembro quem fez uma piada:‘Temos um manual para todas as máquinas, exceto para a mais importante, a cérebro’. Ótima ideia, disse a mim mesmo, e escrevi aquele livro: Cérebro, manual do usuário, que foi bem (foi traduzido para dez idiomas) porque a ideia era bastante engraçada. A ideia do nosso livro, meu e do Poggio, parou aí. Então, durante o verão de 2022, Poggio o retirou de mim e dois meses depois, Sperling e Kupfer me perguntam se eu tenho um livro na gaveta. Explico-lhes o projeto com o Poggio e eles respondem enviando-me o contrato. Finalmente, dois meses depois de assinar o ChatGPT foi lançado e o mundo mudou, começamos a nos mover."

Foto de Antonio Dini

O trabalho que muda (sempre)

“O progresso tecnológico – diz Marco Pratellesi – teve uma aceleração excepcional. Somente a capacidade de aprender e de nos questionar nos ajuda. Era uma vez um mundo onde vivíamos em um mundo onde começávamos a fazer algo e permanecíamos sempre os mesmos. Talvez alguém tivesse uma carreira, mas o trabalho era sempre o mesmo. Hoje começamos um trabalho mas depois de quatro ou cinco anos ele não existe mais. Imagine nossos filhos e os filhos dos nossos filhos: que mundo eles encontrarão? A única fórmula que nos salvará é a capacidade de aprender. Tenho acompanhado o cérebro, humano e matemático, durante toda a minha vida: o que me impressiona é que temos bastante conhecimento sobre o cérebro matemático, o computador. Além da transparência dos algoritmos, que falta completamente e pode ser o desastre da inteligência artificial. Mas ainda sabemos muito sobre o cérebro mecânico e matemático. Dos nossos talvez nem tanto."

“É absolutamente verdade – diz Tomaso Poggio – o mistério de como nosso cérebro funciona é muito maior do que o funcionamento de computadores e programas como o ChatGPT. Embora, ironicamente, estes últimos funcionem tão bem precisamente porque não sabemos. Pessoalmente, até 5 a 10 anos atrás eu esperava que o caminho para o desenvolvimento de sistemas inteligentes como o ChatGPT tivesse passado – mas isso não aconteceu – por uma melhor compreensão de como nosso cérebro cria nossa inteligência. Em vez disso, algo diferente aconteceu nos últimos cinco anos, mesmo que tenha sido assim no início.”

Marco Magrini. Foto de: Antonio Dini

Como é que o cérebro funciona?

“No início-diz Poggio-a neurociência deu todas as ideias fundamentais para a máquina por trás do ChatGPT e das outras redes neurais, mas nos últimos cinco anos ela se desenvolveu de maneira própria e completamente independente. Hoje temos um verdadeiro zoológico de inteligências artificiais. O nosso já não é o único e há outros que são próximos ou até superiores aos nossos. Precisamos estudá-los, entender o que há em comum e o que há de diferente, entre o ChatGPT e nós, e tentar entender como funcionam.”

Poggio continua: “As questões são estas: o que somos, de onde viemos, como podemos mudar e melhorar, mas também no futuro como podemos expandir a nossa inteligência. Acho que teremos que fazer interface e nos conectar com máquinas, com a internet, e nesse ponto teremos necessariamente que saber onde colocar os conectores, teremos que entender como nosso cérebro funciona melhor do que conhecemos hoje. É um futuro que pode ser um pouco assustador, o da simbiose entre homem e máquina, mas acho que é um futuro provável de evolução."

Foto de Antonio Dini

Como podemos mudar com a IA?

“Uma pergunta para vocês dois – pergunta Pratellesi – com a premissa de se entenderem. Estamos traçando um panorama fantástico, se você notou no ano passado O presidente Mattarella disse:‘Estamos passando por um momento de mudanças radicais, nossas vidas estão mudando rapidamente diante de nossos olhos e estamos dentro deste grande evento’, que é, IA. Mas ninguém na imprensa percebeu isso. O que eu peço é: mude a sociedade, mude a forma de se comunicar, vamos usar o celular que não está conectado a nós mas por pouco tempo. Já estamos trabalhando em uma maneira de conectar essa grande habilidade com nosso cérebro, encontrar maneiras de capacitar o homem. Vemos um cenário em que não sabemos onde colocar as mãos."

“Provavelmente-diz Pratellesi – todos nós fazemos trabalhos que poderiam ser substituídos total ou parcialmente. Em Hollywood houve uma greve que durou meses durante todo o verão, colocando em risco séries de TV e filmes. Uma greve dos roteiristas por medo de que a IA os substitua. Porque gostaria de lembrar que os atores podem ser substituídos e os dubladores também. E isso deve ser sublinhado porque a excelência italiana do dublador já está praticamente morta: tanto o dublador quanto o escriba, em suma. Isso porque se até hoje conhecemos Dustin Hoffman com a voz de seu dublador, hoje já podemos ouvir Dustin Hoffman com sua voz sem que ele saiba uma única palavra em italiano. A questão, portanto, é: o que vamos jogar fora, o que é necessário, como devemos nos equipar, o que vai acontecer? Beppe Grillo está certo ao dizer que o progresso nos libertará da escravidão do trabalho e todos viveremos com a renda de um cidadão?

Foto de Antonio Dini

O otimismo da razão (e da mudança)

“ Sou otimista e como Grillo, acho que os computadores nos permitirão viver uma utopia em que cada um de nós faça o que gosta e no que é bom: esporte, arte, poesia, música, etc.. A sociedade continuará a ser mais produtiva do que antes porque os computadores farão o trabalho que as pessoas faziam antes. Portanto, penso que a sociedade não será mais pobre: ​​em vez disso, será igualmente ou mais rica e os meios para pagar às pessoas estarão presentes; no entanto, a política precisa decidir como fazê-lo. Isso é mais difícil de fazer do que os problemas que a tecnologia pode resolver.”

“No final das contas-diz Poggio-, há o aspecto de como as pessoas podem ficar satisfeitas sem ter um emprego. Alguns de nós estamos muito felizes fazendo o que fazemos, outros têm hobbies e paixões, mas não todos e não está claro como podemos substituir a sensação de prazer que um trabalho bem executado pode proporcionar.”

“Por outro lado-diz Poggio-será necessário ajustar a inteligência artificial: já foram feitos usos do chatGPT nos quais foram utilizadas informações erradas. Um dos advogados de Donald Trump escreveu os documentos de um caso com chatGPT usando casos que não existem: são as chamadas alucinações de IA que abordam outro tema interessante”.

Mantenha os humanos no centro da IA

Notei uma coisa – acrescenta Pratellesi –. Como temos o telemóvel já não dizemos ‘não sei’, porque verificamos imediatamente no telemóvel. O impressionante é que o algoritmo faz o mesmo: se não encontra a resposta não diz ‘não sei’, mas inventa”.

“Pode-se utilizar uma abordagem – diz Poggio – de outro tipo: aprendizagem no local, ou seja, como uma máquina pode fazer no setor médico. Agora deixamos para a IA aprender, ou seja, se adaptar à ferramenta específica utilizada por determinado hospital, mas ele deve ter supervisão, um médico que garanta e se responsabilize pelo que acontecer. Diz-se “humano no circuito”. Pode ser uma ótima maneira de fazer uma transição mais suave para as pessoas, para o trabalho. Se um advogado usa uma máquina que a substitui, um advogado deve supervisioná-la e certificá-la. Ele não perderá o emprego, pelo menos não imediatamente; em vez disso, ele se tornará o colaborador da máquina. Pode ser uma forma de fazer a transição."

Foto de Antonio Dini

Processo do New York Times contra OpenAI

Marco Pratellesi retoma: “Isso nos leva a uma área muito atual: você escreveu um livro enquanto as coisas mudam sob seus pés. Como você sabe, o New York Times processou a OpenAI, alegando que o treinamento com muitos dados necessários para aprender foi em grande parte retirado de seus dados. A ação é por violação de direitos autorais. Eles dizem:'Nós possuímos nossos dados e você fez o treinamento ChatGPT sem nos informar', e na minha opinião eles estão certos. Os dados são o novo petróleo: há dez anos era uma ideia revolucionária. Até a nossa, visto que somos semeadores de dados diariamente. Quem explora o petróleo e o transforma em energia deve pagar pela matéria-prima e, portanto, nós também. A contra-resposta da OpenAI foi interessante: cuidado, nem tudo é como diz o New York Times, porque eles forçaram as respostas até levar o ChatGPT ao erro. Na realidade, há muito mais dados, não apenas deles.”

Você pode dizer ao ChatGPT – diz Marco Magrini – para escrever um artigo como o New York Times e ele o faz, mas é limitante porque ele foi treinado em quantidades de dados oceânicos. Esse tipo de causa também acontece com IA generativa que produz imagens. Essas IAs viram Picasso e Tintoretto inteiros e tudo o que poderia ser fornecido a eles. E não só. Também há ações judiciais entre a gravadora Universal Music porque a IA produzia músicas no estilo do rapper americano Drake, com o mesmo estilo musical e voz dele. Outros processaram produtores de imagens exatamente pelo mesmo motivo. O importante a entender é que os direitos autorais como lei têm sérios problemas e precisam ser completamente reformulados. E esta é uma das coisas destrutivas que produz o momento em que há uma revolução."

Pensamento positivo

Em vez disso-continua Magrini –, estou muito fascinado pelas coisas novas que podem surgir com a revolução. Encontrei um vídeo no YouTube de 1985 no qual há um Steve Jobs muito jovem em uma apresentação na Suécia dizendo para um público de suecos:'Os primeiros computadores são muito rudimentares, mas chegará o dia em que eles sermos capazes de simular o pensamento de Aristóteles de tal forma que seremos capazes de fazer perguntas diretamente a Aristóteles'. O público ri porque achou que isto era uma loucura, mas hoje acaba de ser criada esta coisa: deram tudo o que temos sobre Aristóteles a um modelo algorítmico, e agora podemos fazer-lhe perguntas e ele responde como se fosse Aristóteles. Obviamente não temos a gravação da voz de Aristóteles, mas temos muito material com a voz de Dustin Hoffman que ele pode não apenas falar em qualquer idioma, mas agora também responder com o pensamento de Aristóteles. É uma perspectiva que até ontem era impensável, mesmo num sentido positivo."

A inteligência dos jovens e a democracia

Afirma Pratellesi: “Eu acrescentaria que desde 2016 a BBC tem um software que permite aos jornalistas falar com a sua própria voz como se de repente estivessem a falar noutras línguas: chinês, japonês, árabe, espanhol e assim por diante. É um software que utiliza vozes de 140 atores e 120 idiomas diferentes. É por isso que eu disse que o trabalho do dublador morreu. Em vez disso, outra questão: a inteligência média da população tem vindo a aumentar há décadas. Mas, ao mesmo tempo, a democracia está em declínio. Fiquei assustado: se a inteligência aumenta mas a democracia diminui, isso significa que a democracia já não é o sistema menos pior de todos?”

“O que você menciona – diz Marco Magrini – é um efeito científico descoberto há décadas: fazendo testes de diferentes épocas constatou-se que há constantemente um pequeno aumento. Somos mais espertos que nossos avós. Pessoalmente digo que hoje em crianças há mais estímulos do que na época dos nossos bisavós. No entanto, as medições mostraram recentemente que este crescimento na inteligência parou e na verdade teve um pequeno declínio: talvez seja por isso que a democracia não está a ir tão bem."

Devemos nos preocupar com IA?

Diz Pratellesi, lendo o índice do livro: “Radiação evolutiva, desinformação, vigilância, armas robóticas, IA contra outras IA, extinção do homo sapiens sapiens. Devemos nos preocupar? ”

Poggio responde:“Sim e não. Como todas as tecnologias poderosas e profundas, a inteligência artificial traz consigo grandes perigos. No entanto, são pequenas em comparação com outras: o aquecimento global e as armas nucleares são decididamente mais perigosas. O aspecto perigoso não é exclusivo da inteligência artificial, mas é a desinformação nas redes sociais. Isto pode aumentar com a IA, com modelos linguísticos, mas também existe sem IA e é um problema que ameaça a estrutura da nossa sociedade: Se já não sabemos o que é verdade e em que acreditar, é difícil fazer decisões como sociedade. Este é um grande problema e não está claro qual poderá ser a solução. Não está claro, mas são certas empresas como o Facebook e outras, para captar mais cliques e, portanto, mais dinheiro, fomentar conflitos e conflitos. Isto deveria ser regulamentado, especialmente nos EUA, onde a liberdade de expressão é levada demasiado a sério. É um grande problema.”

O que significa “probabilidade diferente de zero”?

Pergunta Magrini: “Mas a extinção do homem devido à IA?”

“A probabilidade-diz Poggio-não é zero. Como cientista, porém, é difícil dizer que algo tem probabilidade zero de acontecer. Mas neste caso eu diria que é muito pequeno. Você tem uma ideia como a do filme Exterminadores do Futuro, mas não espero que seja algo com que realmente precisemos nos preocupar, já que todos os outros problemas e guerras que temos agora e que teremos no futuro podem ser muito pior. O perigo, em vez disso, é que se crie muita desinformação e que amanhã teremos mais falsidades do que coisas certas.”

“Deste ponto de vista-diz Pratellesi – você permaneceu europeu: você pode ter uma IA que seja ‘Human Like’ ”.

A importância das regras europeias

Segundo Poggio: “A Europa desempenha um papel centrado do ponto de vista das regras e que pode ser muito importante. A China também tem um papel, mas não seria uma boa ideia tirar as regras da China, pelo menos não todas, já que se diz para não fazer coisas contra o partido comunista ou que o partido comunista não faz’não gosto. Por outro lado, os Estados Unidos são o lugar onde não existem regras e a tendência é que não haja, e isso é perigoso do ponto de vista da desinformação”.

Afirma Marco Pratellesi: “O que me impressiona nos EUA é que nem sequer compreendemos o quanto as declarações sobre o perigo da IA ​​feitas por muitos como Elon Musk e outros, não são puramente instrumentais para obter o bloqueio vantagens adquiridas por empresas concorrentes. É um verdadeiro Velho Oeste."

O Velho Oeste das regras dos EUA

** Magrini responde **: “Certo. O presidente da comissão do Senado norte-americano que tratou do assunto disse que nunca tinha acontecido na história daquela instituição que os objetos de regulação fossem solicitados a serem “muito rigorosos” consigo mesmos. Sua interpretação está correta, Marco. Contudo, gostaria de explicar ao nosso público que também estão a acontecer coisas extraordinárias. Já que gostamos de novidades: a Microsoft e o Departamento de Energia dos EUA anunciaram que em duas semanas descobriram, a partir de um banco de dados de 30 milhões de componentes, um novo material que permite reduzir o uso de lítio em baterias de telefones, automóveis e outras em até 70%.. Algo assim neste momento histórico pode fazer uma diferença completa. Além disso, na última semana, foi anunciada uma nova classe de antibióticos que pode matar bactérias que anteriormente eram resistentes aos antibióticos, como o Staphylococcus aureus. A última vez que uma nova classe de antibióticos foi descoberta foi há 60 anos e agora, com a IA, fizeram tudo em duas semanas; e eles se saíram bem porque até agora, em testes em ratos, o novo antibiótico funciona perfeitamente. E obviamente essas não são as únicas coisas.”

Cem anos de solidão ou até mais

“Vamos falar sobre nossa expectativa de vida”, diz Pratellesi. “A tecnologia e a ciência avançaram tão rapidamente que nos deixaram para trás. Quer dizer: hoje temos vidas muito longas (digo isso no bom sentido) porque a última parte do envelhecimento nem sempre é tão brilhante. Há um número significativo de doenças que antes não tínhamos tão amplamente, mas simplesmente porque morremos mais cedo. No entanto, também temos a certeza de que a doença de Alzheimer será curada e a IA terá um papel facilitador no desenvolvimento da medicina, um dos campos em que podemos esperar um grande salto. Mas vamos falar de nós mesmos, da nossa vida. Já hoje chegamos aos 90, até aos 100 anos. Até onde chegaremos amanhã? ”

“Quando falamos sobre IA – diz Poggio – vamos falar sobre aprendizado de máquina, aprendizado de máquina. O que a revolução fez com sucesso aconteceu em 2000, quando passamos do paradigma de programar computadores para o de treinar computadores, ou seja, fazê-los aprender. Isso mudou drasticamente o que era possível e, de fato, foi um multiplicador da ciência. Aliás, ao longo dos últimos cinco anos a inteligência artificial desempenhou um papel fundamental em diversas descobertas, uma das quais foi levada a cabo pela empresa fundada por um antigo aluno meu, que tem sede em Londres e hoje faz parte da Google. Eles desenvolveram o “Alpha Fold”, que resolveu um dos problemas de décadas da biologia molecular, ou seja, aquele que permite prever a estrutura das proteínas a partir da sequência de aminoácidos. Quando foi apresentado, há três anos, dizia-se: este será o primeiro software a ganhar o Prémio Nobel da Medicina. Não sei se isso vai acontecer, mas ele certamente merece. Mas ainda levaram outro prêmio muito importanteW.

O problema dos problemas é aprender

“Isso-Poggio continua – para dizer que a IA já desempenha um papel fundamental, que é acelerar a ciência. Eles aumentam nossa inteligência e resolvem nossos problemas. Acrescento minha opinião pessoal: na minha opinião, entre os grandes problemas da ciência, está o da inteligência e do aprendizado. Digo isto porque na minha opinião é um dos grandes problemas, como a origem da vida ou do universo ou a estrutura do tempo e do espaço. A inteligência e a aprendizagem também são fundamentais, na minha opinião, porque se resolvermos podemos aumentar a nossa inteligência através dos computadores e da IA ​​e poderemos resolver os maiores problemas com mais facilidade.

Diz Pratellesi: “O livro tem esse objetivo final. A linha de chegada é a inteligência que se compreende plenamente”.

A inteligência artificial é capaz de invenção ou apenas iteração para descobrir coisas novas?

“É uma pergunta interessante”, responde Poggio. “A resposta é que não está claro. Por exemplo, quando as IAs criam imagens, é difícil dizer se são criativas. Para mim, o teste é quando uma IA será capaz de fazer uma nova conjectura matemática não trivial. Até que ele tenha sucesso, não ficará claro se ele é capaz de inventar. Ainda não aconteceu. ChatGPT encontrou algumas conjecturas interessantes em um canto muito pequeno da teoria matemática dos grupos, um setor muito pequeno no qual há cinco trabalhos publicados no total e é isso. É uma área muito pequena da matemática, mas talvez em alguns anos possamos chegar lá. Quando houver teoremas matemáticos novos e originais, falaremos sobre eles novamente.”

“No entanto-diz Poggio-, eu estava em Seul quando Alpha Go venceu o campeão mundial de Go, que na Coreia é como o campeonato mundial de futebol aqui, com multidões nas ruas assistindo à partida. E nessa série de reuniões Alpha Go fez um"movimento de Deus". Os especialistas em Go têm falado sobre isso desde então e será analisado por um longo tempo. A verdadeira questão é que é muito difícil dizer qual um deles é a fronteira entre a criatividade e simplesmente “encontrar” algo. Existe intuição ou não? A questão é, na verdade, o que fazemos quando produzimos um novo teorema: pensamos que há uma intuição oculta, mas não"Você sabe qual ou como. Você vê que esses sistemas de IA estão nos fazendo perguntas sobre qual é a nossa inteligência."

Imagem de Gabriella Clare Marino – Unsplash

As alucinações são uma falha no sistema ou um avanço em direção à invenção da IA?

“Eu diria – diz Poggio – que é uma falha do sistema, um dos problemas dessas arquiteturas, que não são aplicáveis. Não está claro como isso pode ser resolvido com transformadores, porque eles ingerem grandes quantidades de dados e então, tudo bem, não sabemos o que acontece. Existem soluções temporárias, mas não soluções completas. Empresas como Google e Microsoft estão começando a trabalhar com universidades para testar problemas de confiabilidade e controle e descobrir como resolvê-los.”

“Todos esses modelos – diz Magrini – estão evoluindo ao longo do tempo com uma rapidez monstruosa. Falamos do chatGPT, que agora também é capaz de tirar imagens, mas que ficou famoso por responder perfeitamente usando a fala humana em centenas de idiomas diferentes. Já foi impressionante assim. Porém, me divirto mais gerando imagens com modelos como Midjourney , minha preferida, que saiu em março de 2022 com a versão 1. Hoje estamos na versão 6. Se você pediu a versão 1 para criar uma imagem de uma garota loira com um buquê de flores, a versão 1 colocava um olho nele e uma embaixo da cabeça, o 2 colocava os olhos direito mas ela fez mãos de seis dedos. O 6 é indistinguível das fotografias do melhor fotógrafo do mundo e de alta resolução. Esses modelos não são criativos, mas espero que se tornem muito rapidamente.”

O fim da noite

Pratellesi conclui: “Vamos terminar com esta ideia: precisamos de transparência. Quando compramos um objeto é indicado se é"Made in Italy ”, ” Made in China ” ou onde o fizeram. Talvez fosse necessário um"Human Made ”, isto é, um rótulo e regras que estabeleçam transparência. Está tudo bem, mas quero saber de onde vem alguma coisa, quem colocou em circulação. Porque viemos de uma sociedade onde até recentemente dizíamos ‘eu li no jornal, as notícias diziam’. Esses foram os parâmetros. Já entrar em uma sociedade onde dizer ‘Eu li no Facebook’ nos deu alguns problemas, por assim dizer. Mas agora entrar numa sociedade em que a informação, que é a base da evolução do cérebro e do desenvolvimento da humanidade, já não é distinguível entre o verdadeiro e o falso, honestamente cria alguns problemas de ansiedade."

Esta página da web fornece uma coleção abrangente de artigos relativos à Inteligência Artificial, abrangendo várias perspectivas e avanços na área.

*️⃣ Link da fonte: