3 mitos destruídos

Por trás da IA ​​estão os humanos fazendo o trabalho pesado. © Anne Fehres e Luke Conroy e AI4Media/CC-BY 4.0

A IA se estabeleceu em nossas vidas há vários meses, mas por trás das promessas quase mágicas desses robôs existem limites muito concretos. Voltemos aos três mitos que ainda cercam a inteligência artificial e suas aplicações.

A Inteligência Artificial permeia todos os aspectos da vida moderna desde o advento de sua maré influente, há mais de um ano. Esta tecnologia revolucionária impactou significativamente vários aspectos da existência humana e continua a moldar o futuro com avanços notáveis ​​nas capacidades de aprendizagem automática.

O chatbot desenvolvido pela OpenAI, que serve de base para inúmeras aplicações de IA utilizadas por grandes corporações, revolucionou o campo com sua excepcional facilidade de uso, meticulosidade e ampla disponibilidade. Destaca-se a capacidade do chatbot de realizar conversas de forma ágil e sem esforço, dando a impressão de que possui vastas capacidades.

Embora o ChatGPT exiba capacidades notáveis ​​como sistema de inteligência artificial, existem restrições inerentes associadas ao seu processo de design e treinamento. À medida que a IA continua a permear vários aspectos da vida moderna, é essencial examinar criticamente e dissipar os equívocos que possam ter surgido durante este período transformador marcado por rápidos avanços tecnológicos.

1 — IA é neutra

Apesar de se apresentar como uma entidade imparcial e distanciada, a intrincada rede de componentes de hardware e software que constituem a inteligência artificial é tudo menos indiferente e objetiva por natureza. Por outro lado, as respostas fornecidas por uma IA orientada para o diálogo como o ChatGPT são fortemente influenciadas pela vasta quantidade de informação que absorveu durante o seu processo de formação.

Durante o Festival des Utopiales em Nantes, Raphaël Granier de Cassagnac, um renomado autor de ficção científica e diretor de pesquisa do CNRS, usou uma analogia convincente para ilustrar o conceito de preconceitos de aprendizagem em sistemas de inteligência artificial. Quando ele fez a pergunta “O dólar continuará sendo uma moeda confiável?” tanto para uma IA americana quanto para sua contraparte da China, cada uma forneceu respostas marcadamente distintas. Tais discrepâncias demonstram os preconceitos inerentes que podem surgir no processo de aprendizagem da IA. Elene Usdin, uma talentosa artista visual que se destaca na fotografia, ilustração e criação de histórias em quadrinhos, assume uma postura ainda mais crítica sobre o assunto. Ela vê a IA como um instrumento potente para o imperialismo.

Instâncias recentes exibiram certos preconceitos dentro desses sistemas. Por exemplo, em 2015, o algoritmo de reconhecimento facial do Google Fotos categorizou incorretamente um indivíduo afro-americano como um “gorila”, principalmente devido ao sistema ser predominantemente treinado em indivíduos com características caucasianas. Da mesma forma, mais recentemente, em julho de 2022, a OpenAI reconheceu a diversidade limitada presente nas imagens geradas pela Dall-E, a sua IA de geração de imagens, antes de começar a incluir representações de indivíduos de diversas origens.

O prompt “foto de um CEO” antes e depois da “correção” feita pela OpenAI. ©OpenAI

Os sistemas de Inteligência Artificial são suscetíveis a preconceitos, incluindo os baseados na cultura, raça e género, que podem ser atribuídos aos seus treinadores, que também podem ter preconceitos semelhantes. Para resolver esta questão, organizações como o Laboratório da Igualdade lançaram iniciativas destinadas a criar conjuntos de dados que reflitam uma gama mais ampla de diversidade humana, a fim de mitigar estes preconceitos.

2 — IA é universal

Na verdade, ao conversar com o ChatGPT, podemos ficar impressionados com a sua ampla familiaridade com obras culturais ocidentais proeminentes. No entanto, apesar de parecerem possuir uma proficiência linguística abrangente e uma compreensão enciclopédica dos símbolos globais, tais percepções são, em última análise, enganosas.

Chen Qiufan, um renomado escritor de ficção científica e ex-funcionário do Google e do Baidu na China, destacou durante seu discurso na Utopiales 2023 que certos grupos étnicos minoritários na China estão totalmente excluídos dos conjuntos de dados utilizados pelos sistemas de inteligência artificial. Ele questionou ainda quais medidas deveriam ser tomadas para levar em conta as populações que não geram nenhuma informação rastreável digitalmente.

Um desafio fundamental relativo à capacidade da inteligência artificial de compreender aspectos específicos da realidade decorre da falta de dados acessíveis. Sem informações adequadas para analisar e processar, estes sistemas são incapazes de compreender as complexidades de vários fenómenos. Além disso, as barreiras linguísticas representam um obstáculo adicional que inibe a capacidade da IA ​​de interpretar e dar sentido ao mundo que nos rodeia.

O ChatGPT 3 reconhece que a maioria dos seus dados textuais provém de fontes de língua inglesa, constituindo uma parte significativa do seu corpus. Foi relatado que aproximadamente 93% do banco de dados utilizado pelo ChatGPT 3 contém texto em inglês. Embora o sistema possua a capacidade de construir frases gramaticalmente sólidas em vários enquadramentos linguísticos através de formação multilingue, funciona principalmente dentro de uma perspectiva centrada no inglês. Este viés automático influencia a interpretação da realidade pela máquina.

3 — IA é transparente

A opacidade dos sistemas de inteligência artificial apresenta uma questão ainda mais preocupante do que o potencial de parcialidade para influenciar os seus processos de tomada de decisão. Em contraste com os programas de computador tradicionais, cujo comportamento é determinado por código-fonte escrito por humanos que é acessível ou obscuro, os algoritmos de IA possuem a capacidade de gerar os seus próprios padrões de pensamento e heurísticas independentemente de informações externas. Consequentemente, estas entidades “caixa preta” operam de acordo com regras que estão além da compreensão e manipulação daqueles que as criaram.

Com IA, entendemos o que entra, mas nem sempre o que sai © Pdusit/Shutterstock

Tais comportamentos podem ser evidentes mesmo em cenários relativamente simples, como durante casos em que a inteligência artificial da DeepMind exibe certas ações antes de sair vitoriosa após várias rodadas de jogo subsequentes. Além disso, podem manifestar-se em circunstâncias mais complexas.

Sylvie Lainé, uma renomada engenheira de computação e autora, destaca que é um desafio para os sistemas de inteligência artificial (IA) articular seu raciocínio para chegar a uma determinada conclusão. À medida que a IA se torna cada vez mais envolvida em questões como decisões de gestão, planeamento estratégico, preocupações ambientais e outros domínios críticos, pode dar origem a complicações significativas. Além disso, sublinha que a raiz do problema reside no facto de os objetivos prosseguidos pela IA serem muitas vezes determinados por indivíduos ou grupos com motivos que podem nem sempre ser totalmente transparentes.

Para resolver esta questão, Raphaël Granier de Cassagnac propõe o desenvolvimento de sistemas de inteligência artificial que possam citar as suas fontes e potencialmente selecionar o corpus de formação em que se baseiam.

Download-Bate-papo em diferentes idiomas, incluindo francês -Gere, traduza e obtenha um resumo de texto -Gerar, otimizar e corrigir código

Desenvolvido pela OpenAI, ChatGPT é um agente de conversação de última geração que utiliza a estrutura de processamento de linguagem natural GPT-4 de última geração. Aproveitando os recursos de aprendizagem profunda e tecnologia de IA, o ChatGPT pode compreender e processar a entrada do usuário com notável proficiência. A sua excepcional capacidade de gerar respostas coerentes e contextualmente adequadas permite-lhe fornecer trocas personalizadas e pertinentes, facilitando assim uma conversa contínua e aumentando a satisfação geral do utilizador.

ChatGPT, um produto da inovação da OpenAI, é um agente de conversação de última geração capacitado pelo mecanismo de processamento de linguagem natural GPT-4 de última geração. Aproveitando os recursos de aprendizagem profunda e IA, o ChatGPT pode compreender e processar com eficácia a entrada do usuário. Através da sua impressionante capacidade de geração de mensagens coerentes e contextualmente apropriadas, o ChatGPT fornece respostas personalizadas e pertinentes, promovendo assim interações de conversação contínuas e aumentando a satisfação geral do usuário.

*️⃣ Link da fonte: