Google revela ‘Constituição Robótica’
Com os avanços em inteligência artificial que temos experimentado ultimamente, a visão de um futuro com andróides que possuem IA não parece tão distante. Na verdade, robôs alimentados por IA já foram criados e são capazes de realizar tarefas e responder às nossas perguntas. Não que sejam tão sofisticados e inteligentes como os que vimos nos filmes, mas o ser humano já deu os primeiros passos. Temendo que o futuro da humanidade esteja em perigo, o Google preferiu prevenir e escreveu uma constituição robótica que será responsável por evitar o que os robôs nos matam.
A IA apenas começou a ser uma revolução em nossa sociedade, já que temos o ChatGPT e tudo o que veio depois disso há pouco mais de um ano. Antes disso, a inteligência artificial era usada principalmente para ensinar certas tarefas às máquinas ou fazer chatbots funcionarem. comporte-se mais como humanos. As tentativas anteriores não foram suficientes para se destacar, até que, como dizemos, o ChatGPT começou a mudar as coisas. O fato de termos um chatbot capaz de responder nossas perguntas e fazer trabalhos de casa de todo tipo desde que o texto estivesse envolvido, já era algo que não existia antes, pelo menos até esse nível de complexidade.
Google elabora uma"Constituição"para evitar que robôs machuquem humanos ou animais
Mencionamos o OpenAI e seu chatbot, pois são justamente a base para muitos projetos ganharem vida. E, usando o GPT-4 é possível fornecer capacidades de escuta e fala para dispositivos de todos os tipos e sim, também incluímos robôs. Utilizando a IA é possível criar robôs humanóides mais inteligentes, capazes de seguir as nossas ordens, mas obedecendo a uma série de restrições impostas. No momento nada aconteceu, mas por muito tempo Tem-se que a IA ruim seja um perigo para a humanidade.
Antes do desenvolvimento de robôs avançados de IA, a equipe do Google DeepMind desenvolveu uma constituição que permitirá que os robôs sigam os regulamentos sem matar nenhum ser humano. A chamada “*Constituição Robótica**”, ficará encarregada de treinar IAs para obedecer às regras e não cometer acidentes contra seres humanos.
A constituição é inspirada nas três leis da robótica de Isaac Asimov
Esta constituição é inspirada nas Três Leis da Robótica de Isaac Asimov. A primeira delas é que um robô nunca prejudicará um ser humano. A segunda envolve ter que cumprir as ordens impostas, com exceção de ferir seres humanos. A terceira é que o robô deve se proteger sem infringir as outras duas leis. Tendo isso como inspiração, esta constituição robótica do Google visa fazer com que os LLMs evitem realizar tarefas que envolvam danos a humanos e animais.
O sistema de coleta de dados do Google, denominado AutoRT, foi usado para treinar os robôs usando VLM e LLM. Durante sete meses, um total de 53 robôs AutoRT realizaram mais de 77.000 testes. Alguns desses robôs eram operados por humanos, enquanto outros trabalhavam de forma autônoma com o modelo Google RT-2. No momento nenhum comportamento estranho foi relatado, mas será necessário um treinamento intensivo antes que se possa dizer que assimilaram completamente as regras da constituição robótica.
*️⃣ Link da fonte: