Musk, Wozniak e Hawking pedem a proibição da Inteligência Artificial na guerra e o emprego de armas autônomas
Mais de 1.000 especialistas e líderes pesquisadores de robótica assinam o alerta em carta aberta sobre a corrida armamentista da inteligência artifical
Mais de 1.000 especialistas de alto nível de inteligência artificial e pesquisadores líderes assinaram um alerta em carta aberta de uma “corrida armamentista de inteligência artificial militar” e pedindo a proibição de “armas autônomas ofensivas”
A carta, apresentado na Conferência Internacional Conjunta de Inteligência Artificial em Buenos Aires, Argentina, foi assinada por Elon Musk da Tesla, pelo co-fundador da Apple Steve Wozniak, pelo executivo-chefe da Google DeepMind Demis Hassabis e pelo professor Stephen Hawking, juntamente com 1.000 pesquisadores de robótica e Inteligência Artificial (iniciais AI em inglês).
A carta afirma: “A tecnologia AI chegou a um ponto onde a implantação de [armas autônomas] é – praticamente se não legalmente – viável dentro de anos, não décadas, e as apostas são altas: armas autônomas têm sido descritas como a terceira revolução na guerra, depois de pólvora e armas nucleares”.
Os autores argumentam que a AI pode ser usada para fazer o campo de batalha um lugar mais seguro para o pessoal militar, mas que as armas ofensivas que operam por conta própria diminuirão o limiar de decisão de ir para a guerra e resultarão em maior perda de vidas humanas.
No caso de um poder militar iniciar sistemas capazes de selecionar alvos e operando de forma autônoma, sem controle humano direto, iria começar uma corrida armamentista similar à da bomba atômica, os autores argumentam. Diferentemente das armas nucleares, no entanto, a AI não requer nenhum hardware específico e será difícil de controlar.
“O ponto final dessa trajetória tecnológica é óbvia: armas autônomas se tornarão os Kalashnikovs de amanhã. A questão-chave para a humanidade hoje é começar uma corrida armamentista de AI global ou impedir que ela seja iniciada”, disseram os autores.
Toby Walsh, professor de AI na Universidade de New South Wales disse: “Precisamos tomar uma decisão hoje, que irá moldar o nosso futuro e determinar se seguimos um caminho do bem. Nós apoiamos a chamada de um número de diferentes organizações humanitárias para que a ONU proíba as armas ofensivas autônomas, semelhante à recente proibição de lasers que provocam a cegueira”.
Musk e Hawking têm alertado que a AI é “a nossa maior ameaça existencial” e que o desenvolvimento da AI plena poderia “significar o fim da raça humana”. Mas outros, incluindo Wozniak, co-fundador da Apple, recentemente mudaram de idéia sobre a AI, dizendo que os robôs seriam bons para os seres humanos, tornando-os como o “animal de estimação da família, cuidando o tempo todo”.
Em uma conferência da ONU em Genebra em abril para discutir o futuro dos armamentos, incluindo os chamados “robôs do assassinos”, o Reino Unido opôs-se à proibição do desenvolvimento de armas autônomas, apesar dos apelos de vários grupos de pressão, incluindo a Campanha para parar os Robôs Assassinos.
FONTE: www.theguardian.com
Do ponto de vista puramente tecnico, as armas autonomas ja existem ha algum tempo.
Os ICBMs. depois de lancados, nao tem como mudar nem o curso e nem o alvo. O missil chega ao destino e detonar sua carga nuclear.
Os Cruise Missiles, tambem sao armas autonomas, porque operam independentemente, sem intervencao humana.
Os Glolbal Hawk, podem voar sozinhos, navegar sozinhos e aterrizar sozinhos. Mas tambem podem ser teleguiados.
O fato de nao possuirem uma aparencia antropomorfica, nao significa que nao sejam robos.
A sociedade em geral esta acostumada a pensar em robos como uma forma humana (Terminator, por exemplo); mas nao tem que ser assim.
O que impede de se armar um Global Hawk com uma smart weapon dotada de uma ogiva nuclear por exemplo; e deixar que a maquina busque seu alvo previamente selecionado???? Nada….porque a tecnologia existe para cumprir tal objetivo.
Tecnicamente seria como um robo autonomo, so que dotado de asas, de GPS e Inertial Guidance System.
Neural Networks, Expert Systems, Algoritimos Geneticos, Programacao heuristica, processamento paralelo, ou milhoes de gigabytes de RAM nao sao suficientes para emular a mente humana.
O que pensam Hozniak, Hawking, Kurzweil, Nick Bostronm, ou o MIRI,e tantas outras respeitadas mentes, nao vai mudar o prognostico de uma possivel Singularidade.
Uma maquina dotada de Inteligencia Artificial, no sentido estrito da palavra (AGI), vai ter que possuir uma capacidade de internalizar conceitos, e isso so se faz mediante o uso da linguagem natural (linguagem humana), e com auxilio de inputs avancados atraves de sensores opticos (visao).
Terminator era um robo dotado de AI. Tinha um programa monitorando suas funcoes e objetivos. E aparentemete era auto consciente.
Quando uma maquina for capaz de se diferenciar do meio externo, ou seja, quando um robo for capaz de usar o pronome EU, ai sim teremos alcancado o patamar da Inteligencia Artificial, e dai para frente o resultado sera a Singularidade.
A solucao para o problema nao reside somente em electronica e metodos computacionais avancados.
A solucao para o problema de AI esta em criar uma maquina dotada de AC (Consciencia Artificial).
Uma formiga, um peixe no aquario, ou um polvo sao exemplos de robos usando quimica organica como plataforma, para executar seu programa codificado em DNA. (Biobots).
Minhc conclusao e a seguinte:
Essa forma de vida aqui e um tipo robo organico.
http://www.google.com/imgres?imgurl=http://globe-views.com/dcim/dreams/shark/shark-01.jpg&imgrefurl=http://globe-views.com/dreams/shark.html&h=3846&w=4713&tbnid=25H_L0AJviTbkM:&docid=w-Z_xDRw5shvmM&ei=S8W3VZDsA4Ht-QGZzZ_IAQ&tbm=isch&ved=0CDEQMygAMABqFQoTCNC90vG1_sYCFYF2PgodmeYHGQ
Essa outra forma de vida aqui possui uma Intelligencia biologica (baseada no atomo de Carbono) e autonoma, mas funciona com dois tipos de programa: DNA e Input Cultural.
http://wallpapersinhq.com/images/big/the_human_being-1433358.jpg
Essa outra forma de vida aqui possui AI baseada no Silicio.
https://www.google.com/search?q=terminator+2&gbv=2&biw=1344&bih=722&tbm=isch&imgil=u9vCWYUKxwY6jM%253A%253BNC-gzz07YifK_M%253Bhttp%25253A%25252F%25252Fwww.amazon.com%25252FTerminator-Judgment-Skynet-Edition-Blu-ray%25252Fdp%25252FB001RIY4WE&source=iu&pf=m&fir=u9vCWYUKxwY6jM%253A%252CNC-gzz07YifK_M%252C_&usg=__Nva9TI0lGVyb2Blmq8aTJosd-vg%3D#imgrc=gnm4XINBbhTWcM%3A&usg=__Nva9TI0lGVyb2Blmq8aTJosd-vg%3D
Mas estamos longe de chegar a este patamar.
https://www.youtube.com/watch?v=XYGzRB4Pnq8
Os robôs nunca serão como o homens pois dificilmente conseguirão fazer um robô sentir dor. E a dor é base para inúmeros sentimentos. Senso de certo e rrado. Provavelmente serão máquinas fortes, capazes de matar, mas serão “tolas” incapazes de fazer poemas ou de fazer rir, por exemplo.
Eu não tenho medo. A verdade é que quando em uma campo de batalha todos os robôs forem destruídos ( e certamente serão, uns pelos outros) sobrará para o homem, em carne e osso, voltar para o fuzil.
Eu acredito que os robôs, humanóides, serão muitos bons na agricultura (pegar na enxada) e para outros serviços pesados e perigosos. Eu não tenho medo dos robôs. Eu tenho medo sim dos homens de carne e osso que comandarão os robôs.
Inteligência como a humana, sem dor, impossível.
Admiro muito alguns desses caras, mas tentar impedir a proliferação de armas autônomas ou de, em pouco tempo, armas dotadas de AI, é uma utopia.
Digamos que os EUA, a França e a GB se recusem a desenvolvê-las. O que garantirá que uma Rússia ou PRC, ou pior ainda, uma Coréia Vermelha ou Irã, ou ainda pior, um EI ou Hizbollah, irão se recusar a desenvolvê-las?
Não, a verdade é que se estas armas tem de ser desenvolvidas, e se simplesmente for possível desenvolvê-las, é melhor que elas estejam em mãos das grandes democracias capitalistas ocidentais, onde a probabilidade de se ter algum controle sobre elas é maior.
E que elas (as grandes democracias do mundo) as desenvolvam e depois proíbam os outros de tê-las, sob pena de sanções, como foi e é com as armas atômicas.
Saudações.
Uma coisa é vc disparar um míssil com determinada programação. Armas com AI, na minha opinião é outra coisa. É vc soltar um drone e manda-lo escolher seus alvos a partir de alguma programação básica. Concordo com os cientistas. A única possivel vantagem de um robô desses é que se produzidos aos milhares voariam ou poderiam operar em solo de forma autônoma. O problema é que jamais terá a consciência de um ser humano e estará sujeito a falhas a ponto de atacarem seu próprio país. Sérios riscos de criar máquinas de matar que podem de uma hora para outra disparar mísseis ou atirar contra seu próprio país.
sugestão de notícia
http://noticias.terra.com.br/mundo/america-latina/maduro-denuncia-provocacoes-da-guiana-e-defende-mediacao-da-onu-em-litigio,30f971a14b7c66d9b5246e0cd0de4b0b4ac9RCRD.html
Acho que a AI é o sonho de muitos cientistas, que farão o necessário exatamente para fabricar um ser artificial, e nao desistirao enquanto não fizerem a Mulher robô, para fins óbvios…
Venderia mais que água…
😉
Eu espero que eles sejam ouvidos e que um banimento seja feito.
Apesar de todo o ímpeto tecnológico armas nucleares não são tão comuns e guerra química e biológica tornou-se raríssima.
Que os esforços contra armas que matam sozinhas rendam bons frutos.
Para o bem ou para o mau eles não serão ouvidos.
O que ninguém atenta é que não importa se a máquina “pensará” ou não de verdade, se sentirá dor ou não…
… pois somos nós que seremos as máquinas.
Antes de tudo entraremos em um processo de existência simbiótica e que na verdade já começou por meio da atual Dependência Tecnológica, afinal, tem alguém aki hj que consegue de fato sair de casa sem o celular?
Depois chegaremos ao ponto onde ficará difícil saber onde termina o homem e onde começa a máquina.
Vc’s duvidam?
Uai… todos aki são ou não são um avatar?
Não somos a ínfima representação do que nós somos fora da máquina dentro da máquina, levada pela rede assistida pela máquina para ser apresentada pela máquina ao “Todo” do Outro que responde com a sua própria representação ínfima de seu Todo?
15 anos atrás não tínhamos isso… e a daki a 15 anos na frente… o que será.
Só o fato de estarmos discutirmos o impedimento ou não de tal avanço ou perigoso avanço é desperdício de energia… pois ele vai acontecer e isso para o bem ou para o mau é um Fato.
O Fato é que não importa a forma, o Ser humano não deixará de existir, pois não somos forma, somos uma consciência e continuaremos a cometer as bondades e as atrocidades de Ser humano.
Ps.: Salvo uma estrela de Neutrons… ai vamos pro saco kkkk 🙂
A unica pergunta que deve-se fazer é ; Ai se restringerá aos campos de batalha ou atingirá todos os niveis da vida , civil e militar? Alguém já assistiu o filme controle absoluto? No qual uma maquina decidi como a politica deve ser exercida.
Senhores Editores,
Um minuto de vossa atenção!
Desculpem-me se o local não é o mais apropriado.
Gostaria de adquirir a “Revista Força de Defesas” na versão impressa.
Enviei dois emails no espaço de dois meses para o prezado site e não obtive respostas. Como devo proceder para adiquiri-las?
Obrigado!
P.S.: no aguardo e esperança dessa tentativa.
Enquanto isso nós nos enrolamos para adquirir um capacete…
Estou plenamente de acordo com eles !
Ah mas se a China e Russia desenvolverem armas autonomas? Não acredito na capacidade deles de desenvolver tecnologia como nós aqui no Ocidente.
” como nós ”
Vc inclui o Brasil nisso ??
Legal, nao sabia que produziamos nossos proprios processadores estilo Intel aqui. IntelBR, nao conheço essa fábrica…
Aliás, russos e chineses o fazem, tem seus proprios sistemas de computadores totalmente indígenas.
Não vejo como eles ficariam para trás…
Considerando-se que a China é a maior exportadora mundial de tecnologia…
Wagner
3 de agosto de 2015 at 13:23 #
“Aliás, russos e chineses o fazem, tem seus proprios sistemas de computadores totalmente indígenas.”
Tem mesmo? Ou fabricam sob licença sistemas americanos? Lembrando que uma coisa é desenvolver um sistema de automação de uma máquina qualquer, outra é desenvolver um sistema operacional de um computador.
“Considerando-se que a China é a maior exportadora mundial de tecnologia”
A China é a maior exportadora mundial de tecnologia AMERICANA. Fabricam sob licença quase tudo que o parque tecnológico norte-americano desenvolve.
O pouco que eles exportam que é – como foi mesmo que o senhor disse? – “indígena”, é uma porcaria.
Prezado Oganza, concordo com cada palavra dita. O futuro da humanidade é inevitável….cyborg! A simbiose total do homem com as maquinas será inevitável para a sobrevivência da humanidade!