Por que o novo filme do ‘Exterminador do Futuro’ está irritando pesquisadores de inteligência artificial

= =---____---------   ---------________::_____   _____= =..= = =..= =..= = =____   _____::__________---------   -----------____---= =

Na vida real, há de fato uma série de riscos associados à inteligência artificial — mas não da forma como mostra o novo filme da franquia.
= =---____---------   ---------________::_____   _____= =..= = =..= =..= = =____   _____::__________---------   -----------____---= =

 Por BBC  
 28/10/2019 13h43 Atualizado há 8 horas  
 Postado em 28 de outubro de 2019 às 23h00m  

 

Exterminador do Futuro — Foto: VICTOR CHAVEZ

Quando o personagem de Arnold Schwarzenegger diz "eu vou voltar" nos filmes da série Exterminador do Futuro, ele fala sério: na semana passada, o filme O Exterminador do Futuro: Destino Sombrio, o sexto da franquia, estreou no Brasil.

Mas nem todo mundo gostou da novidade. Em laboratórios da Universidade de Cambridge, do Facebook e da Amazon, pesquisadores ficaram irritados. Eles temem que o filme leve o público a se enganar sobre os verdadeiros perigos da inteligência artificial (IA).

Pioneiro no desenvolvimento da IA, o cientista Yoshua Bengio disse à BBC News que não gostou dos filmes da franquia por diversas razões.

"Eles criam uma imagem que não é coerente com o atual entendimento que se tem sobre como os sistemas de IA funcionam no presente e no futuro próximo", diz Bengio, que é conhecido como um dos "padrinhos da IA" pelo seu trabalho com o tema nas décadas de 1990 e 2000.

Bengio foi um dos pioneiros no desenvolvimento de deep learning (aprendizado profundo, em inglês), um dos ramos do machine learning (aprendizado de máquina), um método de "ensinar" sistemas de inteligência artificial a reconhecer padrões que são óbvios para o cérebro humano.

"Estamos muito longe de sistemas de IA superinteligentes e pode haver alguns obstáculos muito grandes para ir muito além da inteligência humana", diz ele.

Da mesma forma que o filme Tubarão despertou medos não necessariamente justificados sobre tubarões em muitas pessoas, filmes pós-apocalípticos como O Exterminador do Futuro podem gerar temores infundados sobre sistemas todo-poderosos e incontroláveis de IA — o que estaria muito distante da realidade, segundo especialistas.

"A realidade é que isso não vai acontecer", diz Edward Grefenstette, pesquisador na unidade de pesquisa em IA do Facebook em Londres.

No novo filme, ciborgues causam caos e controlam o mundo. Na vida real, robôs ou outros sistemas que usam IA são capazes de jogar jogos de tabuleiro e de reconhecer rostos de pessoas em fotos. E, embora façam essas coisas melhor do que um ser humano, eles estão muito longe de serem capazes de controlar um corpo humano.

"Os sistemas mais avançados de hoje não são capazes nem de controlar o corpo de um rato", afirma Bengio, que fundou a empresa canadense Element AI, de pesquisa em IA.

Os sistemas de inteligência artificial de hoje têm grande dificuldade de dominar mais de uma tarefa, por isso são conhecidos como "IA estreita", em oposição à "IA geral".

O pesquisador Neil Lawrence, que ensina machine learning na Universidade de Cambridge, diz que seria mais apropriado chamar boa parte da tecnologia de IA de hoje de "computação e estatística".

 

Professor de 'aprendizado de máquina' na Universidade de Cambridge, Neil Lawrence diz que deveríamos repensar o que consideramos inteligência artificial. — Foto: UNIVERSIDADE DE CAMBRIDGE/DIVULGAÇÃO

"A maior parte do que chamamos de IA hoje é o uso de grande capacidade computacional combinada com muitos dados, para selecionar correlações estatísticas", diz ele, que antes trabalhava na Amazon.

Personalidades como o empresário Elon Musk ajudaram a levar pessoas a achar que O Exterminador do Futuro poderia se tornar realidade em um futuro não tão distante. Ele já disse, por exemplo, que a IA é "potencialmente mais perigosa que bombas nucleares".

Mas a comunidade de pesquisadores de IA não tem certeza sobre o quanto a IA se desenvolverá nos próximos 5 anos, muito menos nos próximo 10 ou 30 anos.

Também há muito ceticismo na comunidade sobre se os sistemas de IA poderão, algum dia, atingir o mesmo nível de inteligência de seres humanos — ou se isso é desejável.

"Normalmente, quando as pessoas falam sobre os riscos de IA, elas imaginam cenários onde as máquinas alcançaram uma 'inteligência artificial geral' e têm habilidades cognitivas para agir muito além do controle e das especificações passadas por seus criadores humanos", diz Grefenstette.

"Como todo respeito a pessoas que falam sobre os perigos da inteligência artificial geral e sobre sua iminência, essa é uma perspectiva irrealista", diz ele. "Os recentes avanços em IA ainda são focados, invariavelmente, no desenvolvimento de certas habilidades muito específicas, dentro de um domínio controlado." 

Os verdadeiros riscos da IA

Nós deveríamos estar mais preocupados sobre como os humanos abusam dos poderes oferecidos pela IA, diz Bengio.

Como a IA aprofundará a desigualdade? Como a IA será usada na vigilância? Como ela será usada na guerra?

Lawrence, da Universidade de Cambridge, afirma que o filme pode fazer as pessoas refletirem sobre como as guerras serão no futuro.

A ideia de sistemas relativamente primitivos de IA controlando máquinas de matar é assustadora, diz Bengio.

 

O pesquisador Yoshua Bengio afirma que estamos muito longe de sistemas de IA super inteligentes — Foto: MARYSE BOYCE/DIVULGAÇÃO

Joanna Bryson, por outro lado, que lidera o grupo de sistemas inteligentes na Universidade de Bath, diz ser "bom que as pessoas pensem nos problemas gerados por sistemas de armamento autônomos".

Os cientistas afirmam que não precisamos esperar pelo futuro para ter uma ideia de possíveis danos causados pela IA. Sistemas de reconhecimento facial já estão sendo usados para encontrar a oprimir minorias na China, robôs estão sendo usados para manipular eleições nos EUA e vídeos de deep fake (vídeos forjados muito realistas) já são comuns hoje em dia.

"A IA já está ajudando as pessoas a destruir democracias, estragar as economias e corromper o Estado de Direito", diz Bryson.

Felizmente, muitos pesquisadores em IA também trabalham para garantir que seus sistemas tenham um impacto positivo na sociedade, concentrando seus esforços em melhorar os sistemas de saúde e combater a mudança climática causada pelo homem.

Em última instância, a responsabilidade de comunicar o verdadeiro estágio de desenvolvimento da IA está com a mídia, dizem os cientistas.

Eles criticam, por exemplo, casos de veículos jornalísticos usando fotos dos filmes da franquia de O Exterminador do Futuro em reportagens sobre avanços na tecnologia.

Bryson diz que jornalistas escrevendo reportagens sobre IA deveriam "mostrar fotos dos cubículos nos escritórios onde as pessoas estão de fato desenvolvendo a IA".

"A imprensa precisa parar de tratar a IA como um tipo de descoberta científica que foi encontrada em uma escavação ou encontrada em Marte. Inteligência artificial é apenas uma tecnologia que as pessoas usam para fazer coisas."

Ela tem um argumento justo. Mas seja honesto, você teria clicado nessa matéria se ela não tivesse a foto de um robô assassino?