Em um futuro não muito distante, Joanesburgo, podre de crimes, torna-se a primeira cidade a implantar uma frota de robôs policiais robôs autônomos. No início, as máquinas parecem ser uma solução eficaz. Crime mergulha drasticamente e o projeto é considerado um sucesso - até que algo dê errado. Gângsteres de rave de rap procurando um dia de pagamento rápido sequestram um dróide danificado programado para demolição. Com a ajuda de um engenheiro coagido sob a mira de uma arma, eles reprogramam o dróide, chamado Chappie, como um agente autônomo, criando efetivamente a singularidade, o ponto em que a inteligência artificial se torna mais inteligente que a inteligência humana.
Como a maior parte da boa ficção científica, o novo filme do diretor Neill Blomkamp, Chappie , funciona como um comentário sobre a natureza humana e os problemas atuais, incluindo pobreza, crime, discriminação, intimidação e brutalidade policial. Mas também levanta questões mais prescientes sobre o que muitos pensam - para o melhor ou para o pior - será um inevitável surgimento da inteligência artificial senciente.
"No passado, tudo o que os seres humanos conceberam, independentemente da ética e da moral, foi testado e, se possível, feito", diz Wolfgang Fink, físico da Universidade do Arizona e do Instituto de Tecnologia da Califórnia. . “Sistemas autônomos surgirão se alguém descobrir como criá-los - isso é certo.”
De fato, numerosos cientistas, incluindo Fink, estão agora perseguindo febrilmente essa linha de pesquisa, e o progresso já foi feito. Além da própria Chappie, grande parte da robótica retratada no filme já está, de fato, disponível ou muito próxima de estar disponível. Robôs operados remotamente, semelhantes ao Moose do filme - a enorme máquina da morte que lembra o ED-209 da Robocop, operado pelo policial demente de Hugh Jackman - existem hoje.
Da mesma forma, robôs como os droides da polícia de Chappie - que são programados como sistemas baseados em regras e são artificialmente inteligentes, mas que não têm autoconsciência ou autonomia - estão quase prontos, embora sua vida útil e agilidade ainda não correspondam aos modelos mostrados patrulhando ruas de Joanesburgo. Se e quando tais máquinas forem implantadas, talvez não seja uma coisa tão radical aceitarmos. "Somos muito bons em nos acostumar e nos acostumar com as mudanças no ambiente, incluindo as tecnológicas", diz Ali Mattu, psicólogo clínico do Centro Médico da Universidade de Columbia e criador do Brain Knows Better, um blog de psicologia de ficção científica. “À medida que os robôs se tornam parte de nossa vida cotidiana, acho que, de certa forma, isso pode parecer perfeito”.
Um dróide policial, no entanto, não faz um ser senciente autônomo. Um ser verdadeiramente autoconsciente e autoconsciente como Chappie seria um afastamento de qualquer coisa já vista antes. “Desde os Neandertais, nunca tivemos o potencial de trabalhar em colaboração com uma espécie totalmente nova e inteligente”, diz Mattu. "Se pudermos superar as barreiras para compartilhar a empatia com uma forma de vida artificial, isso pode levar a uma incrível idade para a humanidade."
O hardware não é o obstáculo que impede a emergência de tal ser - isso é simplesmente uma tarefa de engenharia, diz Fink. Em vez disso, criar o software - o fantasma na máquina - é o verdadeiro desafio. Os pesquisadores estão adotando duas abordagens diferentes para esse problema. Alguns estão tentando criar um ser consciente pronto para ser carregado do zero, enquanto outros pensam que escrever um programa básico equipado com as ferramentas necessárias para aprender, adaptar e modificar a si mesmo através da experiência - como visto em Chappie - é o caminho a percorrer. . Como explica Fink: “É um caso de já assar a torta e colocar a torta no sistema, ou dar ao sistema os ingredientes para a torta e deixá-lo ao sistema para assá-lo”.
Quando o avanço vier, provavelmente acontecerá não de forma incremental, mas de repente, como descrito em Chappie . Fink prevê que - em vez de uma universidade, governo ou corporação assumirem o crédito - a ruptura que leva à singularidade será dada por uma pequena equipe de pesquisadores ou até mesmo um único indivíduo, provavelmente apoiado por um rico financiador privado, animado pela liberdade. experimentar e se libertar da pesquisa tradicional conservadora. Na verdade, esse é quase o cenário em Chappie : o Chappie é criado não por uma corporação gigantesca, mas por um engenheiro autônomo, interpretado por Dev Patel, que usa todos os recursos fornecidos por seu dia de trabalho para sustentar seu próprio trabalho. em inteligência artificial autônoma de noite.
Uma vez que a inteligência artificial verdadeiramente auto-governada emerge, entretanto, será impossível antecipar quão complexo o sistema se tornará, ou em que direção ele irá evoluir. Ao contrário dos sistemas orgânicos como nós, não seria restringido pela lentidão da evolução biológica. Seu desenvolvimento seria explosivo. Não há garantia de que tal sistema adotaria ou manteria um conjunto de valores morais ou éticos - ou que esses valores se estenderiam aos humanos. No caso de Chappie - que se desenvolve muito como uma criança humana, aprendendo e amadurecendo com o passar do tempo -, uma promessa inicial de não prejudicar os humanos é um grande passo para manter as ações do robô sob controle. Mas quando ameaçada de aniquilação, Chappie, como muitos humanos, deixa de lado sua moral e age por puro interesse próprio, defendendo-se, mesmo que isso signifique ferir os outros.
E, embora a Chappie pareça ser identificada e semelhante à humana, um robô senciente do mundo real possivelmente não seguiria o raciocínio humano, diminuindo nossa capacidade de antecipar suas ações ou entender suas motivações. "Quando você atinge esse nível, você basicamente perde o controle do sistema", diz Fink. "É emocionante e assustador, porque não será humano."
Além disso, se o software inicialmente habita a carcaça de um robô humanóide semelhante a uma Chappie, uma espaçonave ou mesmo um implante em seu corpo, uma vez que escape dos limites dessa forma física - como representado (embora estressante) na Transcendência - ser quase impossível contê-lo.
Enquanto os livros e filmes de ficção científica refletem sobre a questão da inteligência artificial há décadas, Fink ressalta que o avanço necessário “poderia literalmente acontecer a qualquer momento”. Nem todo mundo se sente à vontade com isso. Em janeiro passado, o cofundador do PayPal e CEO da Tesla Motors, Elon Musk, doou US $ 10 milhões para evitar que senhores de robôs de algum dia dominassem o planeta e nos eliminassem. Ao tentar criar inteligência artificial autônoma, ele adverte, estamos "convocando o demônio".
Musk não está sozinho em sua trepidação sobre essa linha de pesquisa. Em um recente tópico do Reddit “Ask Me Anything”, o co-fundador e filantropo da Microsoft Bill Gates escreveu que ele está “no campo que está preocupado com a superinteligência” e “não entende por que algumas pessoas não estão preocupadas” sobre artificial artificial seres que excedem nossas próprias habilidades cognitivas e ganham autonomia. O físico Stephen Hawkings igualmente compartilha dessa preocupação e a articula ainda mais francamente: “O desenvolvimento da inteligência artificial completa poderia significar o fim da raça humana”, disse ele à BBC.
Mesmo os filmes de histórias em quadrinhos de sucesso estão trilhando este caminho desgastado, normalmente reservado para o gênero de ficção científica. Como sugerido no último trailer de Vingadores da Marvel: Age of Ultron, os heróis do filme lutam com um robô que foi originalmente criado como o salvador do planeta da guerra, mas em vez disso decide exterminar a humanidade.
Por outro lado, no entanto, os seres humanos podem ser os agressores, ameaçando a existência dos seres autônomos que nós mesmos criamos, como descrito em Chappie . Se nós humanos perseguimos um caminho pacífico depende em grande parte de duas coisas, Mattu diz: se podemos nos comunicar com os robôs, e se temos empatia por eles. Este último, explica ele, depende de fatores aparentemente superficiais, como o aspecto dos robôs - eles têm olhos? Eles parecem semelhantes, mas não muito semelhantes, para nós? - e se eles são geralmente agradáveis. Compartilhar os mesmos objetivos que nós também ajudaria no caso deles. Esses fatores influenciam nossa tendência neurológica inata de categorizar os outros como parte de nosso grupo de confiança ou como parte de um grupo externo potencialmente ameaçador. Os roboticistas estão levando em consideração esses fatores psicológicos ao projetar suas máquinas mais recentes.
Mattu ressalta, no entanto, que mesmo que os robôs satisfaçam todos esses pré-requisitos, ainda não há garantia de que as coisas correrão bem. "Os humanos têm um tempo bastante difícil vendo um ao outro como humanos, muito menos AI ou vida alienígena", diz Mattu. "Nós também temos uma história de primeiros contatos indo muito mal."
Assim, pode ser que destruamos nossa criação antes mesmo de conhecê-la, ou que o inverso se torne realidade - que nossos filhos de software escravizam todos nós, como se vê na Matriz, ou decide, no estilo da Skynet, que a humanidade simplesmente não é é digno de existência. Por outro lado, humanos e robôs autônomos poderiam se abraçar, concordando em trabalhar juntos em atividades interessantes como a exploração espacial. A única maneira de descobrir se as coisas acabam em chamas e lágrimas ou progresso e amizade, no entanto, é criar esses seres em primeiro lugar. Mas se o passado é um indicador, isso será apenas uma questão de tempo. “Somos sempre motivados pela curiosidade, pelo desejo de explorar e descobrir o inesperado”, diz Fink. "E a ética científica tende a atrasar nosso progresso".
“Às vezes temos poder atômico e às vezes temos armas atômicas”, acrescenta Mattu. "Não sabemos que direção será necessária, mas não podemos parar a ciência."
