“Você está em um deserto, caminhando na areia, quando de repente você olha para baixo e vê uma tartaruga ... Você se abaixa e joga a tartaruga de costas. A tartaruga está deitada de costas, a barriga assando no sol quente, batendo as pernas tentando se virar, mas não consegue. Não sem sua ajuda. Mas você não está ajudando.
Conteúdo Relacionado
- Voltaire: Filósofo do Iluminismo e Scammer de Loteria
Talvez nada seja mais emblemático do filme distópico de Ridley Scott, Blade Runner, de 1982, do que o teste de Voight-Kampff administrado pelas forças de segurança do filme, incluindo Harrison Ford como Rick Deckard. A série de perguntas no teste fictício, como a acima, é projetada para separar os seres humanos dos replicantes, provocando uma resposta fisiológica indicando empatia. Apenas humanos verdadeiros, não replicantes, sentem essa emoção. A responsabilidade de Deckard é lidar com replicantes que começam a desobedecer ordens. Ele e outros usam o teste para decidir se devem ou não “aposentar” - matar - os replicantes.
Esses andróides rebeldes não só representam uma ameaça aos humanos, mas, neste mundo, eles não têm nenhum direito legal à proteção. Como eles poderiam, quando não são considerados humanos?
É um dilema tão empolgante que a história continuará na muito aguardada sequela Blade Runner: 2049. Parte da razão para a duradoura popularidade do filme original é a luta pessoal de Deckard, que se desenrola de forma semelhante em filmes como Her e mostra como “Westworld ”: Quem ou o que conta como humano, especialmente em um mundo de tecnologia avançada?
E para entender isso, precisamos nos voltar para alguns filósofos muito antigos.
***
Para os antigos gregos, máquinas feitas por deuses ou humanos excepcionalmente talentosos muitas vezes enganavam as pessoas para acreditarem que os andróides eram autênticos, escreve Adrienne Mayor em Aeon. O rei Nabis de Esparta possuía uma versão robótica de sua esposa, seu seio secretamente adornado com unhas. Ele usou a máquina para abraçar os cidadãos que desobedeceram a ele, sua carne perfurada pelas armas escondidas. E na China, um autômato do século 10 aC feito pelo inventor Yan Shi parecia tão humano, cantando e piscando para as damas, que o rei ficou enfurecido com isso. Então ele aprendeu a verdade e ficou maravilhado com uma máquina que tinha até órgãos mecânicos. Como escreve o estudioso Nigel Wheale, “em todos os períodos, as 'coisas humanas' foram imaginadas como entidades que testam ou definem o sentido contemporâneo do valor humano”.
Tudo isso é para dizer que as preocupações sobre como distinguir humanos de carne e osso de máquinas que simplesmente parecem humanas (e decidir se essas máquinas representam uma ameaça para nós, Homo sapiens) não se limitam aos tempos modernos. Sempre nos perguntamos se todos os humanos realmente são o que parecem ser - e é por isso que os filósofos do Iluminismo gastaram tanto tempo dissecando a questão do que faz um humano, humano.
René Descartes, um filósofo francês do século 17 que viajou muito pela Europa, considerou profundamente a questão do que nos tornava humanos. Não é coincidência que sua citação mais famosa seja repetida por um dos replicantes em Blade Runner: “Eu penso, logo existo.” E se tudo isso não é prova suficiente de sua conexão com o filme, considere os nomes: Descartes e Deckard.
Como o filósofo Andrew Norris aponta, Descartes suspeitava que algum dia poderia ser necessário testar se algo era humano ou máquina. “Se houvesse máquinas portando imagens de nossos corpos e capazes de imitar nossas ações na medida em que isso fosse moralmente possível, ainda restariam dois testes mais certos pelos quais saber que eles não eram, portanto, realmente homens”, escreveu Descartes. Então, ele criou seus próprios testes, que se baseavam na capacidade lingüística e na flexibilidade de comportamento.
Replicantes falam e se comportam como os humanos, o que significa que eles passariam nos testes de Descartes. Mas há outra razão pela qual Deckard luta para refutar a humanidade: os replicantes também implantaram memórias. Para o filósofo inglês John Locke, o que dá à pessoa um senso de identidade é a continuidade de suas memórias. O corpo humano muda com o tempo, mas as memórias permanecem, oferecendo uma base para uma identidade estável. "Na medida em que esta consciência pode ser estendida para trás para qualquer ação ou pensamento passado, até agora atinge a identidade dessa pessoa", escreveu Locke.
Então, para Rachael, de Blade Runner, a réplica mais avançada já desenvolvida, não importa que ela tenha apenas alguns anos; suas lembranças se estendem muito mais, dando a impressão de ter vivido muito mais tempo. Isso é o que faz de Rachael uma figura tão trágica - as memórias dela não pertencem a ela. Eles vêm da sobrinha de seu inventor.
“Essa é uma coisa comovente, mas você pode imaginar que [as memórias] ainda são especiais para ela, mesmo depois de saber que não são realmente dela”, diz Susan Schneider, professora de filosofia na Universidade de Connecticut e membro da Ethics and Technology. grupo em Yale. “É como descobrir que você é a cópia enviada, não o indivíduo que está fazendo o upload. Mas você ainda tem algum relacionamento especial com eles. Como um pai.
Mas não são apenas memórias ou racionalidade que fazem um ser humano em Blade Runner. Mais importante ainda, de acordo com o teste de Voight-Kampff, é a empatia. Como não podemos ler mentes ou ver qualquer evidência física deles, pensadores como o filósofo alemão Theodor Lipps argumentaram que podemos perceber que os outros sentem e agem como nós, através do poder da empatia.
Harrison Ford como Rick Deckard administra o teste de Voight-Kampff no Blade Runner original. (Warner Bros.) “O Blade Runner deve, ironicamente, testar a empatia dos outros - não, aqui, no sentido de Lipps, mas no de sua sensibilidade a um mundo natural agora desaparecido povoado por animais não humanos”, escreve Norris em seu artigo sobre a filosofia do filme. É aqui que vem a famosa pergunta "tartaruga presa em suas costas" no deserto.
"As emoções em si nunca serão um teste perfeito para a humanidade: os sociopatas também são humanos, afinal", disse por e-mail Deborah Knight, professora de filosofia da Queen's University. “Mas as emoções são mais do que respostas não cognitivas. Eles nos ajudam a fazer julgamentos sobre o que devemos fazer e quem devemos aspirar a ser ”.
Isto é especialmente claro no caso do replicante Roy Batty, interpretado por Rutger Hauer. Roy sente emoções humanas e tem aspirações, mas não consegue uma vida humana, disse Knight. Roy está ciente de que, como os outros replicantes, ele foi construído para morrer depois de meros quatro anos, o que, compreensivelmente, o enraivece.
Assim, os replicantes, sem dúvida, sentem emoções e têm lembranças. Isso os torna humanos? Para Schneider, uma resposta definitiva não é necessariamente importante. Os replicantes compartilham qualidades suficientes com humanos que merecem proteção. “É um caso muito forte para tratar [um não humano] com os mesmos direitos legais que damos a um humano. Nós não chamaríamos [Rachel] de humana, mas talvez uma pessoa ”, diz ela.
Para Eric Schwitzgebel, professor de filosofia na Universidade da Califórnia em Riverside, a conclusão é ainda mais dramática. "Se algum dia criarmos robôs com capacidades cognitivas e emocionais semelhantes às humanas, devemos a eles mais consideração moral do que normalmente deveríamos a seres humanos similares", escreve ele em Aeon. “Nós teremos seus criadores e designers. Somos, portanto, diretamente responsáveis, tanto por sua existência como por seu estado feliz ou infeliz ”.
***
Blade Runner é apenas um filme e os humanos ainda não conseguiram criar replicantes. Mas fizemos muitos avanços na inteligência artificial, de carros autônomos aprendendo a se adaptar a erros humanos a redes neurais que discutem entre si para ficarem mais inteligentes. É por isso que, para Schneider, as questões colocadas pelo filme sobre a natureza da humanidade e como podemos tratar os andróides têm importantes implicações no mundo real.
“Uma das coisas que tenho feito é pensar se alguma vez será algo como uma IA. Alguma vez haverá uma Rachael? ”Diz Schneider, que usa Blade Runner em sua aula de filosofia em ficção científica. Este ano, Schneider publicou um artigo sobre o teste que ela desenvolveu com o astrofísico Edwin Turner para descobrir se um ser mecânico poderia realmente estar consciente. Como o teste de Voight-Kampff, ele é baseado em uma série de perguntas, mas, em vez de exigir a presença de empatia - sentimentos direcionados para o outro -, ele olha para os sentimentos sobre ser um eu. O teste, chamado Teste de Consciência da IA, está em processo de ser patenteado em Princeton.
O teste difere do mais famoso Teste de Turing, desenvolvido pelo matemático Alan Turing em 1951. Neste teste anterior, um juiz se envolveria em uma conversa digital com o participante (como o que você experimentaria hoje em salas de bate-papo), fazendo perguntas para discernir se o entrevistado era humano ou uma máquina. Mas, como aponta Schneider em seu artigo, os cientistas podem desenvolver programas que passam no teste de Turing, mas não são seres conscientes. O teste de Turing está interessado em avaliar a verossimilhança entre a resposta de uma máquina e a resposta de um humano, não com o entendimento se a máquina é senciente ou não. Como o teste de Voight-Kampff, o Teste de Consciência de IA de Schneider trata de tentar entender o que está acontecendo dentro da máquina.
Trabalho como esse é urgente, diz ela, porque a humanidade não está eticamente preparada para lidar com as repercussões da criação de vida consciente. O que tornará ainda mais difícil julgar nossas criações é a confiança humana no antropomorfismo para indicar o que deve ser considerado um ser digno de consideração moral. “Alguns [robôs] parecem humanos, ou são fofos e bonitinhos, então pensamos em nossos gatos e cachorros”, diz Schneider. “Isso nos faz acreditar que eles se sentem. Somos muito ingênuos. Pode acontecer que apenas sistemas biológicos possam ser conscientes, ou que os mais inteligentes sejam os conscientes, aquelas coisas que não parecem humanas ”.
É importante para os cientistas conferenciar com os filósofos - o que muitos já fazem, diz Schneider -, mas também para o público pensar nas repercussões desse tipo de tecnologia. E, acrescenta ela, nem todos os filósofos concordam com a natureza da consciência, portanto não há respostas fáceis.
Talvez filmes de Hollywood como Blade Runner: 2049 nos aproximem um pouco mais do nosso envolvimento nessas conversas. Mas se isso não acontecer, teremos que assumir o trabalho de entrar no atoleiro ético por conta própria. Mais cedo ou mais tarde - ou acabaremos com um problema como os replicantes e não saberemos como responder.
