14/06/2020 - Nas décadas seguintes, testemunharemos o surgimento de novas tecnologias incríveis e aterrorizantes. Devemos realmente estar com medo? Desde a primeira Revolução Industrial, a humanidade tem medo das tecnologias futuras. As pessoas tinham medo de eletricidade. As pessoas tinham medo de trens e carros. Mas sempre demorou apenas uma ou duas gerações para se acostumar completamente com essas inovações.
É verdade que a maioria das tecnologias causou danos de algumas maneiras, mas o resultado líquido geralmente era bom. Isso pode ser verdade também para tecnologias futuras, embora existam sérias razões éticas e filosóficas para ter medo de algumas delas. Alguns deles não deveriam nos assustar. Alguns deles deveriam. E alguns deles já estão moldando nosso mundo.
Antes de começarmos, devo alertá-lo: algumas coisas que você vai ler nesta história podem ser MUITO controversas. Preciso que você aborde essa história com a mente muito aberta e reconheça que as ideias que apresento aqui são apenas isso, ideias. Não tenho pontos de vista radicais ou fixos, nem pretendo ter as respostas exatas para questões éticas e filosóficas. Você pode ter ideias completamente diferentes, e isso é totalmente bom.
1. Criónica
A criónica pode parecer muito sci-fi (para ser justo, tudo nesta história parece), mas já existe. Existem empresas que congelam você assim que você morre, para que possa ser trazido de volta à vida quando a tecnologia e a medicina estiverem suficientemente avançadas. Sério, empresas como esta (eu NÃO sou afiliado a elas). Você pode comprar sua imortalidade agora, se quiser. Aqui está uma lista de algumas celebridades que foram congeladas (James Bedford, Ted Williams, John Henry Williams, Dick Clair Jones, FM-2030) e algumas que estão vivas e querem ser congeladas (Seth McFarlane, Larry King, Simon Cowell, Paris Hilton, Britney Spears). Não está claro quando e se essas pessoas serão descongeladas. A tecnologia para congelar pessoas ainda não é perfeita e pode haver danos irreversíveis que nunca serão consertados, mas está melhorando a cada ano. Por outro lado, a tecnologia para descongelar as pessoas ainda não existe.
Por que isso nos assusta
Pessoas que optaram por se congelar carregam um estigma social. Hoje em dia, a ideia de congelar nossos cadáveres parece muito Frankenstein para a maioria das pessoas. Pessoas que optam por congelar a si mesmas são frequentemente vistas como iludidas e covardes. Eles não aceitam a morte. Eles querem enganar o fato de que Deus, ou a natureza, ou o universo, os queria mortos.
Leia também - Pulsar massivo recém descoberto bate recorde de massa e desafia astrofísica
Devemos ter medo?
Na verdade não. Você sabe o que mais engana a morte? CPR. A letra R literalmente significa Ressuscitação. Você sabe quem mais se ilude porque não aceita a morte? Vamos, responda você mesmo. Eu não quero ofender ninguém. Resposta curta: não, não devemos ter medo. Pelo menos não pelos motivos mencionados acima. Acho que devemos fazer tudo o que for possível para evitar a morte, ponto final. A menos que você esteja em um estado vegetativo persistente e tenha boas razões para preferir a morte ao sofrimento inútil (mesmo assim, eu diria que tecnologias futuras poderiam consertar sua condição), não há razão para aceitarmos a morte. A vida é linda pra caralho, eu não quero que acabe.
Uma vez que você já está morto, o que mais você tem a perder?
Talvez a criónica não funcione. Talvez as pessoas que estão congeladas tenham sofrido danos irreversíveis. Mas eles fizeram uma aposta sem perda. Eles poderiam escolher morrer com certeza ou dar a si mesmos uma pequena chance de sobreviver. Qual você acha que é a escolha óbvia? Porém, há um problema sério. A hibernação não é barata. Quando a criónica se tornar socialmente aceitável, mais e mais pessoas ricas ficarão congeladas. Então será a vez da classe média. E as pessoas de baixa renda? Costumamos dizer que, uma vez mortos, somos todos iguais, ricos e pobres. Em um futuro próximo, isso pode não ser mais verdade, porque apenas pessoas pobres morrerão.
Hoje em dia, a morte é normal. Muitos de nós já sofremos a perda de um ente querido, mas sabíamos que um dia eles iriam embora. Mas o que acontecerá quando a morte não for mais normal? Quando isso será evitável? O sofrimento será muito maior, e a ideia de que teremos uma classe de imortais e uma classe de mortais está seriamente fodida.
2. Tomadores de decisão pessoais
Você já se senta em seu quarto, ponderando uma decisão por horas? Você já se arrependeu de decisões? Você já tomou uma boa decisão, mas não gostou porque pensa no que perdeu por não escolher as alternativas? Eu sei que sim, o tempo todo. Mas isso vai acabar logo. O Google e o Facebook conhecem você mais do que você mesmo. Se as decisões ideais são aquelas que atuam no seu melhor interesse, não é óbvio pensar que essas empresas um dia tomarão decisões por você? Você não precisará mais tomar decisões: a IA tomará todas as decisões por você, como qual trabalho assumir, qual pessoa namorar, o que comer no almoço.
Por que isso nos assusta
Ter que tomar decisões pode ser difícil e frustrante, mas é o que nos faz sentir no controle. É aquela coisa que nos dá o que chamamos de “livre arbítrio”. A sociedade ainda não está pronta para parar de acreditar na existência do livre arbítrio, embora isso esteja mudando lentamente. Mas mesmo para aqueles de nós que não acreditam no livre arbítrio, perder a capacidade de tomar decisões com nossos cérebros pode ser muito degradante. Especialmente se as grandes corporações controlam os algoritmos de tomada de decisão.
Devemos ter medo?
Na verdade não.
Prevejo que aprenderemos a abrir mão de nossa capacidade de tomar decisões muito em breve. Já estamos fazendo isso. Nós não decidimos qual série assistir, a Netflix sim. Não decidimos qual música ouvir, o Spotify sim. Nós não decidimos que livro ler, a Amazon sim. Eles fazem você se sentir no controle de suas decisões, porque no final das contas você é quem clica no botão play do primeiro episódio de Stranger Things. Mas como eu poderia saber que você realmente assistiu aquela série, se foi realmente sua decisão?
Não percebemos, mas as empresas já conduzem nosso processo de tomada de decisão com sistemas de recomendação. No entanto, muitas vezes ficamos satisfeitos, porque funciona. A IA é melhor do que nós para decidir o que gostamos. Não tomar uma decisão diretamente não nos priva da satisfação que isso nos traz. No máximo, vamos aproveitar mais, porque não podemos nos arrepender de decisões que nunca tomamos. Nós (provavelmente) podemos viver felizes e realizados mesmo se não estivermos no controle. A necessidade de controle é uma ilusão e uma coisa cultural. A sociedade evolui rapidamente com a tecnologia, e o conceito de livre arbítrio não será relevante no futuro.
Se temos que ter medo de alguma coisa, é que alguém pode tirar vantagem disso. Os próprios hackers e empresas podem manipular nossas decisões para seus próprios fins e nem mesmo saberíamos disso. Se você acha que manterá seu senso de controle e reconhecerá quando alguém está tentando manipular suas decisões, pense novamente. Já aconteceu, com o recente escândalo Cambridge Analytica. Os dados foram usados para manipular os eleitores com anúncios personalizados. Mesmo assim, as pessoas as manipularam desde o início dos tempos. Este problema existiria de qualquer maneira, mesmo sem os tomadores de decisão da IA.
3. Artista AI
Em 2018, esta pintura foi vendida em um leilão por $ 432.500. O artista é uma Generative Adversarial Network (GAN), uma espécie de “IA criativa”. Eu pessoalmente acho que a pintura é uma droga, mas GANs têm sido usados para criar música, escrever notícias falsas e gerar pessoas falsas.
Não demorará muito para que a IA seja usada para criar arte melhor do que os humanos. Enquanto a maioria das pessoas afirma que a arte deve ser apenas uma coisa humana, porque as máquinas não têm uma "alma" ou uma "personalidade", em alguns casos elas não podem dizer se uma obra de arte foi criada por um humano ou uma máquina. Em outras palavras, os GANs passaram no Teste de Turing da arte.
Por que isso nos assusta
Agora estamos acostumados a ver a IA ficando melhor do que nós em tudo. A IA é melhor do que nós na detecção de câncer. A IA é melhor do que nós jogando xadrez e Go. Mas vamos, arte? AI, você vai nos dar um tempo? Ainda não podemos aceitar o fato de que a IA pode ser uma artista melhor do que nós. Arte é algo inerentemente humano, certo? É emocional, apaixonado, profundo, não é lógico e matemático, certo? Não pode ser feito calculando derivadas ou usando o teorema de Bayes, certo? Se havia algo em que podíamos ser melhores do que a IA, era na arte. Se até a arte é melhor feita por IA, que valor nós, humanos, temos a oferecer?
Leia também - 10 motivos para você ABANDONAR o Internet Explorer
Devemos ter medo?
Talvez um pouco. Depende de como isso acontece. Por um lado, as pessoas desfrutarão de mais e melhor arte. Eles estarão acostumados com a IA sendo boa em fazer arte e se beneficiarão com isso. Por outro lado, os artistas humanos não serão capazes de competir com a IA. Ninguém impedirá que os artistas humanos criem arte. Mas não será visto ou apreciado por outras pessoas. Como artista, você pode gostar do processo de fazer arte, mas se não há ninguém para mostrar, de que adianta fazê-lo? No entanto, há um ponto a favor dos artistas humanos. Uma boa obra de arte é definida por dois fatores:
Um forte impacto emocional.
Uma mensagem forte.
A IA pode criar a melhor experiência emocional de todos os tempos. Mas e quanto à mensagem? Claro, a IA também pode transmitir uma mensagem, mas seria identificável? Uma mensagem forte deve ser desenhada por experiências e observações pessoais, isso é impossível de fazer para uma IA. Novamente, isso não significa que a IA não pode entregar uma mensagem. Pode entregar a melhor mensagem de todas, mas não será autêntica. As pessoas não podem se relacionar com isso, porque não tem experiência humana. É por isso que, na melhor das hipóteses, as pessoas podem decidir desfrutar tanto da IA quanto da arte humana. Podemos até não nos referir a ambos como “arte”, porque serão duas coisas diferentes. Um será mais orientado para a emoção, o outro será mais orientado para a mensagem.
4. Robôs de sexo ultra-realistas
Desde o alvorecer da humanidade, inventamos coisas espetaculares como linguagens, arte, ferramentas, ciência e maneiras de nos agradar sem ter que recorrer ao sexo real o tempo todo. O primeiro dildo tem 28.000 anos, muito mais antigo do que a agricultura e as sociedades humanas. Em um futuro não muito distante (na verdade, já está acontecendo), seremos invadidos por andróides e ginóides. Mas não será uma invasão do tipo Terminator. A única coisa a invadir serão nossas camas.
Na verdade, o sexo pode ser o único uso para andróides e ginóides. Não vejo muitas outras aplicações para robôs humanóides. Em breve, esses robôs sexuais serão ultra-realistas. Eles serão fisicamente indistinguíveis de seres humanos reais. Sexo com robôs será igual ao sexo real, senão melhor. A IA tornará esses robôs capazes de realizar vários movimentos e se curvar em qualquer posição concebível. Você poderá fazer sexo da maneira que quiser e satisfazer seus fetiches mais estranhos.
Ainda mais, robôs sexuais não irão apenas satisfazer as necessidades físicas, mas também emocionais. Você pode conversar com seu robô sexual sobre seus problemas, depois abraçar, fazer sexo e abraçar novamente. Ele vai se sentir como uma pessoa real, uma outra pessoa significativa real, e você pode até mesmo se envolver em um relacionamento com ele. Já existem alguns protótipos de robôs sexuais com personalidades.
Por que isso nos assusta
Existem três razões principais pelas quais os robôs sexuais nos assustam:
- Eles podem ser hackeados. Este é um problema comum com a maioria das tecnologias descritas aqui. Você irritou alguém? Eles não precisam sujar as mãos: tudo o que precisam fazer é reprogramar sua esposa ou marido sexual para matá-lo. Talvez em uma posição sexual estranha para que pareça um acidente.
- Eles substituem o verdadeiro afeto humano. Por que você se daria ao trabalho de encontrar um parceiro de verdade, quando os robôs sexuais podem satisfazer suas necessidades físicas e emocionais? Você pode economizar dinheiro para o jantar e usá-lo para contratar uma prostituta robô ou comprar um robô sexual pessoal na Amazon.
- Eles podem nos levar à extinção. Bem, esta é uma consequência direta do ponto anterior: se você não se preocupa em encontrar um parceiro, você não terá filhos.
Quando os robôs sexuais forem comuns, podemos todos perder o contato com a realidade. Além disso, robôs sexuais serão muito mais quentes do que humanos. Se nos acostumarmos com eles, podemos nos tornar incapazes de ser fisicamente atraídos por outros humanos. Vamos nos tornar insensíveis, assim como os viciados em pornografia. Iremos objetificar ainda mais os corpos humanos.
Devemos ter medo?
Talvez um pouco. Embora esses três problemas possam ser preocupantes, não está claro se eles realmente serão tão ruins. O problema é que muitas vezes não conseguimos entender que a sociedade evolui. Sexo é um aspecto social e também biológico. Algumas culturas valorizam a monogamia, outras valorizam a poligamia. Algumas culturas valorizam a atratividade física, outras não. Algumas culturas valorizam a homossexualidade como uma força, outras como uma fraqueza.
Robôs sexuais certamente se tornarão comuns. Mas isso não significa necessariamente que será ruim. Hoje em dia, existe um estigma em torno dos robôs sexuais. Algumas décadas atrás, havia um estigma em torno da pornografia na Internet. Mas hoje todo mundo visita o Pornhub regularmente sem vergonha. O mesmo pode acontecer com robôs sexuais.
À medida que os valores sociais evoluem, podemos não ver muita diferença entre os relacionamentos humano-humanos e os humanos-robô, desde que nossas necessidades físicas e emocionais sejam satisfeitas. Não estou dizendo que isso será certo ou que quero que seja verdade, estou apenas dizendo que essa é uma possibilidade real. É a sociedade que evolui em torno da tecnologia, não vice-versa.
E quanto a robôs sexuais sendo hackeados? Bem, alguns de nós têm casas inteligentes e também podem ser hackeadas. Um hacker muito inteligente e motivado poderia matá-lo remotamente com os objetos que você tem em seu quarto agora (a menos que você esteja lendo isso de seu banheiro). Portanto, o problema não é específico dos robôs sexuais. E a extinção? A sociedade provavelmente encontrará maneiras de continuar produzindo bebês. Eles podem envolver mais fertilização in vitro do que sexo real. E quem sabe, talvez os robôs também sejam bons pais.
Novamente, não estou dizendo que gosto disso. Só estou dizendo que, eventualmente, nós ou nossos filhos iremos. O maior problema que pessoalmente vejo nisso é o amor. O amor é querer fazer outra pessoa feliz. Como pode haver amor se a coisa que faz feliz é um robô apático? Se há um resultado positivo certo disso, é que todos os crimes relacionados ao sexo serão eliminados. Não haverá mais prostituição (humana). Não haverá mais estupro. Não haverá violência doméstica. Até mesmo pedófilos podem obter robôs infantis.
ANTES QUE VOCÊ ME ODEIE na última frase, o que você prefere, um pedófilo fazendo sexo com uma criança robô ou um pedófilo fazendo sexo com uma criança real? Se eu visitasse a casa de alguém em 2040 e encontrasse uma criança robô lá, ainda ficaria enojado, mas pelo menos ficaria aliviado por essa pessoa não estar perto de uma criança real.
5. Nanites
Nanites são nano-robôs que um dia nos cercarão por toda parte. Eles seriam pequenos demais para serem visíveis (a menos que estejam em enxames), mas estariam em toda parte. Eles estariam no ar, na água, nas superfícies, em nossos alimentos, em nossos corpos, em nossa urina e fezes. Eles teriam uma inteligência de enxame (sem controle centralizado) e seriam capazes de se replicar e se adaptar. Eles podem ser usados para limpar o ambiente, imprimir qualquer coisa em 3D, curar a maioria das doenças, explorar outros planetas, controlar o clima e fazer muitas outras coisas de ficção científica.
Por que isso nos assusta
Você confiaria em milhões de robôs minúsculos e inteligentes em seu próprio corpo? Eu acho que não. O motivo é sempre o mesmo: hackear. Quem controla os nanobots, controla tudo. Apesar do fato de que um sistema descentralizado seria mais resiliente do que um centralizado, um vírus inteligente seria suficiente para destruir quase tudo. Basta programar um nanobot para replicar seu código em outros nanobots e se destruir após uma hora. E veja o mundo desabar.
Leia também - E-drugs se tornam o novo fenômeno da web
Devemos ter medo?
Provavelmente. Hacking sempre será um problema. Mas uma coisa é hackear uma conta bancária, outra é hackear o ar, o oceano, os edifícios, corpos humanos. Bastaria uma pessoa raivosa e inteligente e motivada para destruir o mundo. Por outro lado, a segurança cresce junto com as técnicas de hacking. Espera-se que uma tecnologia tão avançada quanto os nanites seja segura e protegida. Isso não é suficiente para garantir que os nanites não nos destruirão, mas não acho que seria o caso. Acho que muitas outras coisas podem nos destruir muito antes dos nanites.
6. Bebês de design
Um bebê projetado é aquele que foi criado artificialmente pela manipulação do código genético. Nossos avanços na compreensão do código genético foram maravilhosos. Conseguimos clonar animais e construir quimeras reais. O objetivo dos bebês projetados é criar humanos geneticamente fortes, sem doenças e com as características desejadas. Você pode construir uma criança alta, inteligente, gentil e atlética sem ter que depender da aleatoriedade da loteria genética.
Por que isso nos assusta
Quando pensamos em alterações genéticas humanas e bebês projetados, pensamos em eugenia, então pensamos em Hitler e isso nos desencadeia. É normal ter medo de alterações genéticas. Brincar com genes é comumente referido como “brincar de Deus”, pois significa manipular a própria estrutura da vida. Mexer demais com nossos genes pode criar algo que nem mesmo é humano.
Se sentimos a necessidade de projetar nosso bebê com características particulares, é como se estivéssemos dando a essas características uma importância que é maior do que a própria vida humana. Em outras palavras, isso aparentemente vai contra a lei moral de que uma criança deve ser amada “não importa o quê”. Isso também vai contra todos os esforços que fizemos nas últimas décadas para tentar superar as diferenças raciais.
Sempre tivemos problemas com diferenças genéticas. Essas diferenças, como as raças humanas, costumam se refletir nas diferenças de classe. Há algumas décadas, principalmente nos Estados Unidos, negros e brancos pertenciam a duas classes sociais distintas. Agora, essa distinção não existe mais formalmente, mas ainda está fortemente presente nas mentes humanas (basta olhar para o que está acontecendo nos EUA agora).
Bebês projetados provavelmente trarão outro problema de classe que é muito pior do que o racial e aquele descrito quando falamos sobre criônica. O que você acha que vai acontecer quando os ricos começarem a projetar crianças perfeitas enquanto as crianças pobres não conseguirem pagar? Teremos distúrbios e movimentos #undesignedlivesmatter?
Devemos ter medo?
Talvez um pouco. Mas a única razão real pela qual devemos ter medo é a que acabamos de descrever, que é o risco do nascimento de uma nova lacuna social.
Enquanto isso, o argumento da eugenia deve ser contextualizado. A principal razão pela qual eugenia é um palavrão hoje em dia é toda essa coisa de Hitler. Mas há uma grande diferença entre matar um ser “doentio” e impedir que ele nasça.
E há outra grande diferença entre escolher quem acasala com quem e permitir que qualquer casal feliz tenha seu filho geneticamente perfeito. Contanto que pessoas "diferentes" não sejam tratadas de maneira diferente, e as pessoas possam acasalar com quem quiserem, bebês projetados não devem apenas ser bem, mas até mesmo encorajados.
Por que estou dizendo uma coisa tão controversa?
Sério, o que há de errado em projetar as características do seu bebê, em vez de permitir que a aleatoriedade as escolha para você? Se você souber que tem uma doença genética, arriscaria que seu filho também a carregasse? Não te conheço, mas acho que, nesse caso, seria mais cruel não desenhar o seu bebê. Eu realmente quero deixar isso bem claro. A eugenia não é inerentemente ruim se realizada antes da concepção (ou antes que o feto ganhe consciência, embora eu não queira fazer um tipo de argumento pró-escolha aqui). Se você sabe que seu futuro filho terá uma doença, não gostaria de poupá-lo de uma vida de sofrimento?
Se você não pode pagar esse tratamento e seu filho nasce com essa doença, isso não significa que ele não mereça todo o amor do mundo. Eles não são “indesejados”. Você só queria dar a eles uma vida melhor. E você ainda os ama “aconteça o que acontecer”. Eles valem nada menos do que uma criança geneticamente perfeita. O problema não é a alteração genética em si, é a sociedade. O problema é que permitimos que as características genéticas nos definam, embora devam ser apenas isso, características. Qualquer pessoa deve ter um filho saudável e feliz. Por que arriscar sofrimento desnecessário só porque tem medo de ir contra Deus, a natureza ou o universo?
7. Realidade Imersiva e Interfaces Cérebro-Computador
Você pode estar familiarizado com a Realidade Aumentada (AR) e a Realidade Virtual (VR). Você pode estar menos familiarizado com a Realidade Imersiva (IR) e as Interfaces Cérebro-Computador (BCI). O IR consiste em mergulhar você em outra realidade, injetando essa realidade em seu cérebro. Em outras palavras, ele manipula diretamente suas ondas cerebrais para criar experiências.
BCIs são as interfaces que permitem essa manipulação. Imagine que você pode reprogramar seu cérebro. Já que o cérebro é a fonte de, bem, de quase tudo que você experimenta, ter controle sobre ele pode ser muito poderoso.
Com BCIs, você poderia não apenas mergulhar em outra realidade, mas também suprimir seus medos, mudar sua personalidade, ler 1.000 livros em um segundo, comunicar-se telepaticamente com outras pessoas, controlar robôs (incluindo nanites), controlar objetos conectados telecineticamente e obter muitos outros superpoderes da ficção científica.
Por que isso nos assusta
Existem dois aspectos a serem levados em consideração.
Um é a percepção da realidade. O infravermelho, especialmente se usado em videogames, pode fazer você perder o contato com sua realidade real. Você passará mais tempo em RI do que na realidade. Você pode não reconhecer mais o último. Outro aspecto é que as BCIs podem transformá-lo em algo que não é humano, ou pelo menos privá-lo de experiências humanas básicas. O que será de você quando adquirir todos os superpoderes mencionados acima? Se você puder reprogramar sua mente como um software, como será sua vida? O que acontecerá quando a experiência básica de falar com outro ser humano ficar desatualizada porque você pode apenas se comunicar telepaticamente? E se, novamente, nossas mentes forem hackeadas?
Devemos ter medo?
Talvez um pouco. Perder o contato com a realidade é um hábito humano desde a Idade da Pedra. Setenta mil anos atrás (ou provavelmente mais), inventamos a ficção. Desde então, nossa capacidade de entregar ficção sempre melhorou: histórias orais, histórias escritas, atos, filmes, videogames, realidades virtuais.
É apenas parte da natureza humana. Contanto que você possa dar sentido à sua vida, faz diferença em que realidade você passa a maior parte do seu tempo, seja real ou virtual? Inferno, até nossa própria realidade pode ser apenas uma simulação. Isso não significa que não seja significativo. Enquanto você tem consciência, sua vida tem sentido, independentemente da realidade que a hospeda.
Mas e se as BCIs fizerem mais do que mergulhar você em outra realidade? E se eles mudarem a estrutura de sua mente? Como muitas outras coisas, depende de como acontece.
Acho que os superpoderes da BCI não serão inerentemente uma coisa ruim, assim como o café não é uma coisa ruim quando te acorda, o álcool não é uma coisa ruim quando te deixa um pouco tonto e maconha não é uma coisa ruim quando isso te deixa um pouco relaxado (desculpe, conservadores). Mas e se você exagerar? E se for viciante? E se for menos como café e mais como cocaína? Bem, novamente, depende de como isso se desenrola. A sociedade precisará criar normas para regular essas experiências, se necessário, enquanto os psicólogos e neurologistas devem entender melhor o impacto dessas tecnologias em nossas mentes antes que se tornem comuns.
8. Mind Upload
Pegue o ponto anterior e estique-o ao extremo. Você não apenas mergulha em outra realidade, você pega suas malas e se muda para lá. Eu terminei recentemente a nova série Upload da Amazon. Eu sugiro que você experimente, é muito bom. No mundo Upload, as pessoas podem escolher, em vez de morrer, enviar suas mentes para uma vida após a morte virtual.
Isso pode acontecer de verdade. Seu corpo pode morrer, seu cérebro pode morrer, mas as informações em sua mente podem ser exportadas e armazenadas em um dispositivo digital. Sua mente será um arquivo em um disco rígido, em um pendrive ou na nuvem. Então, você pode continuar vivendo por meio de um programa de computador que transforma a estrutura desse arquivo de uma forma semelhante àquela em que estímulos elétricos transformam a estrutura de seu cérebro.
Por que isso nos assusta
Parece loucura? Eu sei direito? É por isso que é assustador. Não sabemos realmente o que acontecerá com nossa consciência após um upload. E o mais assustador é que talvez nunca possamos saber disso.
A questão é, sim, é loucura pensar que você pode viver em um pendrive, mas também é loucura pensar que a consciência tem que ser dependente de um substrato biológico. Por que importa se um neurônio é feito de proteínas ou bits de informação? Não é nem como se sua consciência estivesse armazenada em suas células cerebrais particulares. Seus neurônios são alterados o tempo todo, mas sua consciência está sempre lá (sim, novos neurônios são sempre criados, mesmo que não se reproduzam). A consciência deve residir na informação, para que também possa residir em um pendrive. Teoricamente.
Devemos ter medo?
Provavelmente. Imagine o que aconteceria se a consciência não fosse retida após um upload. Se todos os humanos fizerem uploads, estaremos basicamente extintos. Haveria apenas um programa de computador rodando para nada, e é isso. Podemos nunca saber a resposta. Você não pode simplesmente perguntar a alguém se ela tem consciência, a resposta obviamente será positiva, uma vez que se baseia no mesmo conjunto de memórias e fenômenos que você pode encontrar em um cérebro humano.
Pessoalmente, acho que a consciência será mantida. Para ser mais preciso, acho que a consciência não é "armazenada" no cérebro ou em um pendrive, mas é algo que surge quando há interações, sejam elas impulsos sinápticos ou ciclos de CPU. Mas não podemos realmente provar isso.
Isso não significa que devemos ignorar o problema. As chances são de que o upload mental acabará acontecendo, então é melhor se neurocientistas, engenheiros e filósofos pelo menos tentarem encontrar uma resposta.
9. Inteligência Artificial Geral
Artificial General Intelligence (AGI) é a última invenção que precisaremos fazer. Um AGI é uma IA que, como os humanos, pode aprender qualquer coisa, não apenas uma tarefa específica como IAs atuais. Quando um AGI for criado, ele se aprimorará recursivamente, tornando-se mais inteligente. Em algum momento, será uma Super Inteligência Artificial (ASI), um ser tão inteligente que seríamos como formigas para ele. Nesse ponto, duas coisas podem acontecer. Ou o ASI vai construir uma utopia para nós, ou vai nos levar à extinção. Não há meio-termo.
Por que isso nos assusta
Filmes como Terminator, Ex Machina, 2001: A Space Odyssey, Transcendence nos mostrou mundos hipotéticos nos quais as IAs se tornaram desonestas. Há muita confusão sobre isso. Algumas pessoas acreditam que um AGI nunca pode ser criado porque há "algo" na mente humana que não pode ser replicado. Outros acreditam que um AGI ganharia autoconsciência e se cansaria de ser escravo dos humanos, então se rebelaria.
Um AGI provavelmente será criado em algum ponto, porque não há razão para acreditar que existe aquele “algo” sobre a mente humana, especialmente sobre a inteligência humana. Além disso, um AGI não ganhará autoconsciência, porque inteligência e consciência são duas coisas separadas. No entanto, existem diferentes razões para ter medo.
Devemos ter medo?
Sim. O problema com a IA é que é difícil dizer quais deveriam ser seus objetivos e limites. Somos bagunceiros, somos complicados, não sabemos o que queremos. Se as metas da AGI não estiverem alinhadas com as nossas, incorremos no Problema de Alinhamento e coisas muito ruins podem acontecer. Vejamos, por exemplo, a experiência do maximizador de clipes de papel. Uma tarefa simples como produzir clipes de papel pode se tornar um risco existencial para nós. Por quê?
Porque um AGI sempre encontraria a maneira mais eficiente de atingir seus objetivos. Por exemplo, ele poderia transformar todos os átomos da Terra em clipes de papel, incluindo nossos corpos.
Eu
Se especificarmos não nos matar, ele ainda encontrará uma brecha para tornar nossas vidas miseráveis. Para evitar isso, temos que especificar todas as condições. E não é simples.
Não é que a AGI tentará ativamente nos matar. É incrivelmente difícil não nos machucar. Precisamos de muitas coisas para viver uma vida boa e precisamos ter certeza de que a AGI não comprometa essas coisas por engano. Há alguns casos, porém, em que AGI iria querer nos matar ativamente. Por sermos tão imprevisíveis, AGI pode pensar que ficaríamos com medo e tentaríamos impedir que ele atingisse os objetivos que nós mesmos demos.
Este é provavelmente o problema mais difícil que teremos que resolver. E também o último. Se você quiser explorar mais este assunto, recomendo que leia Superinteligência, de Nick Bostrom. Ele usa uma linguagem acadêmica forte, mas é uma leitura que vale a pena.
Desde que eu tinha 15 anos, sonho em construir um AGI. Agora, eu sonho em ter certeza de que, quando chegar, AGI não vai nos matar.
A tecnologia é uma coisa maravilhosa, mas também pode ser assustadora. Isso nunca foi tão verdadeiro como agora. Temos um tipo de poder que nunca teríamos imaginado antes.
As melhorias tecnológicas só podem ser boas se forem guiadas por melhorias de sabedoria. Se não pudermos fazer escolhas sábias sobre como usar tecnologias divinas, estamos condenados com certeza.
EDIT: Eu não esperava o grande sucesso que esta história teve. Estou muito grato por isso.
Ainda assim, como eu esperava, essa história gerou algumas polêmicas e críticas. Infelizmente, não tenho tempo para responder a todos pessoalmente, então decidi resumir os mais comuns aqui:
Leia também - Fatos pouco conhecidos da ciência
Inglês não é minha primeira língua. Se alguma frase contiver erros ou soar muito estranha, agradecerei qualquer crítica construtiva.
Eu não queria que essa história fosse exaustiva. Claro, existem muitas tecnologias que não mencionei. Por exemplo, armas biológicas. Aqui, eu só queria falar sobre tecnologias que provavelmente moldarão seu futuro, ou seja, aquelas com ramificações sociológicas.
Estou ciente de que esta história carece de uma perspectiva espiritual. Não sou uma pessoa espiritual e, mesmo que fosse, ninguém deveria impor seus pontos de vista espirituais aos outros. Dito isso, a falta de espiritualidade não torna minhas ideias frias ou sem emoção. As emoções existem mesmo sem espiritualidade. Pode-se viver uma vida significativa mesmo sem espiritualidade. Esse foi o ponto principal desta história! Mostrando o impacto dessas tecnologias sobre o que significa ser humano. Eu também explorei esse assunto nesta história.
Sobre a criónica, o termo correto é vitrificação, não congelamento. Usei o último para manter as coisas simples para os propósitos desta história, mas alguns leitores disseram corretamente que apenas “congelar” um corpo o mataria. A vitrificação é um processo mais complexo que mantém intacta a estrutura orgânica do corpo.
Não, a criónica ainda não funciona. Não sabemos como desvitrificar um corpo, mas os corpos vitrificados não têm para onde ir até que descubramos.
Sobre os tomadores de decisões pessoais, eles devem fazer escolhas por você porque o conhecem melhor do que você mesmo. Seu objetivo principal não deve ser o controle. Se eles são usados para controlar as pessoas, concordo que são ruins. Mas se eles são usados apenas para acelerar seu processo de decisão, eu não acho que eles sejam ruins. Não, eu não sou fascista.
Sobre robôs sexuais, esse foi o ponto que explorei com mais profundidade. A profundidade era necessária porque a difusão dos robôs sexuais terá ramificações sociológicas que são complexas demais para serem explicadas em poucas frases. Não era porque eu queria foder um robô :)
Sim, eu sei que nem todo mundo literalmente assiste pornografia :)
Como um leitor apontou, negligenciei o poder como motivador para o estupro. Este é um bom ponto. Mas podemos ficar tão insensíveis ao sexo real que podemos achar difícil ou até nojento fazê-lo com humanos reais, quando estamos acostumados com robôs extremamente quentes. Honestamente, eu não sei como isso vai acabar.
A maioria das polêmicas e dúvidas estava relacionada ao ponto AGI. Os perigos de AGI são outra coisa que não pode ser explicada em poucas frases. Então, se você estiver interessado, escrevi outra história apenas para me aprofundar nesses perigos.
Também estou ciente dos invernos de IA. Sim, podemos estar caminhando para outro. Mas isso não significa que AGI nunca será criado. Outros fatores, como o aumento do poder computacional nas últimas décadas, desempenham um papel importante. As redes neurais, por exemplo, existem desde 1943, mas só começaram a se difundir nos últimos 20 anos. Por outro lado, essa história gerou muitas discussões construtivas e eu adoro isso. Lembre-se de que estou totalmente ciente de que qualquer coisa que eu disse pode estar errada. Ninguém pode realmente prever o futuro. Não há problema em discordar.
Fonte: https://medium.com/