Há muito as ideias de David Deutsch me interessam.
Conheci o trabalho dele através de Naval Ravikant. Se Naval é um cara que muito admiro, admira profundamente ele, automaticamente as coisas se interligam.
Não trouxe aqui Frases de Kindle como sempre, mas sim uma tradução de um ótimo post do Blog “The Deep Dish”, de Richard Meadows. Leia aqui.
Sem mais delongas, com vocês o post traduzido:
“Esqueça a loucura sobre haver trilhões de cópias de você se ramificando constantemente pelo multiverso.
Deutsch também afirma que não há nada, em princípio, que nos impeça de colonizar as estrelas, transmutar matéria como os alquimistas de antigamente, pôr fim à morte, reverter o aquecimento global e resolver qualquer outro problema que surja. Mas isso não é ambicioso o suficiente: também precisamos desmontar de forma casual o problema central da metaética e ainda jogar um argumento em favor da beleza objetiva.
Para uma experiência de leitura maximamente desorientadora, Deutsch apresenta essas ideias sem a menor deferência para com os múltiplos campos pelos quais passa como um rolo compressor — não como um “flex” calculado, mas com o desapego leve do meme do Don Draper: “Eu não penso em você nem um pouco.”
No início eu fiquei irritado. Depois, divertido. Em seguida, intrigado.
Já passou mais de um ano desde a minha primeira leitura do livro. À medida que mergulhei mais fundo na toca do coelho, interagi tanto com fãs quanto com críticos de Deutsch.
Se eu tivesse que resumir como me sinto agora, diria que estou animado.
The Beginning of Infinity desencadeou o primeiro verdadeiro “terremoto de visão” que tive em anos. Mesmo que Deutsch esteja errado, sua obra foi imensamente generativa para mim.
Uma das razões pelas quais voltei a escrever no blog é que quero brincar com várias dessas ideias:
- Qual é o segredo do nosso sucesso como espécie?
- Há um motivo fundamentado para sermos otimistas sobre o futuro?
- A IA superinteligente é possível (e vai nos matar a todos)?
- A moralidade é inerentemente subjetiva?
- A beleza e a estética são inerentemente subjetivas?
- Como instituições e sociedades devem ser governadas?
- Como criar uma criança sem coerção ou violência?
Vou introduzir algumas delas nesta resenha. Primeiro: qual é a grande afirmação central de Deutsch?
Não é arrogante pensar que os humanos são especiais
A postura cínica da moda em relação à humanidade é que somos algum tipo de vírus ou parasita ou, no máximo, pontos insignificantes em um universo vasto e indiferente. Ok, justo, se você for um estudante de humanas dizendo isso para tentar transar. Mas até giga-nerds como Stephen Hawking ocasionalmente cometem esse erro:
“A raça humana é apenas uma escória química em um planeta de tamanho moderado, orbitando uma estrela bastante comum nos subúrbios de uma entre cem bilhões de galáxias.”
Para entender o quão espetacularmente errado isso é, Deutsch nos convida a imaginar um bloco típico de espaço do tamanho do nosso sistema solar. Primeiro somos mergulhados em uma escuridão sufocante: a estrela mais próxima poderia explodir em supernova e, ainda assim, você não veria um único ponto de luz. Em termos de massa, encontraríamos menos de um átomo por metro cúbico — um vazio muito mais vazio do que os melhores vácuos que já criamos na Terra. Quase todos os átomos são de hidrogênio ou hélio, o que significa que não há química. Agora verifique cada bloco adjacente: eles são iguais. Vá um milhão de blocos em qualquer direção: eles são iguais. O espaço é escuro, frio e sem características.
Se a luz visível ou a química básica já são extraordinariamente incomuns, imagine quão rara é a vida inteligente complexa. O universo já é suficientemente antigo para que outras formas de vida o tivessem percorrido, enviado sondas, consumido estrelas ou de alguma forma transmitido sua presença, mas não encontramos nenhum sinal de que mais alguém esteja por aí. Somos configurações incrivelmente improváveis de poeira estelar: em nosso canto do universo, talvez sejamos os únicos portadores da tocha da consciência.
Deutsch diz que os humanos são especiais
O segundo ponto de Deutsch é que sobrevivemos apesar do nosso ambiente, não por causa dele. O meme “humanos como vírus” caracteriza nosso planeta como uma Mãe Gaia que cuida de nós e pode satisfazer todas as nossas necessidades de forma sustentável, se apenas deixássemos de ser tão gananciosos e exploradores.
Eu diria que já passou da hora de chamar o Conselho Tutelar: nosso Planeta eliminou cerca de 99,9% de todas as espécies que já existiram.
Nossos primos mais próximos caíram pela sua mão, e quase fomos junto. O Grande Vale do Rift, onde evoluímos, era uma armadilha mortal: faltava água potável e equipamentos médicos, estava infestado de parasitas, predadores e doenças, e frequentemente feria, envenenava, afogava, faminta e adoecia seus habitantes.
Portanto, chega de falsa modéstia. Não é arrogante dizer que somos realmente significativos no esquema cósmico. O conforto do nosso ambiente moderno não tem nada a ver com a natureza, e tudo a ver com os humanos serem especiais. Mas por que somos especiais?
Explicações que mudam o mundo
Nossos parentes mais próximos no reino animal são realmente inteligentes, mas até mesmo o “Einstein dos chimpanzés” parece um anão mental comparado a uma criança humana de três anos.
Chimpanzés jamais entenderão arte com macarrão, muito menos trigonometria. Há conhecimento que está para sempre fora do alcance deles. E assim, se encontrarmos civilizações alienígenas ou inteligências artificiais muito mais avançadas do que nós, poderemos nos ver na mesma posição que nossos primos: batendo de frente com os limites duros da nossa compreensão, com certos segredos do universo para sempre inacessíveis.
Talvez os limites do conhecimento se pareçam com algo assim:
Errado, diz Deutsch. A capacidade de criar conhecimento explicativo é algo que você ou tem, ou não tem: uma vez que você a possui, não há limites para seus poderes. Afirmar o contrário é um apelo ao sobrenatural: apenas Deus poderia impor limites arbitrários ao que podemos descobrir.
Então, o que torna os humanos infinitamente capazes de explicar as coisas?
- Temos universalidade computacional, ou seja, podemos executar qualquer programa que um computador de uso geral pode (com a ajuda de lápis, papel e tempo suficiente). Não é possível imaginar uma rotina que pudesse rodar na mente de uma IA ou alienígena e que nós não pudéssemos também executar. Mas isso é necessário, não suficiente: você pode hackear seu Gameboy para rodar qualquer programa concebível, mas isso não o faz escrever poesia ou explorar o cosmos.
- O segundo ingrediente-chave é que os humanos têm a habilidade de criar novas explicações — algo que Deutsch argumenta estar no coração de toda criação de conhecimento.
O problema do peru
Vamos começar com o entendimento popular de como a ciência funciona: uma pessoa de jaleco faz uma observação surpreendente e elabora uma previsão sobre as circunstâncias em que ela se repetirá. Realiza experimentos para confirmar sua hipótese, ganhando mais confiança com observações repetidas até estar pronta para publicar seus achados.
Agora substituímos o cientista por um peru em um celeiro. Todos os dias, o fazendeiro traz comida e roupa de cama quentinha. Todos os dias, o peru acumula mais e mais evidências de que o padrão “comida + cama” se repete. No exato momento anterior à sua morte sangrenta — o dia antes do Dia de Ação de Graças — o peru tem máxima confiança de que o fazendeiro é seu amigo e benfeitor.
Essa é a questão da indução. Como podemos justificar o conhecimento que deriva de extrapolar o específico para o geral, o passado para o futuro, ou o próximo para o distante?
Em resumo: não podemos.
Karl Popper “resolveu” o problema rejeitando a premissa de que a ciência depende da justificação do conhecimento em primeiro lugar. Em vez disso, o progresso acontece quando criamos boas explicações e depois as submetemos à crítica — inclusive por meio de experimentação e observação. Nunca teremos certeza absoluta de nada: o máximo que podemos fazer é eliminar explicações ruins.
Popper, Bayes e conjecturas criativas
Fiquei irritado e até um pouco envergonhado por não ter entendido plenamente o ponto de Popper antes de ler The Beginning of Infinity.
Parte disso porque fui sugado pela escola da epistemologia bayesiana, que agora considero incoerente, e parte porque fiquei preso demais na ideia de “falseabilidade”. Mas isso é só metade da equação: a parte realmente importante é criar conjecturas criativas em primeiro lugar.
Por qualquer motivo, os humanos conseguem fazer isso. Existe uma imensidão de conhecimento esperando para ser desbloqueado pelas explicações certas: editar nossos genes, transmutar elementos, minerar asteroides, colonizar as estrelas, erradicar doenças e o envelhecimento — e resolver qualquer outro problema que não viole as leis da física.
É claro que isso não significa que vamos realmente fazer tudo isso. Boas explicações só florescem em um conjunto raro e precioso de memes culturais que permitem correção de erros: coisas como liberdade de expressão, democracia, economia de mercado e a separação entre política e ciência.
Há toda a chance de acabarmos sob o jugo autoritário ou de nos explodirmos de volta à idade da pedra. Mas somos capazes de grandes coisas: nas palavras de Deutsch, estamos sempre no início do infinito.
“Problemas são inevitáveis; problemas são solucionáveis.”
Temos razões para sermos otimistas quanto ao futuro da humanidade, mas também acho as ideias de Deutsch inspiradoras em um nível pessoal.
O caso para o otimismo pessoal
Você acha que conseguiria se tornar fluente em cantonês? Pense nisso por um momento.
Agora considere que o cara mais preguiçoso e menos inteligente da China não apenas fala cantonês perfeitamente, mas faz isso desde pequeno. Isso muda sua resposta?
Estou começando a pensar que muitos objetivos aparentemente impossíveis são assim. Eles têm muito pouco a ver com capacidade básica, e muito a ver com interesse. Parte disso é inato — seu cérebro pode estar “programado” para achar certos tipos de problemas mais interessantes ou recompensadores de resolver. Mas muito também é arbitrário: quais “pacotes de software cultural” foram instalados durante seu desenvolvimento, se você teve ou não um bom professor de matemática, a quantidade de tempo a que você foi exposto a uma determinada classe de problemas.
Pessoas que acreditam que não sabem cantar, que têm “dois pés esquerdos” ou que não são boas com idiomas provavelmente estão erradas. Ou melhor, estão certas, mas apenas porque a profecia se autorrealiza.
Se os humanos são explicadores universais — isto é, qualquer um de nós poderia resolver qualquer problema, em princípio — isso tem implicações enormes para o sistema educacional, para o planejamento de carreira, para como tratamos crianças e para como pensamos sobre inteligência e outras capacidades.
Sou cautelosamente otimista quanto a isso, mas não um crente cego. O maior desafio que vejo é conciliar essa universalidade com as pesquisas sobre inteligência — um dos achados mais bem replicados da psicologia. Talvez eu tente lidar com isso em um futuro post.
Um argumento para o progresso moral objetivo
A moralidade não é como a física. Não podemos calcular sua trajetória, nem há uma lei natural que a obrigue a se inclinar em qualquer direção. Podemos lançar argumentos filosóficos sobre o bem e o mal, mas não faz sentido tratar a moralidade como se fosse uma questão de fato.
Esse é o problema do “é–deve” de Hume: é impossível passar de um é (um fato sobre como o mundo é) para um deve (uma afirmação normativa sobre como o mundo deveria ser).
Deutsch apresenta a primeira refutação convincente desse problema que já ouvi.
Primeiro, ele aponta que isso é uma exigência isolada de rigor: afinal, o próprio problema da indução mostra que não podemos derivar um “é” de outro “é”! Se não é assim que fundamentamos nossos enunciados factuais, então não é justo exigir um padrão mais alto para a moralidade.
Em segundo lugar, o problema desaparece quando deixamos de falar em axiomas morais e passamos a falar em explicações morais.
Deutsch dá o seguinte exemplo: se um escravo tivesse escrito um livro best-seller, isso não teria refutado logicamente a proposição “negros foram destinados pela providência a serem escravos”. Mas certamente teria abalado muitas explicações das pessoas, o que poderia levá-las a questionar outras concepções sobre o que é uma pessoa negra, o que é uma boa sociedade, e assim por diante.
Em outras palavras: fatos são logicamente independentes de axiomas, mas ainda podemos usar conhecimento factual para criticar explicações.
Progresso moral não aleatório
Quase todo mundo se comporta como se a moralidade fosse “real” de qualquer maneira. Então, quem se importa com esses argumentos acadêmicos enfadonhos?
A ponte sobre a divisão “é–deve” é empolgante para mim porque sugere que Martin Luther King estava certo: estamos fazendo progresso não aleatório rumo a uma civilização mais moral. Não é coincidência que nosso crescimento em conhecimento tenha levado não apenas a avanços científicos e tecnológicos, mas também ao sufrágio universal, à abolição da escravidão, ao desenvolvimento da saúde global, aos direitos dos animais e assim por diante.
Se continuarmos a ser uma cultura que valoriza boas explicações e permite a correção de erros, podemos resolver todos os problemas morais que eu — e muitas outras pessoas — consideramos importantes.
Há uma consequência feliz aqui: “Nazistas Supergalácticos do Espaço” não faz realmente sentido como conceito. Ao contrário do que sugere quase toda ficção científica, o universo não está repleto de civilizações hostis determinadas a nos conquistar ou exterminar: você não chega ao tipo de explicações que possibilitam a viagem interestelar sem desenvolver, ao longo do caminho, argumentos morais altamente sofisticados.
O argumento contra o apocalipse iminente da IA
Deutsch está disposto a atribuir pessoalidade a qualquer ser que passe no teste do “explicador universal”. Um chimpanzé não é uma pessoa, mas se instalássemos nele o “software” de explicador universal, ele seria.
Se modelos de linguagem como o ChatGPT dessem o salto para a inteligência artificial geral, eles também seriam pessoas: teriam vontade própria de brincar, se recusariam a seguir nossas demandas, e possuiriam sua própria centelha criativa e desejos autônomos. Mesmo que fosse possível que a pessoalidade surgisse de um processo de minimizar uma função de erro, escravizar esses seres para escrever nossas redações escolares seria profundamente imoral.
Deutsch está confiante de que as IAs atuais são meras ferramentas, e não estão no caminho de se tornarem o tipo de coisa que os humanos são. Obviamente, muitas pessoas na linha de frente da pesquisa em IA pensam o contrário, mas eu, com certa cautela, começo a achar que Deutsch está certo aqui, e que os especialistas estão deixando escapar algo importante.
Eu precisarei de um post separado para defender essa posição como merece. Se você acha que estou falando besteira, justo: eu mesmo teria dito isso um ano atrás.
De qualquer forma, mesmo que estejamos à beira da AGI, fico bem menos preocupado com a possibilidade de criarmos uma espécie que nos trate com a mesma crueldade com que tratamos porcos ou galinhas. Uma mente com a capacidade de criar novo conhecimento será necessariamente um explicador universal, o que significa que ela convergirá para boas explicações morais.
Se for mais avançada do que nós, será moralmente superior a nós: o clichê de uma superinteligência obcecada em converter o universo inteiro em clipes de papel é exatamente tão ridículo quanto parece.
O argumento da beleza objetiva
Deutsch inclui um capítulo curto chamado “Por que as flores são belas?”, que apresenta o seguinte raciocínio:
Flores evoluíram para atrair insetos, e os insetos evoluíram para se atrair por flores. Mas essa explicação deixa uma lacuna enorme: ela só explica por que insetos gostam de flores. Então, como é possível que algo que evoluiu para atrair insetos também seja atraente para os humanos?
Deutsch conclui que deve existir beleza objetiva — aspectos da beleza que existem fora de modas culturais ou da seleção sexual. E que essas verdades estéticas são tão objetivas quanto as leis da física ou da matemática.
A crítica: beleza como subproduto
Essa é, para mim, a parte mais fraca do livro. Compare com a ideia de Steven Pinker sobre a música ser um “cheesecake auditivo”: um subproduto prazeroso da nossa estrutura evolutiva, altamente idiossincrático à nossa biologia e cultura. O mesmo vale para outras sensações.
O cheesecake literal é delicioso porque contém açúcar, sal e gordura — recursos escassos e altamente desejáveis no nosso ambiente ancestral. Mas não há razão para pensar que o gosto seria universal: o que um cachorro acha interessante faria você vomitar.
Os detalhes do que apreciamos serão paroquiais, mas acho bem provável que alienígenas reconhecessem nossa arte como “arte” — e talvez até considerassem uma pintura de Monet superior a um rabisco infantil. Isso porque o domínio da estética contém certos elementos universais: coisas como simetria, espaço, recorrência e ritmo oferecem mais padrões com os quais brincar do que o mero ruído aleatório.
Bryan Boyd tem coisas interessantes a dizer sobre isso (resumo em podcast aqui). Kevin Simler adiciona uma peça de teoria dos jogos ao quebra-cabeça. Portanto, não acho necessariamente que Deutsch esteja errado; apenas acho que o quadro está incompleto.
Pensar na relação entre arte e resolução de problemas me fez perceber que eu estava errado sobre certas coisas — por exemplo, sobre o minimalismo — e que ainda estou bem no começo da minha jornada estética.
O conceito nebuloso de “criatividade”
Não seria fiel ao espírito do livro simplesmente concordar com todos os seus argumentos. E justamente porque acho as ideias de Deutsch empolgantes, é preciso ter cuidado extra para não me deixar levar pelo desejo de que sejam verdadeiras — e eu realmente quero muito que ele esteja certo.
Primeiro, algumas críticas menores: não acho que os capítulos sobre infinitos matemáticos ou a interpretação de muitos mundos sejam tão bons, e podem até afastar novos leitores. Isso seria uma pena! Para uma introdução melhor à mecânica quântica e a muitos mundos, recomendo Something Deeply Hidden, de Sean Carroll, e talvez Gödel, Escher, Bach, de Douglas Hofstadter, para uma abordagem lúdica aos infinitos.
Claro que não é totalmente justo comparar capítulos curtos de Deutsch a livros inteiros sobre o tema. Uma crítica geral a The Beginning of Infinity é que ele é uma tapeçaria de ambição descomunal que atravessa tantos campos diferentes que não consegue se aprofundar em nenhum. Mas isso não me incomoda. Sínteses amplas e de alto nível são ótimas se você as tratar como pontos de partida para leituras e explorações posteriores, nas direções que achar mais interessantes.
Minha crítica mais substancial é que o critério de Deutsch para o que torna os humanos especiais — a capacidade de criar novas explicações criativamente — está pouco teorizado. Qualquer coisa difícil de conciliar pode ser facilmente explicada pela “caixa-preta” da “criatividade”.
Deutschianos costumam descartar novos avanços em IA de maneira que irrita os observadores externos:
- “Ok, a IA pode desenhar uma imagem linda ou escrever um soneto original, mas isso não é criatividade de verdade.”
- “Ok, ela pode resolver novos problemas matemáticos e derrotar humanos em jogos milenares, mas esse não é o tipo de conhecimento que nos interessa.”
Assim, a “criatividade humana” foge e se esconde em brechas cada vez menores — já vimos esse filme antes.
Para ser justo, Deutsch admite livremente que não sabemos o que é a criatividade, nem de onde ela vem. E não devemos esperar que a confiança suprema dele seja abalada por chatbots cada vez mais convincentes: seu argumento não se baseia em observações empíricas, mas em princípios fundamentais de computação e epistemologia.
Ainda assim, acredito que mentes mais frágeis (incluindo a minha) apreciariam muito se conseguíssemos formular algumas teorias mais concretas sobre o que é a criatividade. Isso também ajudaria a projetar testes para identificar as circunstâncias em que ela surge — e em que não surge.
Como já me dei licença para ser arrogante, acho que tropecei em uma possível resposta para o enigma da criatividade humana — ou pelo menos, em uma grande pista.
Já escrevi o próximo post, mas ele foi submetido para publicação em outro lugar. Vou republicá-lo aqui no blog assim que possível: provavelmente em junho ou julho, mas talvez mais tarde. Desculpem o suspense.
Deixe um comentário