Os computadores vão criar consciência própria e assumir controle total de pelo menos 80% das nações até 2143. Escrevam o que eu estou dizendo. Vou explicar meu raciocínio todo que me leva a essa conclusão e qualquer um, mesmo leigo no assunto, vai concordar comigo no final das contas.

Tudo começa com uma historinha que explica bem como o que hoje conhecemos por inteligência artificial funciona.

O Quarto Chinês

Dentro de um quarto fechado tem alguém que possui um guia infinitamente grande de todas as possíveis frases que alguém pode falar em chinês (ok, mandarim, que seja), e respostas apropriadas a essas frases. Um cara que fala mandarim fluentemente escreve algo em um pedaço de papel e passa por debaixo da porta. Após alguns minutos, outro papel volta com uma resposta apropriada escrita também em chinês. Mesmo que a pessoa dentro do quarto não faça a menor ideia do que esteja fazendo, e só esteja procurando as frases no seu super-guia e copiando os ideogramas, para todos os efeitos parece que ela fala chinês.

Quando um computador assume comportamentos inteligentes☗, ele também não faz a menor ideia do que está acontecendo. Ele está associando a situação que ele percebe com algo que ele julga como “uma resposta adequada”, nos mesmos moldes da historinha acima.

Em uma observação interessante: nem quem é da área sabe ao certo o que está acontecendo em relação a como a máquina cria essas associações. Inteligência artificial por redes-neurais, um dos métodos usados pra criar esse efeito de super-guia, é um dos mais difíceis de depurar☗.

Ah, mas Diogo, tu está considerando um super-guia infinito de conhecimento nesse teu raciocínio, não tem como ter isso. Bom, armazenar informação é algo que se torna cada dia mais barato. Vamos relembrar que um disquete antigamente guardava 1.44MB de dados, e hoje em dia o pendrive mais vagabundo da história guarda 8GB (quase 5700 vezes mais). A técnica do super-guia é tão factível que já é aplicada por coisas com as quais você interage diariamente:

O Google Translate pode a partir de várias traduções tentar chegar em uma frase que se aproxima muito bem do significado que você quer, e isto é bastante inteligente. Mas e se a gente pedisse pro google translate traduzir uma linguagem esquecida, algo que sequer nós humanos conseguimos traduzir?

IA Específica vs. IA Geral

Não. O programa do Google Translate é baseado no super-guia, certo? Então se estamos tratando de uma linguagem que ninguém conhece, ela não pode estar no super-guia. Mas já houveram ocorrências em que programas bolados para tentar encontrar padrões em dados não-organizados já descobriram regras gramaticais em linguagens perdidas. É o mesmo tipo de programa que analisa genomas. Ele percorre uma cadeia imensa de AUTACGTAAUCG e compara com a informação que ele conhece do portador daquele DNA, e começa a descobrir coisas tipo: toda vez que aparece TACG aqui nesse trechinho da cadeia de DNA, o sujeito é uma mulher. 

AHÁ! O computador aprende essa regra e agora podemos aplicar isso em várias outras coisas. O computador está se auto-ensinando regras novas conforme ele avança, parecendo ficar mais esperto. Só que não é um “AHÁ”. A cada cadeia de DNA que respeita esse comportamento, ele aumenta a sua tendência a adivinhar que o sujeito é mulher. Pouco a pouco, a associação entre aquele montinho de proteínas e o fato de que trata-se de uma dama vai se fortalecendo. Quando digo auto-ensinar, não é que o programa está se reescrevendo e mudando seu próprio comportamento. Ele aumenta a sua predileção por vincular um conjunto de informações com uma resposta. A resposta vai ficando mais e mais “adequada” no entendimento dele. De maneira simplificada, em um programa que joga xadrez, com base na avaliação do tabuleiro contra todo o super-guia de possibilidades de jogadas que ele tem, isso acontece:

Eventualmente, se a máquina se depara com uma situação que ela não conhece, ela vai tentar executar uma jogada, e vai passar a monitorar quanto sucesso ela tem ganhando jogos usando essa jogada. E aí ela entra pra estatística, aumentando a predileção do programa por uma jogada ao invés de outra:

O problema é que as regras novas que ele se auto-ensina são específicas ao domínio de problemas que ele está tentando resolver. O programa do genoma de reconhecimento de padrões pode ser muito similar a um programa que identifica rostos, por exemplo. Mas pedir pro programa do genoma olhar pra vários rostos e tentar reconhecer pode ser como jogar uma chave de boca dentro do mecanismo inteiro. Isso porque daqui a pouco ele vai começar a misturar o que ele já conhece com a informação nova, e vão surgir resultados bizarros como tu jogar uma sequência de DNA pra ser avaliada pelo programa e ele responder ESSA É A CARA DA MARCINHA, SEM DÚVIDA.

Para que a skynet domine o mundo, precisamos de um tipo de inteligência artificial que seja aplicável em qualquer área de conhecimento. Algo não-específico. Uma inteligência geral. Tem que ser um computador fodão que consiga entender linguística, economia, informática, balística, psicologia, física, astronomia, e especialmente Street Fighter. Ninguém domina o mundo sem saber jogar de Bison.

 

O que é necessário para fazer a Skynet

Já sabemos sobre a inteligência geral. Mas mesmo que assumíssemos que isso é factível (spoilers: tamo longe), o que mais um computador precisaria ter para subjugar a raça humana? Se minha uber-inteligência está rodando numa máquina que está só plugada numa conexão da Vivo, provavelmente o estrago não seria muito grande, certo? No máximo ela ia mandar uns spams do Príncipe Nigeriano. Ela precisaria:

Ampliar seu escopo de ações

Isto é: uma máquina que só sabe enviar e receber mensagens via internet precisaria aprender a ganhar controle sobre coisas que a permita fazer mais que isso. Digamos: mandar uma carta pelo correio. Passar um fax. Dirigir um veículo. Invadir outro computador. Ela precisaria ampliar ainda mais o conjunto de inteligências específicas que ela precisa ter. Trata-se de uma máquina que não apenas se reprograma: ela precisa criar inteligências artificiais que a ajudem a resolver esses problemas.

Ser imparável

Se nossos suseranos cibernéticos tiverem um botão de “desliga” eles não são muito ameaçadores. A skynet teria que ser absolutamente indestrutível. Rodar em todas as máquinas do mundo, ter um suprimento de energia inesgotável, possuir máquinas que são feitas de materiais indestrutíveis. Conseguimos imaginar isso muito facilmente por causa de Exterminador do Futuro e Matrix.

Ser Onisciente

Ter acesso a todas as informações do passado e presente (e a partir disto ser capaz de prever o futuro com algum grau de certeza), para todas as áreas que sejam relevantes para sua existência. Como vocês devem imaginar pela linha de raciocínio que temos até agora, as áreas relevantes são TODAS. Tudo é útil pra uma máquina que planeja dominar o mundo. Tanto o super-guia quanto o programa do genoma melhoram suas capacidades conforme eles têm acesso a uma quantidade mais diversa de informações naquele campo. O mesmo valeria para uma inteligência artificial de escopo geral.

Um modelo da realidade

A máquina precisa ser capaz de montar um modelo de como a realidade que ela quer afetar funciona. O que é um sólido? O que é chão? Como andar? Se uma borboleta bater as asas em uma ilha do pacífico, isso pode causar um furacão em Papua Nova Guiné? Entender o comportamento do universo em que estamos inseridos é fundamental para usar isso ao seu favor na sua busca pela dominação universal.

—

O “ampliar seu escopo de ações” tem outro nome. Onipotência. Estamos falando de uma entidade Onipotente, Onisciente e indestrutível. Parece familiar? É fácil entender por quê o conceito de um programa que não temos total entendimento de como funciona atingir um estado de existência quase divino nos amedronta e nos fascina. É por isso que quando o buzzfeed escreve um post sobre como os robôs vão dominar o mundo e nos manter em cativeiro, sobre como todos nós vamos perder o emprego e todas as atividades vão ser exercidas por robôs☗, há tantos compartilhamentos e curtidas. É um assunto que mexe muito fundo conosco. 

O que acaba passando batido é que se algum ser humano conseguir concretizar qualquer etapa dessas que estamos comentando, ele não vai precisar de uma inteligência artificial para ter um controle gigantesco sobre a população. Se, por exemplo, alguém escrever um programa que escreve programas (não precisa nem ser inteligência artificial ainda), essa pessoa vai ficar tão bilionária, vai ter tanto país implorando pra fazer uso dessa tecnologia, que ela já vai ter o mundo em suas mãos. Se alguém conseguir montar um modelo preciso e completo da realidade, ainda que a longo prazo, seria possível provar que o universo é deterministico, não há entropia e então prever todos os acontecimentos futuros. Pensa em quanta gente não daria a vida por esse tipo de poder. O mesmo vale pra alguém que inventar algo que simplesmente não pode ser destruído. Vamos ter overlords humanos antes de ter overlords robôs.

Consciência

Ainda que todos os requisitos sejam preenchidos e finalmente sejamos exterminados, é provável que a máquina não faça a menor idéia do que ela está fazendo. Ela só está fazendo um monte de associações com base nas informações que ela tem e fornecendo a resposta que ela julga mais adequada. Quando dizemos que uma máquina se tornaria auto-consciente, o problema é definir o que entendemos por consciente. Se ela aparenta entender os valores da realidade na qual ela está inserida, parece tomar decisões em cima disso e entender se as consequências de seus atos levam aos objetivos que ela quer atingir, ela parece consciente. Da mesma maneira que o fulano do Quarto Chinês parece falar mandarim fluentemente.

O interessante é pensar como encaramos a nossa própria definição de consciência no que diz respeito a essência vs. aparência. Pode-se argumentar que uma máquina jamais seria capaz de ser consciente pois ela estaria apenas emulando a percepção e entendimento de si mesmo e de seu ambiente através de uma série de efeitos que fazem ela te dizer isso, mas isso não seria o suficiente para provar, de fato, que ela é consciente. É uma discussão bem complexa.  Entretanto, nossa própria consciência é causa de uma série de efeitos químicos e biológicos que fazem com que nos percebamos conscientes. A gente não sabe definir direito o que constitui consciência, enquanto programar é exatamente o ato de descrever um comportamento em uma linguagem formal e sem espaços para ambiguidades de maneira boa o suficiente para que uma máquina consiga reproduzi-lo. Talvez entender como a nossa própria consciência é construída seja o primeiro passo para poder modelar um sistema que possa ter uma inteligência artificial geral.

Ah, mas Diogo, e se dentre as áreas de conhecimento que a máquina puder aprender estiverem Ética e Filosofia?

Aí entra o Teorema Fundamental de Diogo Ribeiro sobre Inteligência Artificial e Overlords Robôs:

Qualquer inteligência artificial que começar a tentar entender filosofia vai perder tanto tempo tentando desvendar os milhares de paradoxos e mistérios que ela inclui que nunca mais vai sair dela, se tornando – para todos os efeitos – inútil na perspectiva da dominação mundial.

Já pensou o teto que é uma máquina com um modelo completo da realidade batendo na idéia de que uma flecha nunca vai atingir o alvo pois ela primeiro tem que percorrer a metade do caminho até ele? E depois a metade do caminho até a metade? Ou tentando decifrar a real natureza da frase “esta frase é falsa“?

Previsões

A parte mais fácil de prever o futuro é escrever uma previsão. Qualquer idiota lança uma previsão. Os grandes oráculos já sabiam que se a gente tentar adivinhar algum fenômeno várias vezes, eventualmente ele vai acontecer. Afinal de contas estamos no quê? No quadragésimo apocalipse que Nostradamus previu? (Acabo de descobrir que é meu 41o já. Confere aqui). Daqui a pouco elegem Bolsonaro pra Presidente da República, aí rola. Escrever previsões é fácil. O ponto é que ninguém tem pista alguma de se e quando isso pode acontecer. No máximo existem estimativas em relação a quando teremos poder computacional suficiente para podermos realizar alguma dessas tarefas.

Mais recentemente, houve uma emergência de pessoas que se auto caracterizam “futuristas” ou praticantes de “futurismo” que se especializa exatamente em fazer projeções educadas de se e quando possíveis cenários de futuro como esse vão acontecer. Ray Kurzweil, da Google, sendo o mais proeminente. Na minha opinião:

1. Futurismo é um movimento artístico
2. O nome do que define o que a área se propõe a fazer é futurologia
3. Analisar tendências e procurar entender – dado o cenário atual – para onde as coisas rumam e em que ritmo, é um papel assumido por qualquer pesquisador. Não acho interessante do ponto de vista da comunidade científica que tente se criar uma categoria de pessoas que pense nesse tipo de coisa em uma perspectiva geral, sem ser especialista dos campos que está tentando FUTURAR ☗.
4. O único modo 100% preciso de prever tendências de futuro é construir ele. Querer que o mundo se encaixe em uma expectativa sem de fato estar investido em tornar ela realidade não significa muito e não ajuda as pessoas que estão determinadas em construir algo novo e/ou melhor.
5. Qualquer idiota faz previsões. Veja novamente a primeira linha do post.

Claro que há avanços muito significativos na área, e cada vez mais temos resultados interessantíssimos de inteligências artificiais fazendo tarefas incríveis. A parte de “todos nós vamos perder o emprego” não deixa de ser uma realidade relacionada à evolução da tecnologia (pra quem ainda não assistiu Humans need not apply, recomendo!), mas na perspectiva de sermos governados e tiranizados por um programa que saiu de controle, tem um volume imenso de trabalho pela frente pra chegarmos lá, se é que isso é possível mesmo. Se uma máquina pode ser auto-consciente ou não é um problema muito mais de definição filosófica do que é consciência do que de como ele será implementado, e reforço o ponto de que haverão tiranos humanos antes de haverem tiranos-máquina.

Só pela diversão, nós treinamos uma rede neural com todos os textos do Mean Look (inclusive este) e geramos uma postagem de 50 frases que você pode conferir aqui e ficar mais sossegado em relação à ameaça de ser subjugado por uma máquina.

Resumindo o post:

• Ray Kurzweil é um idiota.
• O mundo acaba em 2143.
• Não vai ser pela Skynet.
• Se for, ela vai dizer que foi sem querer querendo.
• Pode ser por um software colecionador de selos que resolve desmatar toda a floresta amazônica para produzir mais papel para produzir mais selos.

Obrigado e passar bem, bjos de Rotom-luz.