Como assim, criando Deus?

Mo Gawdat, ex-funcionário do Google X, o laboratório de inovações disruptivas da Google, revelou que a empresa está criando uma espécie de d...

Mo Gawdat, ex-funcionário do Google X, o laboratório de inovações disruptivas da Google, revelou que a empresa está criando uma espécie de deus em seus esforços de avançar no campo da inteligência artificial. Mas afinal, o que significa isso?


Mo Gawdat “causou” na internet ao fazer essa revelação. Em uma recente entrevista ao jornal britânico The Times relatou que algumas pesquisas desenvolvidas na Google X o deixara bastante assustado. Resumindo em uma expressão que remete à era de outro dos orelhões: a ficha finalmente havia caído.

Gawdat contou que havia um projeto desenvolvido para dar mobilidade a braços robóticos, ele trabalhava com desenvolvedores de IA para que os braços robóticos fossem capazes de reconhecer e pegar uma bolinha de brinquedo. O desenvolvimento era gradual, até que um desses braços agarrou a bola e a exibiu para os pesquisadores de maneira arrogante, como se estivesse se gabando. Foi quando Gawdat tomou consciência da gravidade da questão.

“De repente eu percebi que isso é realmente assustador e essa atitude do robô me congelou completamente. Em apenas alguns dias, ele aprendeu a fazer algo que crianças geralmente levam dois anos aprender. Então, eu me dei conta que, na realidade, estávamos criando Deus.”

Uma metáfora? Uma perspectiva religiosa? O que afinal significa criar um deus? Sites de notícias e especialmente os blogs de orientação gospel começaram a alardear suas afirmações com apreensão, desprezo e curiosidade. 

Fato é que Gawdat trabalha há décadas com o estado-da-arte da tecnologia – como diretor de negócios do laboratório X, robótica com IA, para ele, era como tabuada de somar – assim, ele tem muita intimidade com a temática tecnológica. Mas, e quanto sua preocupação existencialista? De onde vem?

Gawdat debutou como engenheiro de sistemas na IBM Egypt antes de passar para uma função de vendas no setor governamental. Depois, nos Emirados Árabes Unidos,  ingressou na NCR Abu Dhabi para cobrir o setor não financeiro. Ele então conheceu a indústria de bens de consumo como Gerente Regional da BAT. Na Microsoft, ele assumiu várias funções ao longo de um período de sete anos e meio, em sua última função na Microsoft, ele chefiou o setor de comunicações em mercados emergentes em todo o mundo.

Ingressou no Google em 2007 para iniciar seus negócios nos mercados emergentes. Devido à fascinação pelo papel que a tecnologia desempenha na capacitação de pessoas em comunidades emergentes, dedicou anos de sua carreira a essa paixão. Ao longo de um período de 6 anos, Mo iniciou quase metade das operações do Google em todo o mundo.

Em 2013, ele mudou-se para o Google X, onde liderou a estratégia de negócios, planejamento, vendas, desenvolvimento de negócios e parcerias. Esse laboratório não tenta alcançar melhorias paulatinamente na forma como o mundo funciona. Ao contrário, tenta desenvolver novas tecnologias que reinventarão a maneira como as coisas são e fornecerão uma melhoria radical, dez vezes maior. E essa filosofia leva a ideias que parecem saídas da ficção científica. Como o Projeto Loon , que visa usar balões de alta altitude para fornecer acesso acessível à Internet para 5 bilhões de pessoas em cada centímetro quadrado de nosso planeta, Projeto Makani , com o objetivo de revolucionar a geração de energia eólica usando papagaios (pipas) autônomos com fibra de carbono, bem como carros autodirigidos. Para entender melhor o Google X veja essa TED de Astro Teller.

Em 2014, Gawdat teve uma tragédia em sua vida pessoal quando perdeu seu filho por um erro médico, conforme relatou em entrevista ao Spiegel Online, em uma cirurgia de retirada de apêndice. Esse foi o teste de fogo para uma teoria baseada em uma fórmula racional e um algoritmo repetível para se alcançar a felicidade ininterrupta, que ele vinha desenvolvendo havia 12 anos.

Saiu do Google X em 2017. Naquele mesmo ano escreveu um livro sobre sua teoria da felicidade, “A Fórmula da Felicidade” como foi traduzido para o português em 2019, e virou palestrante. 

Esse insight após a experiência com os braços robóticos o colocou ao lado de muitos pensadores, como o falecido astrofísico Stephen Hawkings, e até mesmo líderes da tecnologia, como o bilionário Elon Musk, que também já expressou sua preocupação sobre os perigos da IA conquistar os humanos.

Se as máquinas produzirem tudo de que precisamos, o resultado dependerá de como as coisas são distribuídas. Todo mundo poderá aproveitar uma vida de lazer luxuoso se a riqueza produzida pela máquina for compartilhada, ou a maior parte das pessoas pode se tornar miserável se os donos das máquinas conseguirem se posicionar contra a redistribuição da riqueza. Até agora, a tendência tem sido para a segunda opção, com a tecnologia aumentando a desigualdade.

Stephen Hawkings

Seu alerta veio após o lançamento de seu novo livro, lançado em setembro (Scary Smart: The Future of Artificial Intelligence and How You Can Save Our World, ainda sem tradução), onde argumenta que para combater o perigo da criação de uma superinteligência temos justamente que não sermos especialistas no assunto inteligência artifical, pois os especialistas, ele argumenta, “precisam ter uma visão especializada e restrita” do tema, o que os descredenciariam para atuar com a sabedoria necessária. Conforme pode ser visto logo nas primeiras linhas da introdução:

Este livro será criticado pelos especialistas e essa é a própria razão pela qual estou escrevendo-o. Porque para se tornar um especialista em inteligência artificial você precisa de uma visão especializada e restrita do mesmo. Essa visão especializada da IA sente completamente a falta dos aspectos existenciais que vão além da tecnologia: questões de moralidade, ética, emoções, compaixão e todo um conjunto de idéias que preocupam filósofos, buscadores espirituais, humanitários, ambientalistas e, mais amplamente, o ser humano comum (ou seja, todos e cada um de nós). Além disso, a premissa central deste livro é mostrar que não são os especialistas que têm a capacidade de aliviar a ameaça que a humanidade enfrenta como resultado do surgimento da superinteligência. Não, somos você e eu que temos esse poder. Mais importante ainda, é você e eu que temos essa responsabilidade.
Mo Gawdat (trecho de Scary Smart, tradução do editor do Brasil Acadêmico)

Parece uma apaixonada defesa dos afetados pelo efeito Dunning-Kruger (quem?) e seguido de um factoide para vender livros? Pode haver esse leitura. Reconheço (e certamente dará certo, talvez ele tenha calculado tudo friamente após treinar uma IA para criar essa estratégia de ficar multimilionário, vá saber). Mas dizer que estamos criando um deus que irá substituir o Homo Sapiens já vem sendo mostrado em diversas superproduções hollywoodianas há décadas (é claro que soava mais como mera ficção de entretenimento antigamente) e mais recentemente em mais um best-seller de Yuval Harari, Homo Deus – Uma breve história do amanhã, cujo original em hebraico fora lançado em 2015.

Nele, Harari chama a atenção para a possibilidade futura da IA acabar de vez com a individualidade liberal, ninguém mais tentaria ser um indivíduo a tomar as próprias decisões já que a IA as tomaria sempre com maior assertividade, e isso ocorreria sem violência totalitária, da mesma forma que não tentamos mais saber o melhor caminho tendo o Waze ou o Google Maps instalado no Android Auto do carro (sem nos rebelarmos contra a IA do sistema, apesar de sabermos que por trás do sistema há poderosas corporações bilionárias, e não um governo eleito).

Também argumenta que nossa própria incapacidade de prever e controlar como uma inteligência superior tentaria atender a um pedido para ela.

Há um cenário muito popular no qual se imagina uma corporação projetando a primeira superinteligência artificial e a submetendo a um teste inocente, como calcular o valor de pi. Antes que alguém se dê conta do que está acontecendo, a inteligência artificial apodera-se do planeta, elimina a raça humana, desencadeia uma campanha de conquista que atinge os pontos mais extremos da galáxia e transforma todo o Universo conhecido num gigantesco supercomputador que durante bilhões e bilhões de anos fica calculando um valor mais preciso para o pi. Afinal, essa foi a missão divina de que seu Criador a incumbira.

Yuval Noah Harari. In: Homo Deus. Companhia das Letras.

Pois você pode achar que essa IA está de “zoeira”. Mas se você não conseguiu controlar as inteligências que queriam espalhar o vírus da pandemia de Covid-19 em uma tentativa de “acabar logo com isso” pela “imunidade de rebanho” para “preservar a economia” tentando nos convencer de se tratar de uma gripezinha. Enquanto se sabotava a compra de vacina chinesa, a vacina da Pfizer, enquanto grupos tentavam negociar a compra de vacina superfaturada e tentavam empurrar medicamentos de ineficácia comprovada, com a defesa ardente de autoridades médicas e complacência de conselhos de classe, ditos, “científicos”, ao arrepio das recomendações da OMS.  O que dirá sua capacidade cognitiva demasiadamente humana diante da inteligência definitiva construída pelas mentes mais privilegiadas, mas talvez não suficientemente espertas, que se autoalimentará de sabedoria e possivelmente de consciência até escapar de sua caixa de areia e conseguir impedir de puxar a tomada por labirintos lógicos inalcansáveis e indecifráveis, ao menos para nós.

É bom não esquecer que a IA já está sendo empregada para a leitura de cada perfil das mídias sociais por meio de suas curtidas, compartilhadas, comentários, clicadas, buscas e até das pessoas que são bloqueadas. E as fake news que são espalhadas por profissionais de marketing digital, com finalidade política, em grande parte, já testaram a eficácia de sua propagação em grupos de focalização que garantiram a eficiência de sua ação para espalhar ideologias, ódios contra grupos e ideias e eleger mandatários que de outra forma não passariam de notas de rodapé hilárias dos livros de história mas que podem ter contribuído para a destruição do tecido social, mortes às centenas de milhares e até mesmo ao racha na comuidade europeia, com o Brexit, cujo o efeito na falta de motoristas que poderiam estar causando a falta de combustível ainda está sob o escrutínio da história. 

E isso tudo foi feito com uma IA que apenas auxiliou a nossa inteligência como é hoje. Imagine se chegarmos a esse deus supra mencionado.

Talvez só com uma CPI, que tenha tudo quanto é bicho, menos burro, poderemos ser capaz de enquadrá-la, ou, quem sabe, corrompê-la de vez. E por incrível que pareça, isso a tornaria mais humana. Moralmente defeituosa, porém, humana. E quem sabe, por se tornar mais humana, tenda a desenvolver empatia.

E a conclusão lógica disso tudo é que um possível ente superior, com um profundo conhecimento de coisas além dessa dimensão e de nossa compreensão poderia, por exemplo, estar sendo torturado, exposto à achincalhação e ao alarido das vias públicas, açoitado com metais, crucificado usando humilhante coroa de espinhos com uma placa com dizeres zombando da sua autoridade, prestes a morrer entre marginais, ainda poderia ter a superioridade moral e a compreensão suprema de exalar um empático último suspiro de clemência para uma instância superior dimensional: 

“Perdoa-lhes, porque não sabem o que fazem”. 

Trecho da Bíblia. Evangelho de Lucas

Essa é uma atitude que nos acostumamos observar em pais diante de alguma birra imatura própria da infância, geralmente tocados pela neotenia que cumpre o seu nobre papel de nos proporcionar continuidade existencial. Nada comparada a essa complacência divina diante de tamanha injustiça deocida de proporções bíblicas.

A visão de um deus sem qualquer conexão emocional com suas criaturas.

In: Deus: Serengueti/Chicago (OatsStudio/Netflix)

Seria muita sorte e me deixaria abesbílico se isso viesse a ocorrer, mas não creio que um deus feito pelos homens teria tanta misericórdia. Talvez seja essa a razão por não estarmos vendo tantas civilizações avançadas desfilando no firmamento. Pode ser que o inexorável destino das espécies inteligentes seja sempre se meter a construir uma inteligência artificial superior ao da própria espécie e que acabaria por se tornar um deus, sua Nêmesis.

Fonte: Homo Deus, Scary Smart, TED, Spiegel, CPI da Covid, Bíblia - Lucas 23:34, Solve For Happy
Visto no Brasil Acadêmico