$hide=/p/valores.html

É possível construir inteligência artificial sem perder o controle?

Tem medo de inteligências artificiais? Pois deveria, diz o filósofo e neurocientista Sam Harris; e não apenas na teoria. Vamos construir máq...

Tem medo de inteligências artificiais? Pois deveria, diz o filósofo e neurocientista Sam Harris; e não apenas na teoria. Vamos construir máquinas sobre-humanas, afirma Harris, mas ainda não sabemos lidar com os problemas associados à criação de algo que vai nos exterminar, assim como nós exterminamos formigas.

Vou falar sobre uma falha intuitiva que afeta muitos de nós. É a falha de reconhecer certo perigo. Eu vou descrever uma situação que considero aterrorizante e provável de acontecer, e não é uma boa combinação, ao que parece. Mesmo assim, em vez de sentir medo, a maioria vai achar legal o que vou falar.



Vou descrever como nossas conquistas na área da inteligência artificial poderão nos destruir. Na verdade, acho muito difícil ver como elas não vão nos destruir, ou nos inspirar a nos destruirmos. E se você é como eu, vai descobrir que é divertido pensar sobre essas coisas. E essa resposta é parte do problema. OK? Essa resposta deve te preocupar. Se eu quisesse te convencer nessa palestra de que a fome mundial é provável, por causa do aquecimento global ou qualquer outra catástrofe, e de que seus netos e os netos dos seus netos provavelmente viverão assim, você não pensaria: "Interessante. Gostei dessa Palestra TED."

Fome não é divertido. Morte por ficção científica, por outro lado, é divertida, e uma das coisas que mais me preocupa no desenvolvimento de IA nesse ponto é que somos incapazes de organizar uma resposta emocional apropriada para os perigos que estão à frente.

Eu sou incapaz de ordenar essa resposta, e estou dando esta palestra.

É como se estivéssemos diante de duas portas. Na porta de número 1, paramos de progredir na área de IA. Nossos softwares e hardwares param de melhorar por algum motivo. Pare um pouco para refletir por que isso pode acontecer. Dado que automação e inteligência são valiosos, continuaremos a melhorar nossa tecnologia, se isso for possível. O que poderia nos impedir de fazer isso? Uma guerra nuclear em grande escala? Uma pandemia global? A colisão de um asteroide? Justin Bieber como presidente dos Estado Unidos?

(Risadas)

A questão é que algo teria que destruir a civilização que nós conhecemos.

Você precisa imaginar o quão ruim teria que ser para impedir os avanços da nossa tecnologia permanentemente, geração após geração.

Quase que por definição, essa é a pior coisa que já aconteceu na história humana.

A única alternativa, e é o que está atrás da porta de número 2, é que continuemos a aprimorar nossas máquinas inteligentes, ano após ano.

Em algum ponto, construiremos máquinas mais inteligentes que nós, e uma vez que isso acontecer, elas aperfeiçoarão a si mesmas.

E nós arriscamos o que o matemático I. J. Good chamou de "explosão de inteligência", que o processo poderia fugir do controle.

Isso é frequentemente caricaturado, desse jeito aqui, como medo de que exércitos de robôs malignos nos ataquem. Mas essa não é a situação mais provável.

Não é que nossas máquinas se tornarão espontaneamente más.

A preocupação é que construiremos máquinas que são muito mais competentes do que nós, e que a menor das divergências entre nosso propósito e o delas possa nos destruir.

Pense na nossa relação com as formigas. Nós não as odiamos. Nós não as machucamos de propósito. Na verdade, nós tentamos não machucar elas. Evitamos pisá-las na calçada. Mas sempre que a presença delas colide com um dos nossos objetivos, digamos que ao construirmos um prédio como este, nós exterminamos elas sem a menor cerimônia. A preocupação é que um dia vamos construir máquinas que, conscientes ou não, poderão nos tratar com o mesmo desprezo.
Eu suspeito que isso pareça difícil de acreditar para vocês. Aposto que alguns de vocês duvidam que uma IA superinteligente seja possível, muito menos inevitável. Mas então você precisar achar algo de errado com as seguintes suposições. E existem apenas três.

Inteligência é uma questão de processamento de informação em sistemas físicos. Na verdade, isso é mais do que uma suposição. Nós já construímos inteligência limitada em nossas máquinas, e muitas delas já trabalham num nível de inteligência sobre-humano. E sabemos que matéria comum pode dar origem ao que é chamado de "inteligência geral", a habilidade de pensar de forma flexível em vários domínios, porque nossos cérebros conseguiram isso. Certo? Existem apenas átomos aqui, e desde que continuemos a construir sistemas de átomos que mostrem mais e mais comportamento inteligente, a não ser que nos interrompam, vamos acabar construindo inteligência geral dentro de nossas máquinas.

É crucial perceber que a taxa de progresso não importa, porque qualquer progresso é suficiente para nos levar até a zona final. Não precisamos da Lei de Moore para continuar. Não precisamos de progresso exponencial, só precisamos continuar.

A segunda suposição é que vamos continuar. Continuaremos a melhorar nossas máquinas inteligentes. E dado o valor da inteligência... Inteligência ou é a fonte de tudo aquilo que valorizamos ou precisamos dela para que proteja aquilo que valorizamos. É a nossa fonte mais valiosa. Então nós queremos fazer isso. Temos problemas que precisamos resolver urgentemente. Queremos curar doenças como Alzheimer e câncer. Queremos entender sistemas econômicos. Queremos aprimorar a ciência climática. Nós faremos isso, se pudermos. O trem já saiu da estação, e não há freio para puxar.

Finalmente, não estamos em um pico de inteligência, não estamos nem perto disso.

E essa é a percepção crucial. Isso é o que faz a nossa situação ser tão precária e a nossa intuição sobre riscos não ser confiável.

Pense na pessoa mais inteligente que já existiu. Na lista de quase todos aqui está John von Neumann. A impressão que ele causou nas pessoas ao seu redor, e isso inclui os melhores matemáticos e físicos de seu tempo, está muito bem documentada. Se apenas metade das histórias sobre ele forem meio verdadeiras, não há dúvida de que ele foi uma das pessoas mais inteligentes que já existiu. Considere o espectro da inteligência. Aqui temos John von Neumann. E aqui temos eu e você. E aqui temos uma galinha.

(Risadas)

Perdão, uma galinha.

(Risadas)

Não existe razão pra que eu torne isso mais depressivo do que precisa ser.

(Risadas)

Parece extremamente provável, no entanto, que esse espectro da inteligência se estenda muito além do que pensamos, e se construirmos máquinas mais inteligentes do que nós, elas provavelmente vão explorar esse espectro de maneiras que não podemos imaginar, e vão nos ultrapassar de formas inimagináveis.

E é importante reconhecer que isso é verdade apenas pela velocidade. Imagine se construíssemos uma IA superinteligente que não fosse mais inteligente do que seu time mediano de pesquisadores em Stanford ou no MIT.

Circuitos eletrônicos funcionam quase 1 milhão de vezes mais rápido do que os biológicos, então essa máquina deve pensar 1 milhão de vezes mais rápido do que a mente que a criou. Você deixa ela funcionando por uma semana, e ela vai realizar 20 mil anos humanos de trabalho intelectual, semana após semana.

Como poderíamos entender, muito menos restringir, uma mente progredindo dessa maneira?

Outra coisa que é preocupante, francamente, é... imagine o melhor cenário possível. Imagine que nos deparamos com o design de uma IA superinteligente que não tem problemas de segurança. Temos o design perfeito pela primeira vez. É como se tivéssemos recebido um oráculo que se comporta como deve. Essa máquina seria o perfeito dispositivo de economia de trabalho. Pode desenvolver a máquina que pode construir a máquina que pode executar qualquer trabalho físico, movido à luz solar, por mais ou menos o custo da matéria-prima.

Estamos falando do fim do esforço físico humano. Também estamos falando do fim da maior parte do trabalho intelectual.

O que símios como nós fariam nessas circunstâncias? Estaríamos livres para jogar Frisbee e massagear uns aos outros. Adicione LSD e escolhas de roupas questionáveis, e o mundo inteiro seria como o Festival Burning Man.

(Risadas)

Pode até parecer muito bom, mas se pergunte: o que aconteceria sob a atual economia e ordem política? Possivelmente, iríamos presenciar um nível de desigualdade de riqueza e desemprego nunca visto antes.

Sem a vontade de colocar imediatamente essa riqueza a serviço da humanidade, alguns poucos trilionários apareceriam nas capas das revistas de negócios, enquanto o resto do mundo passaria fome.

E o que os russos e os chineses fariam se soubessem que uma empresa no Vale do Silício estivesse pronta para implantar uma IA superinteligente? 

Essa máquina seria capaz de travar uma guerra, terrestre ou cibernética, com poder sem precedente. É um cenário onde o vencedor leva tudo.

Estar seis meses à frente da competição é como estar 500 mil anos adiantado, no mínimo. 

Parece que mesmo os meros rumores desse tipo de avanço poderiam causar fúria em nossa espécie.

Uma das coisas mais assustadoras, na minha opinião, nesse momento, são os tipos de coisas que os pesquisadores de IA dizem quando querem nos tranquilizar. E eles nos dizem para não nos preocuparmos com o tempo. Esse é um caminho longo, se você não sabe. Provavelmente está a 50, 100 anos de distância. Um pesquisador disse:

Se preocupar com a segurança de IA é como se preocupar com a superpopulação em Marte.

Essa é a versão do Vale do Silício para que você "não esquente sua cabecinha linda."

(Risadas)

Ninguém parece perceber que fazer referência ao tempo é um argumento inválido. Se inteligência é questão de processamento de informação, e se continuarmos a aperfeiçoar nossas máquinas, produziremos alguma forma de superinteligência. E não temos ideia de quanto tempo vai demorar para fazer isso de forma segura. Vou dizer novamente.

Não temos ideia de quanto tempo vai levar para fazer isso de forma segura.

E se você não percebeu, 50 anos não são mais o que costumavam ser. Isso são 50 anos em meses. Esta é a idade que tem o iPhone. Este é o tempo que Os Simpsons está na televisão. Cinquenta anos não é muito tempo para conhecer um dos maiores desafios que nossa espécie enfrentará.

Novamente, parece que estamos falhando em uma reação emocional adequada a algo que, com certeza, está vindo.

O cientista de computação Stuart Russell possui uma bela analogia: imagine que recebamos uma mensagem de uma civilização alienígena, que diz:

Pessoas da Terra, chegaremos ao seu planeta em 50 anos. Se preparem.

E agora estaríamos contando os meses até a chegada da nave-mãe?

Nós teríamos mais urgência do que temos agora. Outro motivo dito para não nos preocuparmos é que essas máquinas não podem evitar compartilhar nossos valores porque eles serão literalmente extensões de nós mesmos. Eles serão transplantados em nossos cérebros e nos tornaremos parte de seus sistemas límbicos. Reserve um momento para considerar que o único caminho prudente e seguro recomendado, é implantar essa tecnologia diretamente em nossos cérebros.

Esse pode ser o caminho mais seguro e prudente, mas, normalmente, os problemas de segurança da tecnologia precisam ser resolvidos antes de ser implantado dentro da sua cabeça.

(Risadas)

O maior problema é que construir uma IA superinteligente por si só parece ser mais fácil do que construir IA superinteligente e ter a neurociência completa que nos permita integrar perfeitamente nossas mentes. E dado que empresas e governos que estão trabalhando nisso se encontram numa corrida uns contra os outros, dado que vencer essa corrida é conquistar o mundo, supondo que você não o destrua no momento seguinte, então parece que o que for mais fácil de se fazer será feito primeiro. Infelizmente, eu não tenho a solução para esse problema, a não ser recomendar que outros pensem sobre isso.

Acho que precisamos de algo como o Projeto Manhattan na área de inteligência artificial. Não para construir uma IA, porque vamos inevitavelmente fazer isso, mas para entender como evitar uma corrida armamentista e construir uma IA que esteja alinhada aos nossos interesses.

Quando se fala de uma IA superinteligente que pode modificar a si mesma, parece que temos apenas uma chance para acertar as condições primárias e, mesmo assim, teremos que assimilar as consequências econômicas e políticas desse acerto.

Mas no momento em que admitirmos que o processamento de informação é a fonte da inteligência, que um sistema computacional apropriado é a base do que é a inteligência, e admitirmos que continuaremos a aprimorar esse sistema, e que o horizonte do conhecimento provavelmente ultrapassa tudo o que sabemos agora, então teremos que admitir que estamos no processo de criação de algum tipo de deus.

Agora seria um ótimo momento de ter a certeza de que é um deus com o qual podemos viver.

Muito obrigado. (Aplausos)


De nossa parte, continuamos aguardando a resposta de Taiwan.


Clique     Retroceder    Avançar   Espaço /    /   F



Fonte: TED
[Visto no Brasil Acadêmico]

Comentários

BLOGGER

$hide=/p/valores.html

[/fa fa-cloud/ Nuvem de categorias]$hide=mobile

Nome

#existepesquisanobrasil A divulgar Abelha Acessibilidade acessório Acidente Acidentes Acústica Adágios Adestramento Administração adulto Aerodinâmica Aeronáutica África Agência Brasil Agência Fiocruz Agência Porvir Agência Senado Agência USP Agricultura Agropecuária AIDS Alcoolismo Alemanha Alerta Algoritmo Alimento Alzheimer Amazon Amazônia América Latina Análise Combinatória Anatomia Android Animação Animais de Estimação Animal Antropologia Apicultura App Apple Apresentação aquário Argentina Arqueologia arquitetura Arte Astrobiologia Astrofísica Astronomia Ativismo Áudio Audio FX Áustria Autismo Auto-ajuda Automobilismo Automóvel aventura Aviação Aviônica Bahia Balonismo Banco de Dados Beber e Dirigir biblioteconomia Bicicleta Biografia Biologia Biologia Marinha bioquímica Biotecnologia Bitcoin Blog Blogger Boato Bomba borderô de desconto Botânica BRASA BRASA Leads Brasil Brasília BRIC Browser Bugs CAD Calor Câmera lenta Campanha cardiologia Carnaval carreira Cartografia Casemods Caso Isabella Nardoni Caso Snowden Ceará Celebridades celular Células-Tronco Cérebro Charge China Cibercultura Ciclovia Cidadania Ciência Cinema Clip Cliparts Cloud computing Coaching Comédia competência Complemento de dois Comportamento Computação Computação em grade Computação forense Computação Gráfica Computação Móvel Comunicação e Marketing Concurso Concurso Cultural de Natal Concursos Público Concursos Públicos Conectômica Conferência Congresso em Foco Conspiração Consumidor Consumismo contabilidade Contos Copa do Mundo Cordel Coreia do Norte Coreia do Sul Corpo Coruja cosmética Cosmologia Crash Course Criança Criatividade Crime Crime Digital crise crise econômica crônica crônicas Cronologia CSS Cuba Culinária Cultura Curiosidades custos fixo custos variáveis Dança DAO Darwin Davos Debate Decoração demência Demografia Denúncia Dermatologia Desastre Natural Descoberta desconto duplicatas Desenho instrucional Desenvolvimento de jogos Design Design Instrucional Destaque Dia das Mães Dia do professor diabetes Dicas Didática Dieta diplomacia Direito Direito Eleitoral Direito Internacional Direito Tributário Direitos Humanos Disney Distrito Federal Documentário Doutorado download Drogas Drone Dubai e-Book e-governo EBC Ecologia Economia Editoração Eletrônica Educação Educação a Distância Educação Corporativa educação física Educação sexual Efeitos Sonoros Egiptologia Eleições Eleições 2014 Eleições 2018 Eletricidade eletrônica Embrapa empreendedorismo enciclopédia endocrinologia Enem Energia Energia Alternativa Energia Nuclear Engenharia Engenharia Agrícola Engenharia Civil Engenharia de materiais Engenharia de Software Engenharia Genética Engenharia Mecânica Enretenimento Ensino a Distância Ensino Superior Entomologia Entretenimento Entrevista Entrevista. Epidemiologia Epistemologia Equador Escândalo Escritório Espaço Espanha Espanhol Espeleologia Espetáculo Espionagem Esporte Estação Estágio Estatísticas estrutura de dados Ética EUA Europa Evento Evolução Exercícios físicos Exobiologia experiência fábulas Facebook Farmacologia Favo Feminismo Férias Ferramentas FIFA Filantropia Filmes Filosofia Finlândia Firefox Física Física Quântica Fisiologia Fisioterapia Flagrante Flamengo Folclore Fome Fonética Fonoaudiologia Fotografia Fotos em 360 graus França Francês frases Fraude Freeware Futebol Futurologia gadget Gafe Gastroenterologia Gastronomia Geek Genética Geofísica Geografia Geologia Geometria geopolítica Gerenciamento do Tempo Geriatria Gestão de Competências Gestão de Configuração Gestão de Pessoas Gestão de Projetos Gestão do conhecimento Ginecologia Glass Google Governo GPS Gradiente gramática Gravidez Grécia Grécia Antiga Guerra Guerra Civil Guinness H2 Haiti hardware História HIV Hololens homenagem Horologia HPV HTML Humor Humor Negro IBGE IBM ICIJ Idioma IHC ilo ilusão ilusionismo Imagem 3D Imagens Imagine Cup Império Romano Imprensa Impressora 3D Imunologia Incêndio Inclusão digital Índia Índios Infectologia Infográfico Informática Inglaterra Inglês Inovação Inspiração Inteligência Artificial intercâmbio Interface Interfaces Hápticas Internacional Internacionalização da Amazônia Internet Internet das Coisas Inundação Invenção Inventos iPad IPEA iphone Irã Iraque Israel Japão Java Java. jogos Jogos educativos Jogos Olímpicos Jornalismo Justiça Kinect Le Monde Diplomatique Brasil Le Monde Diplomatique Brasil Letras Lexicografia Liderança Life Hacking Linguística Literatura Livro Lógica Logística Loterias Lua Maçonaria Malásia Malvinas Malware Mapa Mário Sérgio Conti Marte Mastologia Matemática Matemática Financeira maternidade Mecânica Mecânica dos Fluidos Mecatrônica Medicina Medicina Esportiva Medicina Veterinária Meio Ambiente Mel melanoma Memória memorização Mente Mercado de Trabalho mercosul Mestrado meteorologia Metodologia Científica México Microbiologia Microsoft Mídia Social Militar Mineralogia Mistério MIT Mitologia Mobilidade Mobilidade Urbana MonaVie Montanhismo Moodle Mossad Motivação Movimento Maker MSF Mudança Climática Mulher Multimídia museu Música MVC Nanotecnologia Nasa Natação Natal Natureza Negócios Netflix Neurociência Neurologia Nicolelis Nordeste Noruega notícias Novidades Novo Enem Números Nutrição Obama Obesidade Observatório da Imprensa Obstetrícia Oceanografia odontologia Offshore Leaks oftalmologia Olimpíadas oncologia ONU Opinião Óptica Oracle Oriente Médio Orkut Ornitologia ortografia Ortopedia Ótica Otorrinolaringologia Oxfam Pacifismo Paginadores paleontologia Paquistão Pará Paraguai parkinson Passeio virtual Patinação Pedagogia Pediatria Pensamentos performance Periférico Pesca Pesquisa Petição Petrobrás Petróleo Photoshop Pirataria planilha de custo Playstation 3 Plebiscito Pneumologia Podcast Poesia Poítica Politica Política Portugal português Pós-graduação prazo médio Pré-sal Prêmio Nobel primatologia Primeira Guerra Mundial privacidade produtividade professor Hamilton Alves Programa Gratuito Programação Projeção Mapeada Projeto Truco Promoção Propaganda Psicanálise Psicologia Psicologia Animal Psiquiatria Pública publicidade Publieditorial Quadrinhos Quads Qualidade Qualidade de Vida química realidade aumentada realidade diminuída Realidade Misturada Realidade Virtual Reconhecimento de imagem Reconhecimento de voz Recorde Redação redes Referência Referendo Reforma Política Reino Unido Relacionamento Relações Internacionais Religião Responsabilidade Social Retrospectiva Review Rio 2016 Rio de Janeiro Rio Grande do Norte Rio Grande do Sul robótica Roda Viva Roma roteiro RSA Rússia Samsung Sanitarismo Santa Catarina São Paulo Saúde Savant Segunda Guerra Mundial Segurança Segurança da Informação Seleção Natural Séries serviço Serviço Online Sexologia sexualidade Show SIGGRAPH Simulação Singularity University Síria Sismologia Sistema operacional Sistemas de Numeração Sites de Busca Sociedade Sociologia Software Software Livre Sol Sono Sony SOPA Star Wars Suécia Sugestão de presentes Sun supercomputadores Sustentabilidade Tabagismo Taiwan Talento precoce taxa de juros efetiva taxa de juros nominal Taxas Equivalentes Taxidermia Teatro Técnicas de Estudo Tecnologia Tecnologia da Informação TED TED-Ed TedMed TEDx TEDx Rio+20 TEDxAmazônia TEDxAsaSul Telefonia Televisão Temas Tempo Tendências Teologia teoria das supercordas Terremoto Terrorismo Testes Tipologia Tomada de Decisão tradução Trânsito transporte tributo Trigonometria Tubarão Tunísia Turismo Tutorial Twitter Uber UFC UFG ufologia UFRJ Unicamp UNIFESP universidade Universidade Corporativa Universidade de Cambridge Universidade de Michigan Urbanismo Urologia USP Utilidade Pública Utilitário Vale Vaticano Veículo Autônomo Ventriloquismo Verão vestibular Vestimenta Vida Digital Vida Moderna Vida Selvagem Videogame Vídeos Vídeos 360 Violência Vírus Visão Computacional Vôlei Vulcanologia Watergate Política WCIT 2016 WCIT 2017 Web 2.0 Web Application Web Semântica Web Seminar webdesign Webinar widget WikiLeaks Wikipedia Windows Xadrez YouTube Zika Zoologia
false
ltr
item
Brasil Acadêmico: É possível construir inteligência artificial sem perder o controle?
É possível construir inteligência artificial sem perder o controle?
https://4.bp.blogspot.com/-EESm3W3xqPY/WAL967VuKnI/AAAAAAAAoD8/fknxC2lYG145ECtjHyQUjXGxxUW2OBTuACLcB/s320/sam.jpg
https://4.bp.blogspot.com/-EESm3W3xqPY/WAL967VuKnI/AAAAAAAAoD8/fknxC2lYG145ECtjHyQUjXGxxUW2OBTuACLcB/s72-c/sam.jpg
Brasil Acadêmico
http://blog.brasilacademico.com/2016/10/e-possivel-construir-inteligencia.html
http://blog.brasilacademico.com/
http://blog.brasilacademico.com/
http://blog.brasilacademico.com/2016/10/e-possivel-construir-inteligencia.html
true
3049085869098582068
UTF-8
Nenhuma artigo encontrado. VER TODOS Leia mais Responder Cancelar resposta Apagar Por Início PÁGINAS POSTS Ver Todos Indicado para você CATEGORIA ARQUIVO BUSCA TODOS ARTIGOS Nenhum artigo corresponde ao critério procurado Ir para Início Domingo Segunda Terça Quarta Quinta Sexta Sábado Dom Seg Ter Qua Qui Sex Sáb Janeiro Fevereiro Março Abril Maio Junho Julho Agosto Setembro Outubro Novembro Dezembro Jan Fev Mar Abr Maio Jun Jul Ago Set Out Nov Dez agora 1 minuto atrás $$1$$ minutes ago 1 hora atrás $$1$$ hours ago Ontem $$1$$ days ago $$1$$ weeks ago mais de 5 semanas atrás Seguidores Seguir Este conteúdo é PREMIUM Por favor, compartilhe para liberar Copiar todo o código Selecionar todo o código Todos os códigos foram copiados para o clipboard Can not copy the codes / texts, please press [CTRL]+[C] (or CMD+C with Mac) to copy