$hide=/p/valores.html

Quais decisões morais os carros autônomos devem tomar?

Indicar:

Seu carro autônomo deveria matar você, em vez de cinco pedestres? Nesta introdução sobre os dilemas sociais dos carros autônomos, Iyad Rahwa...

Seu carro autônomo deveria matar você, em vez de cinco pedestres? Nesta introdução sobre os dilemas sociais dos carros autônomos, Iyad Rahwan explora como a tecnologia desafiará nossa moralidade e explica o seu trabalho de obtenção de dados de pessoas comuns, sobre quais compromissos éticos estamos (e quais não estamos) dispostos a aceitar.

Hoje, vou falar sobre tecnologia e sociedade. O Departamento de Transportes estimou que, no ano passado, 35 mil pessoas morreram em acidentes de trânsito, somente nos EUA. No mundo todo, 1,2 milhão de pessoas morrem por ano em acidentes de trânsito. Se houvesse uma forma de eliminar 90% desses acidentes, você a apoiaria? Claro que sim. Isso é o que a tecnologia de carro autônomo promete realizar, eliminando a principal fonte de acidentes, o erro humano.



Agora, imagine-se em um carro sem motorista, no ano de 2030, relaxando e assistindo a este vídeo vintage do TEDxCambridge.

(Risos)

De repente, o carro tem uma falha mecânica e não consegue parar. Se o carro continuar, vai atropelar um monte de gente que está atravessando a rua, mas o carro pode desviar, atingindo um transeunte, matando-o, para salvar os pedestres. O que o carro deve fazer e quem deve decidir? E se, em vez disso, o carro pudesse desviar para uma parede, batendo e matando o passageiro, que é você, para salvar os pedestres? Este cenário é inspirado no problema do bonde, que foi concebido por filósofos há algumas décadas, para se refletir sobre ética.

A forma de pensar nesse problema é importante. Podemos, por exemplo, simplesmente não pensar nisso. Podemos dizer que esse cenário não é real, bastante improvável ou simplesmente tolo. Mas acho que essa crítica não procede, porque enfoca o problema de forma muito literal. Naturalmente, nenhum acidente vai se parecer com esse; nenhum acidente tem duas ou três opções, nas quais alguém acaba morto. Em vez disso, o carro vai fazer alguns cálculos, como a probabilidade de atingir um certo grupo de pessoas, se houver um desvio numa ou noutra direção, pode-se aumentar o risco aos passageiros ou a outros motoristas, versus atropelar os pedestres. Vai ser um cálculo mais complexo, mas ainda vai envolver compromissos, e compromissos frequentemente requerem ética.

Pode-se dizer: "Bem, não vamos nos preocupar com isso. Vamos aguardar até que a tecnologia esteja totalmente desenvolvida e 100% segura". Suponha que se possa eliminar 90% desses acidentes, ou mesmo 99% nos próximos 10 anos. E se para eliminar o último 1% dos acidentes precisássemos de mais 50 anos de pesquisa? Não deveríamos adotar a tecnologia? Serão 60 milhões de pessoas mortas em acidentes de carro, se mantivermos a taxa atual. Então a questão é: esperar por uma segurança total também é uma escolha, e, também, envolve compromissos.

As pessoas nas mídias sociais aparecem com todo tipo de desculpas para não pensar sobre isso. Uma pessoa sugeriu que o carro deveria simplesmente passar entre os pedestres

(Risos)

e o transeunte. Naturalmente, se for possível, é o que o carro deve fazer. Estamos interessados nos casos em que isso não é possível. E a minha favorita foi a sugestão de um blogueiro: que houvesse um botão de ejeção no carro, que você pressiona,

(Risos)

pouco antes da batida.

(Risos)

Se admitirmos que os carros terão que tomar decisões nas ruas, como resolveremos esses compromissos e como decidiremos? Talvez uma pesquisa para avaliar a posição da sociedade, porque, em última instância, as regulamentações e as leis são um reflexo dos valores da sociedade.

Então, fizemos o seguinte. Com meus colaboradores, Jean-François Bonnefon e Azim Shariff, fizemos uma pesquisa em que apresentamos às pessoas esses tipos de cenários. Oferecemos duas opções inspiradas por dois filósofos: Jeremy Bentham e Immanuel Kant. Bentham diz que o carro deveria seguir a ética prática: fazer aquilo que minimiza os danos totais, mesmo que isso mate um transeunte e mesmo que isso mate o passageiro. Immanuel Kant diz que o carro deve seguir princípios morais, tais como: "Não matarás". Você não deve fazer nada que prejudique especificamente um ser humano e deve deixar o carro seguir seu curso, mesmo que isso prejudique mais pessoas.

O que você acha? Bentham ou Kant? Veja os resultados. A maioria concordou com Bentham. Parece que as pessoas querem que os carros sejam práticos, minimizando os danos totais e é o que todos deveríamos fazer. Problema resolvido. Mas há um pequeno senão. Quando perguntamos às pessoas se comprariam esses carros, disseram: "Absolutamente não".

(Risos)

Elas gostariam de comprar carros que os protejam totalmente, mas querem que as demais comprem os carros que minimizem os danos.

(Risos)

Já vimos esse problema antes. Chama-se de dilema social. E para entender esse dilema, temos que voltar um pouco na história. Nos anos 1800, o economista inglês William Forster Lloyd publicou um folheto que descrevia o seguinte cenário: existia um grupo de agricultores ingleses, que compartilhavam um terreno para suas ovelhas pastarem. Se cada fazendeiro levasse um certo número de ovelhas, digamos três ovelhas, a terra seria revitalizada, os agricultores e as ovelhas ficariam felizes, e tudo ficaria bem. Agora, se um agricultor trouxesse uma ovelha a mais, ele teria uma pequena vantagem, e ninguém mais seria prejudicado. Mas, se cada fazendeiro tomasse essa decisão racional, a terra seria exaurida e empobrecida em detrimento de todos os agricultores e, naturalmente, das ovelhas.

Vemos este problema em muitos lugares: na dificuldade de gerenciar a pesca excessiva, ou na redução das emissões de carbono para mitigar as mudanças climáticas. Quando se trata da regulamentação de carros autônomos, a terra comum agora é basicamente a segurança pública, que é o bem comum, os agricultores são os passageiros ou os donos de carros que decidiram usar aquele tipo de veículo. Fazendo uma escolha racional de priorizar sua própria segurança, pode-se estar, coletivamente, depreciando o bem comum, que é reduzir os danos totais. Isso é tradicionalmente chamado de tragédia compartilhada, mas acredito que, no caso dos carros autônomos, o problema pode ser um pouco mais capcioso, porque não existe necessariamente um ser humano tomando essas decisões. Os fabricantes de automóveis podem simplesmente programar os carros que irão maximizar a segurança de seus clientes, e esses carros podem aprender por conta própria e isso resulta num risco ligeiramente maior para os pedestres. Na metáfora das ovelhas, é como se existisse uma ovelha elétrica tomando decisões próprias.

(Risos)

Elas poderiam ir pastar, sem o agricultor saber.

Isso é o que se chama de tragédia dos algorítmicos compartilhados, e oferece novos tipos de desafios. Normalmente, tradicionalmente, resolvemos esses tipos de dilemas sociais com a regulamentação, em que os governos ou as próprias comunidades, decidem coletivamente o que se deseja e quais restrições sobre comportamentos individuais são necessárias. Então, com o acompanhamento e a aplicação, pode-se garantir a preservação do bem público. Então, por que não nós, como regulamentadores, exigimos que todos os carros minimizem os prejuízos? Afinal, isso é o que as pessoas querem. E, o mais importante, posso ter certeza que, como indivíduo, se eu comprar um carro que possa me prejudicar muito raramente, não seria o único fazendo isso, enquanto as outras pessoas teriam proteção incondicional.

Na pesquisa, perguntamos se as pessoas apoiariam a regulamentação e este é o resultado. Em primeiro lugar, elas disseram não à regulamentação; e em segundo, disseram: "Se houver uma regulamentação dos carros para fazer isso e minimizar danos totais, não comprarei esses carros". Ironicamente, regulamentando-se os carros para minimizarem os danos, pode-se, de fato, causar mais danos porque as pessoas podem não optar pela tecnologia mais segura, mesmo se for mais seguro que motoristas humanos.

Não tenho uma resposta definitiva para este enigma, mas acho que, como início, precisamos de uma resposta da sociedade, e decidir quais são os compromissos mais adequados e para encontrar formas de impor esses compromissos.

Como ponto de partida, meus alunos brilhantes, Edmond Awad e Sohan Dsouza, criaram o site chamado Moral Machine, que produz situações aleatórias, ou seja, vários dilemas aleatórios em sequência, nos quais se deve escolher que decisão o carro deve tomar numa certa situação. Variamos as idades e até mesmo os tipos das diferentes vítimas. Até agora, obtivemos mais de 5 milhões de respostas, de mais de um milhão de pessoas no mundo todo, a partir do site. Isso está nos ajudando a formar um quadro inicial de como as pessoas encaram os compromissos e com o que elas se importam, mesmo em outras culturas. O mais importante ao fazer este exercício, é ajudar as pessoas a reconhecer a dificuldade de se fazerem as escolhas, que os legisladores terão de enfrentar com essas alternativas impossíveis. Talvez isso ajude a sociedade a entender os tipos de compromissos que existirão na regulamentação.

Fiquei muito feliz ao ouvir que o primeiro conjunto de regulamentos, anunciado pelo Departamento de Transportes, na semana passada, tem uma lista de 15 pontos que todas as montadoras devem fornecer, e o número 14 é uma consideração ética, de como se vai lidar com isso. Temos pessoas refletindo sobre suas próprias decisões, porque se mostrou a elas um resumo de suas próprias escolhas. Vamos ver um exemplo, e já aviso que este não é um exemplo de um usuário típico. Este é o personagem mais sacrificado e mais salvo para essa pessoa.

(Risos) [Resultados] [Personagem mais salvo] [Personagem mais morto]

Alguns podem concordar com ele, ou com ela, não sabemos. Essa pessoa também parece preferir ligeiramente passageiros do que pedestres em suas escolhas e fica muito feliz em punir pedestres imprudentes.

(Risos)

Vamos terminar aqui. Nós começamos com uma pergunta, vamos chamá-la de dilema ético, sobre o que os carros deveriam fazer num cenário específico: desviar ou não? Então, percebe-se que o problema é diferente. É o problema de como conseguir que a sociedade concorde e respeite os compromissos em que se sentem confortáveis. É um dilema social.

Na década de 1940, Isaac Asimov escreveu suas famosas leis da robótica, as três leis da robótica: um robô não pode ferir um ser humano, um robô não pode desobedecer um ser humano, e um robô não pode se prejudicar, nesta ordem de importância. Depois de 40 anos e depois de tantas histórias levando essas leis ao limite, Asimov criou a lei zero, que tem prioridade acima de tudo, aquela em que um robô não pode fazer mal à humanidade. Não sei o que isso significa no contexto dos carros autônomos, ou em qualquer situação específica, e não sei como podemos implementar isso, mas acredito que, ao reconhecer que a regulamentação não é apenas um problema tecnológico, mas também um problema de cooperação social, espero que possamos começar a fazer as perguntas certas.

Obrigado.



Já fizemos aqui enquetes com uma pequena amostra de internautas sobre o que o público escolheria se fossem instado a opinar e decidir sobre esses dilemas éticos.

Fonte: TED
[Visto no Brasil Acadêmico]

Comentários

BLOGGER

$hide=/p/valores.html

[/fa fa-cloud/ Nuvem de categorias]$hide=mobile

Nome

A divulgar Abelha Acessibilidade acessório Acidente Acidentes Acústica Adágios Adestramento Administração adulto Aerodinâmica Aeronáutica África Agência Brasil Agência Fiocruz Agência Porvir Agência Senado Agência USP Agricultura Agropecuária AIDS Alcoolismo Alemanha Alerta Algoritmo Alimento Alzheimer Amazon Amazônia América Latina Análise Combinatória Anatomia Android Animação Animais de Estimação Animal Antropologia Apicultura App Apple Apresentação aquário Argentina Arqueologia arquitetura Arte Astrobiologia Astrofísica Astronomia Ativismo Áudio Audio FX Áustria Autismo Auto-ajuda Automobilismo Automóvel aventura Aviação Aviônica Bahia Balonismo Banco de Dados Beber e Dirigir biblioteconomia Bicicleta Biografia Biologia Biologia Marinha bioquímica Biotecnologia Bitcoin Blog Blogger Boato Bomba borderô de desconto Botânica BRASA Leads Brasil Brasília BRIC Browser Bugs CAD Calor Câmera lenta Campanha cardiologia Carnaval carreira Cartografia Casemods Caso Isabella Nardoni Caso Snowden Ceará Celebridades celular Células-Tronco Cérebro Charge China Cibercultura Ciclovia Cidadania Ciência Cinema Clip Cliparts Cloud computing Coaching Comédia competência Complemento de dois Comportamento Computação Computação em grade Computação forense Computação Gráfica Computação Móvel Comunicação e Marketing Concurso Concurso Cultural de Natal Concursos Público Concursos Públicos Conectômica Conferência Congresso em Foco Conspiração Consumidor Consumismo contabilidade Contos Copa do Mundo Cordel Coreia do Norte Coreia do Sul Corpo Coruja cosmética Cosmologia Crash Course Criança Criatividade Crime Crime Digital crise crise econômica crônica crônicas Cronologia CSS Cuba Culinária Cultura Curiosidades custos fixo custos variáveis Dança DAO Darwin Davos Debate Decoração demência Demografia Denúncia Dermatologia Desastre Natural Descoberta desconto duplicatas Desenho instrucional Desenvolvimento de jogos Design Design Instrucional Destaque Dia das Mães Dia do professor diabetes Dicas Didática Dieta diplomacia Direito Direito Eleitoral Direito Internacional Direito Tributário Direitos Humanos Disney Distrito Federal Documentário Doutorado download Drogas Drone Dubai e-Book e-governo EBC Ecologia Economia Editoração Eletrônica Educação Educação a Distância Educação Corporativa educação física Educação sexual Efeitos Sonoros Egiptologia Eleições Eleições 2014 Eleições 2018 Eletricidade eletrônica Embrapa empreendedorismo enciclopédia endocrinologia Enem Energia Energia Alternativa Energia Nuclear Engenharia Engenharia Agrícola Engenharia Civil Engenharia de materiais Engenharia de Software Engenharia Genética Engenharia Mecânica Enretenimento Ensino a Distância Ensino Superior Entomologia Entretenimento Entrevista Entrevista. Epidemiologia Epistemologia Equador Escândalo Escritório Espaço Espanha Espanhol Espeleologia Espetáculo Espionagem Esporte Estação Estágio Estatísticas estrutura de dados Ética EUA Europa Evento Evolução Exercícios físicos Exobiologia experiência fábulas Facebook Farmacologia Favo Feminismo Férias Ferramentas FIFA Filantropia Filmes Filosofia Finlândia Firefox Física Física Quântica Fisiologia Fisioterapia Flagrante Flamengo Folclore Fome Fonética Fonoaudiologia Fotografia Fotos em 360 graus França Francês frases Fraude Freeware Futebol Futurologia gadget Gafe Gastroenterologia Gastronomia Geek Genética Geofísica Geografia Geologia Geometria geopolítica Gerenciamento do Tempo Geriatria Gestão de Competências Gestão de Configuração Gestão de Pessoas Gestão de Projetos Gestão do conhecimento Ginecologia Glass Google Governo GPS Gradiente gramática Gravidez Grécia Grécia Antiga Guerra Guerra Civil Guinness H2 Haiti hardware História HIV Hololens homenagem Horologia HPV HTML Humor Humor Negro IBGE IBM ICIJ Idioma IHC ilo ilusão ilusionismo Imagem 3D Imagens Imagine Cup Império Romano Imprensa Impressora 3D Imunologia Incêndio Inclusão digital Índia Índios Infectologia Infográfico Informática Inglaterra Inglês Inovação Inspiração Inteligência Artificial intercâmbio Interface Interfaces Hápticas Internacional Internacionalização da Amazônia Internet Internet das Coisas Inundação Invenção Inventos iPad IPEA iphone Irã Iraque Israel Japão Java Java. jogos Jogos educativos Jogos Olímpicos Jornalismo Justiça Kinect Le Monde Diplomatique Brasil Le Monde Diplomatique Brasil Letras Lexicografia Liderança Life Hacking Linguística Literatura Livro Lógica Logística Loterias Lua Maçonaria Malásia Malvinas Malware Mapa Mário Sérgio Conti Marte Mastologia Matemática Matemática Financeira maternidade Mecânica Mecânica dos Fluidos Mecatrônica Medicina Medicina Esportiva Medicina Veterinária Meio Ambiente Mel melanoma Memória memorização Mente Mercado de Trabalho mercosul Mestrado meteorologia Metodologia Científica México Microbiologia Microsoft Mídia Social Militar Mineralogia Mistério MIT Mitologia Mobilidade Mobilidade Urbana MonaVie Montanhismo Moodle Mossad Motivação Movimento Maker MSF Mudança Climática Mulher Multimídia museu Música MVC Nanotecnologia Nasa Natação Natal Natureza Negócios Netflix Neurociência Neurologia Nicolelis Nordeste Noruega notícias Novidades Novo Enem Números Nutrição Obama Obesidade Observatório da Imprensa Obstetrícia Oceanografia odontologia Offshore Leaks oftalmologia Olimpíadas oncologia ONU Opinião Óptica Oracle Oriente Médio Orkut Ornitologia ortografia Ortopedia Ótica Otorrinolaringologia Oxfam Pacifismo Paginadores paleontologia Paquistão Pará Paraguai parkinson Passeio virtual Patinação Pedagogia Pediatria Pensamentos performance Periférico Pesca Pesquisa Petição Petrobrás Petróleo Photoshop Pirataria planilha de custo Playstation 3 Plebiscito Pneumologia Podcast Poesia Poítica Politica Política Portugal português Pós-graduação prazo médio Pré-sal Prêmio Nobel primatologia Primeira Guerra Mundial privacidade produtividade professor Hamilton Alves Programa Gratuito Programação Projeção Mapeada Projeto Truco Promoção Propaganda Psicanálise Psicologia Psicologia Animal Psiquiatria Pública publicidade Publieditorial Quadrinhos Quads Qualidade Qualidade de Vida química realidade aumentada realidade diminuída Realidade Misturada Realidade Virtual Reconhecimento de imagem Reconhecimento de voz Recorde Redação redes Referência Referendo Reforma Política Reino Unido Relacionamento Relações Internacionais Religião Responsabilidade Social Retrospectiva Review Rio 2016 Rio de Janeiro Rio Grande do Norte Rio Grande do Sul robótica Roda Viva Roma roteiro RSA Rússia Samsung Sanitarismo Santa Catarina São Paulo Saúde Savant Segunda Guerra Mundial Segurança Segurança da Informação Seleção Natural Séries serviço Serviço Online Sexologia sexualidade Show SIGGRAPH Simulação Singularity University Síria Sismologia Sistema operacional Sistemas de Numeração Sites de Busca Sociedade Sociologia Software Software Livre Sol Sono Sony SOPA Star Wars Suécia Sugestão de presentes Sun supercomputadores Sustentabilidade Tabagismo Taiwan Talento precoce taxa de juros efetiva taxa de juros nominal Taxas Equivalentes Taxidermia Teatro Técnicas de Estudo Tecnologia Tecnologia da Informação TED TED-Ed TedMed TEDx TEDx Rio+20 TEDxAmazônia TEDxAsaSul Telefonia Televisão Temas Tempo Tendências Teologia teoria das supercordas Terremoto Terrorismo Testes Tipologia Tomada de Decisão tradução Trânsito transporte tributo Trigonometria Tubarão Tunísia Turismo Tutorial Twitter Uber UFC UFG ufologia UFRJ Unicamp UNIFESP universidade Universidade Corporativa Universidade de Cambridge Universidade de Michigan Urbanismo Urologia USP Utilidade Pública Utilitário Vale Vaticano Veículo Autônomo Ventriloquismo Verão vestibular Vestimenta Vida Digital Vida Moderna Vida Selvagem Videogame Vídeos Vídeos 360 Violência Vírus Visão Computacional Vôlei Vulcanologia Watergate Política WCIT 2016 WCIT 2017 Web 2.0 Web Application Web Semântica Web Seminar webdesign Webinar widget WikiLeaks Wikipedia Windows Xadrez YouTube Zika Zoologia
false
ltr
item
Brasil Acadêmico: Quais decisões morais os carros autônomos devem tomar?
Quais decisões morais os carros autônomos devem tomar?
https://3.bp.blogspot.com/-AbIvwQfuq4w/Wap8CBG8ugI/AAAAAAAAtrE/LuuDFN1WJlsgpgycPG7WVFiseP_nt2i0wCLcBGAs/s320/carrosAutonomosTED.jpg
https://3.bp.blogspot.com/-AbIvwQfuq4w/Wap8CBG8ugI/AAAAAAAAtrE/LuuDFN1WJlsgpgycPG7WVFiseP_nt2i0wCLcBGAs/s72-c/carrosAutonomosTED.jpg
Brasil Acadêmico
http://blog.brasilacademico.com/2017/09/seu-carro-autonomo-deveria-matar-voce.html
http://blog.brasilacademico.com/
http://blog.brasilacademico.com/
http://blog.brasilacademico.com/2017/09/seu-carro-autonomo-deveria-matar-voce.html
true
3049085869098582068
UTF-8
Nenhuma artigo encontrado. VER TODOS Leia mais Responder Cancelar resposta Apagar Por Início PÁGINAS POSTS Ver Todos Indicado para você CATEGORIA ARQUIVO BUSCA TODOS ARTIGOS Nenhum artigo corresponde ao critério procurado Ir para Início Domingo Segunda Terça Quarta Quinta Sexta Sábado Dom Seg Ter Qua Qui Sex Sáb Janeiro Fevereiro Março Abril Maio Junho Julho Agosto Setembro Outubro Novembro Dezembro Jan Fev Mar Abr Maio Jun Jul Ago Set Out Nov Dez agora 1 minuto atrás $$1$$ minutes ago 1 hora atrás $$1$$ hours ago Ontem $$1$$ days ago $$1$$ weeks ago mais de 5 semanas atrás Seguidores Seguir Este conteúdo é PREMIUM Por favor, compartilhe para liberar Copiar todo o código Selecionar todo o código Todos os códigos foram copiados para o clipboard Can not copy the codes / texts, please press [CTRL]+[C] (or CMD+C with Mac) to copy