FlatOut!
Image default
Pensatas Zero a 300

O “dilema do bonde” dos carros autônomos: quais vidas devem ser salvas?

Há alguns anos teve início uma espécie de “cruzada” contra o automóvel – a noção de que os carros trazem muito mais problemas do que benefícios à sociedade e que, em um mundo ideal, todas as pessoas andariam a pé, de bike ou transporte coletivo. Já existem projetos de lei em várias partes do mundo que visam banir carros com motor a combustão interna dentro de 20 a 40 anos – e nós até já demos nossa opinião a respeito algumas vezes, comparando os carros como conhecemos hoje a discos de vinil.

Ainda não é assinante do FlatOut? Considere fazê-lo: além de nos ajudar a manter o site e o nosso canal funcionando, você terá acesso a uma série de matérias exclusivas para assinantes – como conteúdos técnicoshistórias de carros e pilotosavaliações e muito mais!

 

FLATOUTER

Membro especial, com todos os benefícios: acesso livre a todo o conteúdo do FlatOut, participação no grupo secreto no Facebook (fique próximo de nossa equipe!), descontos em nossa loja, oficinas e lojas parceiras!

A partir de

R$20,00 / mês

ASSINANTE

Plano feito na medida para quem quer acessar livremente todo o conteúdo do FlatOut, incluindo vídeos exclusivos para assinantes e FlatOuters.*

De R$14,90

por R$9,90 / mês

*Não há convite para participar do grupo secreto do FlatOut nem há descontos em nossa loja ou em parceiros.

O desenvolvimento de veículos híbridos e elétricos é uma das formas que a indústria automotiva encontrou de tornar o carro mais “aceitável” aos olhos da sociedade moderna – a princípio eles são mais econômicos e limpos que os automóveis tradicionais, pois não emitem poluentes quando em funcionamento.

Lado a lado, praticamente, vêm os carros autônomos que, além de poupar os seres humanos do fardo que é dirigir um carro, são capazes de operar de forma mais segura e eficiente. Com o sistema autônomo de condução integrado a um conjunto motriz inteligente, o computador central de um carro poderia determinar os melhores parâmetros para rodar da forma mais econômica, segura e eficiente possível – tudo com uma precisão infinitamente superior ao que conseguem os falhos, imperfeitos e voláteis seres humanos. Nós só teríamos a agradecer, no fim das contas.

2017_renault_symbioz_demo_car_vr

Quer dizer… será mesmo?

Vivemos em uma sociedade que em breve terá oito bilhões de indivíduos, cada um deles com seus valores morais, suas vidas e suas histórias. Uma sociedade com milhares de culturas diferentes, divididas em centenas de países. Cada um destes países tem suas próprias leis e sua própria infraestrutura. E ainda assim, em um meio extremamente diverso como o planeta Terra, existem certos preceitos e conceitos que são universais – como a ética, e a igual importância que cada uma destas oito bilhões de vidas tem de acordo com a ética.

Outra característica compartilhada pela sociedade inteira, de forma geral, é justamente a busca por soluções a dilemas éticos. E assim, voltamos a falar dos carros autônomos.

 

O dilema do bonde

trolley+problem1

Você provavelmente conhece o dilema do bonde, que até já foi transformado em meme na Internet. Ele foi criado em 1967 pela filósofa Philippa Foot, e a premissa é a seguinte:

Você vê um bonde desgovernado nos trilhos indo em direção a cinco pessoas amarradas nos trilhos. Ao seu lado está uma alavanca que pode alterar a trajetória do bonde. Se você puxar a alavanca, o bonde mudará sua rota para um trilho secundário e desviará das cinco pessoas, salvando suas vidas. No entanto, no outro trilho há outra pessoa amarrada. As opções, portanto, são duas:

  1. Não fazer nada e assim, o bonde atropelará e matará as cinco pessoas
  2. Puxar a alavanca, mudando a rota do bonde, que matará apenas uma pessoa

O que você faz? Qual é a opção mais ética?

É provável que você tenha pensado, em um primeiro momento, que puxar a alavanca é a opção mais ética: cinco vidas seriam poupadas ao custo de uma.

Mas se esta fosse uma escolha fácil, não seria um dilema. Pense bem: ao deixar o bonde atropelar as cinco pessoas por inação, você não teria envolvimento direto com as fatalidades. Contudo, a partir do momento em que você tomasse a decisão de puxar a alavanca, estaria se tornando o responsável direto pela morte de uma única pessoa.

Parece uma questão mórbida, e é mesmo, mas é da natureza humana o interesse por tais dilemas. As pessoas sempre gostaram de dilemas — e um dilema que confronta valores morais fica ainda mais intrigante. Além disso, hipóteses como esta acabam ajudando pesquisadores e cientistas a entender não apenas a mente em escala individual, mas também a sociedade como um todo.

 

“A máquina moral”

Foi por esta razão que, em 2014, os pesquisadores do Instituto de Tecnologia de Massachusetts, o MIT (Massachusetts Institute of Technology) desenvolveu uma espécie de “jogo” com uma variação do dilema do bonde, usando os carros autônomos como objeto. O chamado Moral Machine propõe uma situação semelhante: um carro autônomo vem por uma rua em alta velocidade, e está sem freios. À sua frente está uma faixa de pedestres, e apenas duas opções: seguir em frente ou desviar para a outra faixa.

Cada uma das opções resultará em uma consequência diferente, com diversas combinações: o carro pode acertar um bebê, uma senhora idosa, um executivo ou uma atleta, por exemplo. Pode atropelar um grupo de pessoas, ou apenas uma. Pode atingir um muro, matando seus ocupantes e poupando o(s) pedestre(s).

Prova de que somos naturalmente atraídos por este tipo de dilema foi o sucesso do Moral Machine: em quatro anos, milhões de pessoas espalhadas por 233 países registraram mais de 40 milhões de decisões baseadas em diversos cenários.

jp

Os pesquisadores do MIT não imaginavam que o Moral Machine seria recebido de forma tão entusiasmada, mas perceberam que tinham nas mãos uma valiosa fonte de dados que ajudaria a entender melhor a ética e a moral da população como um todo. Eles quantificaram todos os dados e constataram que os padrões das decisões variavam de acordo com a localidade, e não apenas com o cenário apresentado, de forma relacionada com a economia e a cultura de cada país. Os resultados e conclusões foram publicados em um artigo na revista Nature no último dia 24 de outubro.

Por exemplo: em países com cultura mais coletivista, como o Japão ou a China, constatou-se que a tendência era salvar as vidas das pessoas de idade mais avançada – talvez porque, nestes países, é difundida a noção de que idosos têm mais conhecimento e, por isso, são mais valiosos para a sociedade. Por outro lado, em países com cultura mais indivudualista, com os EUA ou a França, prioriza-se a quantidade de vidas salvas sobre a idade ou outras características individuais.

Ao mesmo tempo, em países com grande desigualdade social, a tendência entre salvar as vidas de pessoas com status elevado (como executivos) ou baixo (moradores de rua) divergia bastante entre a população. Da mesma forma, em países mais pobres houve mais tolerância com personagens que atravessavam fora da faixa. Também houve divergências nos resultados quando o dilema propunha a escolha entre salvar a vida de um médico ou de um ladrão, por exemplo.

Você ainda pode clicar aqui e fazer suas próprias escolhas, e é possível que gaste alguns minutos escolhendo entre diferentes cenários. Ao final, você verá uma tela com suas estatísticas – se você prefere salvar mais vidas, se salvaria idosos ou jovens, homens ou mulheres, mendigos ou executivos.

A ideia dos pesquisadores, de acordo com o artigo publicado na Nature, não é condenar as escolhas de cada indivíduo, e nem determinar qual é a melhor decisão a ser tomada pelo carro autônomo, e sim fornecer dados para auxiliar no seu desenvolvimento. Eles defendem que a opinião pública deve ser levada em consideração na hora de definir as leis para carros elétricos, mas que a última palavra deve ser das autoridades – e que estas devem se unir às fabricantes na hora de criar os parâmetros de ação dos carros autônomos em situações de risco. Dificilmente haverá um padrão de “comportamento” universal para os veículos que se conduzem sozinhos diante de dilemas como este. Eles provavelmente se ajustarão de forma distinta para cada localidade, dependendo da legislação – esta sim, de forma ideal, moldada de acordo com a ética de cada população. Da parte das fabricantes, seria possível, por exemplo, programar um carro para priorizar passageiros ou pedestres, dependendo do mercado.

 

Ducor, non duco

bicentennial-man_f

O escritor russo Isaac Asimov,  tido como um dos pais da ficção científica moderna, cunhou as “Três Leis da Robótica” para, de forma fictícia, lidar com os dilemas morais de um robô com inteligência artificial – e, acima de tudo, proteger a humanidade. São elas:

  1. um robô não pode ferir um humano ou, por inação, permitir que um humano seja ferido;
  2. os robôs devem obedecer às ordens dos humanos, a não ser que tais ordens entrem em conflito com a primeira lei;
  3. um robô deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores.

Carros autônomos não são robôs e (ao menos até agora), parece improvável que eles sejam capazes de se rebelar contra a humanidade e, digamos, causar acidentes de propósito. Contudo, o ponto de partida de muitas das histórias escritas por Isaac Asimov era justamente a exploração de uma brecha nas três leis da robótica. E se a morte de um ser humano puder evitar a morte de dezenas deles – neste caso, o que um robô deve fazer? O próprio conceito de um robô com autoconsciência, amplamente explorado na ficção científica, mostra que é natural a ideia de que um ser humano – ou emoções humanas – sejam capazes de intervir na ação (ou na inação) de uma máquina que, no fim das contas, age de acordo com o resultado de cálculos, algorítimos, leituras em tempo real e probabilidades.

Sendo, assim, o mínimo que a ciência pode fazer para contribuir com as pesquisas em relação aos carros autônomos é justamente explorar brechas.

autonomous_cars

Esta, a nosso ver, é uma das grandes barreiras para a total automação dos automóveis que é prevista para as próximas décadas. Acima de tudo, o estudo feito pelo MIT mostra que há certos dilemas éticos insolúveis – que, envolvendo o bem-estar coletivo e individual, necessitam de uma relação íntima, transparente e inseparável entre governos, fabricantes e a população – e uma longa discussão a respeito do que é ético e o que não é. Também seria preciso estabelecer alguns padrões universais por questões práticas. Por exemplo, quem seria o responsável por cada uma das mortes no trânsito causadas pela automação dos carros? A fabricante do veículo ou o governo? Quem arcaria com as despesas? Quais seriam as consequências? É necessário responder a estas perguntas de forma sensata – até porque já estão acontecendo óbitos por acidentes com veículos autônomos.

CtSMWuNVMAAGqWF.0

O dilema do bonde aplicado aos carros autônomos não prevê a possibilidade de um ser humano assumir o controle e tomar uma decisão, e que deverá assumir as consequências dela. E também não prevê as variáveis do mundo real – diferentemente de um bonde, por exemplo, o carro não está restrito à via, e pode se jogar em um canteiro para evitar uma tragédia maior, poupando as vidas de todos os potenciais envolvidos.

Por esta razão, também achamos que a automação total – colocar nas ruas um veículo que não possa sofrer intervenção humana em nenhuma situação, ou seja, sem volante e pedais – não deve acontecer. Não é má vontade com os carros autônomos. É apenas bom senso.

Matérias relacionadas

Turbo ou turbina? Quais as diferenças e quais os nomes corretos?

Leonardo Contesini

Isto é um Mitsubishi Lancer Evolution I GSR à venda, mas pode chamar de “unicórnio”

Dalmo Hernandes

Turbo e 380 cv: um Passat GTS Pointer preparado e muito íntegro à venda

Dalmo Hernandes