Pesquisadores da Universidade Técnica de Munique (TUM) desenvolveram um software de direção autônoma que distribui o risco na rua de maneira justa. O algoritmo contido no software é considerado o primeiro a incorporar as 20 recomendações éticas do grupo de especialistas da Comissão da UE, tomando decisões significativamente mais diferenciadas do que os algoritmos anteriores.
A operação de veículos automatizados deve ser significativamente mais segura, avaliando os vários graus de risco para pedestres e motoristas. O código está disponível para o público em geral como software de código aberto.
A realização técnica não é o único obstáculo a ser superado antes que os veículos autônomos possam circular nas ruas em larga escala. As questões éticas desempenham um papel importante no desenvolvimento dos algoritmos correspondentes: O software deve ser capaz de lidar com situações imprevisíveis e tomar as decisões necessárias em caso de acidente iminente.
Os pesquisadores da TUM já desenvolveram o primeiro algoritmo ético para distribuir de forma justa os níveis de risco, em vez de operar em um princípio ou/ou. Foram testados aproximadamente 2.000 cenários envolvendo situações críticas, distribuídos em diversos tipos de ruas e regiões como Europa, Estados Unidos e China. O trabalho de pesquisa publicado na revista Nature Machine Intelligence é o resultado conjunto de uma parceria entre a TUM Chair of Automotive Technology e a Chair of Business Ethics do TUM Institute for Ethics in Artificial Intelligence (IEAI).
Maximilian Geisslinger, um cientista da TUM Chair of Automotive Technology, explica a abordagem: “Até agora, os veículos autônomos sempre se depararam com uma escolha ou/ou quando se deparam com uma decisão ética. Mas o tráfego nas ruas não pode necessariamente ser dividido em claro- cortes, situações em preto e branco; muito mais, os incontáveis tons de cinza também devem ser considerados. Nosso algoritmo pesa vários riscos e faz uma escolha ética entre milhares de comportamentos possíveis – e o faz em questão de apenas uma fração de um segundo.”
Mais opções em situações críticas
Os parâmetros éticos básicos nos quais a avaliação de risco do software é orientada foram definidos por um painel de especialistas como uma recomendação por escrito em nome da Comissão da UE em 2020. A recomendação inclui princípios básicos como prioridade para os piores e a distribuição justa de risco entre todos os usuários da estrada. Para traduzir essas regras em cálculos matemáticos, a equipe de pesquisa classificou os veículos e as pessoas que trafegam nas ruas com base no risco que representam para os outros e na respectiva disposição de correr riscos.
Um caminhão, por exemplo, pode causar sérios danos a outros participantes do trânsito, enquanto em muitos cenários o próprio caminhão sofrerá apenas danos menores. O oposto é o caso de uma bicicleta. Na próxima etapa, o algoritmo foi informado para não exceder um risco máximo aceitável nas várias situações de rua respectivas. Além disso, a equipe de pesquisa adicionou variáveis ao cálculo que levam em conta a responsabilidade dos participantes do trânsito, por exemplo, a responsabilidade de obedecer às regras de trânsito.
Abordagens anteriores tratavam situações críticas na rua com apenas um pequeno número de manobras possíveis; em casos obscuros, o veículo simplesmente parou. A avaliação de risco agora integrada no código dos pesquisadores resulta em mais graus de liberdade possíveis com menos risco para todos. Um exemplo ilustrará a abordagem: um veículo autônomo deseja ultrapassar uma bicicleta, enquanto um caminhão se aproxima na pista contrária. Todos os dados existentes sobre os arredores e os participantes individuais são agora utilizados.
A bicicleta pode ser ultrapassada sem dirigir na faixa de tráfego que se aproxima e ao mesmo tempo manter uma distância segura da bicicleta? Qual é o risco que representa cada veículo respectivo e que risco esses veículos representam para o próprio veículo autónomo? Em casos pouco claros, o veículo autônomo com o novo software sempre espera até que o risco para todos os participantes seja aceitável. Manobras agressivas são evitadas, enquanto ao mesmo tempo o veículo autônomo não congela e trava abruptamente. Sim e Não são irrelevantes, substituídos por uma avaliação contendo um grande número de opções.
‘A consideração exclusiva das teorias éticas tradicionais resultou em um beco sem saída’
“Até agora, muitas vezes as teorias éticas tradicionais foram contempladas para derivar decisões moralmente permissíveis feitas por veículos autônomos. Isso acabou levando a um beco sem saída, já que em muitas situações de trânsito não havia outra alternativa senão violar um princípio ético”, diz Franziska Poszler, cientista da TUM Chair of Business Ethics. “Em contraste, nossa estrutura coloca a ética do risco no centro. Isso nos permite levar em consideração probabilidades para fazer avaliações mais diferenciadas.”
Os pesquisadores enfatizaram o fato de que mesmo os algoritmos baseados na ética do risco – embora possam tomar decisões com base nos princípios éticos subjacentes em todas as situações de trânsito possíveis – eles ainda não podem garantir um trânsito livre de acidentes. No futuro, adicionalmente, será necessário considerar outras diferenciações, como diferenças culturais na tomada de decisões éticas.
Até agora o algoritmo desenvolvido na TUM foi validado em simulações. Futuramente o software será testado na rua utilizando o veículo de pesquisa EDGAR. O código que incorpora os resultados das atividades de pesquisa está disponível como software de código aberto. A TUM está, assim, contribuindo para o desenvolvimento de veículos autônomos viáveis e seguros.
Publicado em 05/02/2023 21h11
Artigo original:
Estudo original: