Quando um carro sem motorista está em movimento, uma decisão defeituosa de seu sistema de prevenção de colisões pode levar ao desastre, mas pesquisadores da Universidade da Califórnia, Irvine, identificaram outro risco possível: veículos autônomos podem ser levados a uma parada abrupta ou outra condução indesejada. comportamento pela colocação de um objeto comum na beira da estrada.
“Uma caixa, uma bicicleta ou um cone de trânsito podem ser tudo o que é necessário para assustar um veículo sem motorista e fazer uma parada perigosa no meio da rua ou em uma rampa de saída de uma rodovia, criando um perigo para outros motoristas e pedestres”, disse. Qi Alfred Chen, professor de ciência da computação da UCI e co-autor de um artigo sobre o assunto apresentado recentemente no Simpósio de Segurança de Redes e Sistemas Distribuídos em San Diego.
Chen acrescentou que os veículos não conseguem distinguir entre objetos presentes na estrada por puro acidente ou aqueles deixados intencionalmente como parte de um ataque físico de negação de serviço. “Ambos podem causar comportamento de condução errático”, disse Chen.
Chen e sua equipe concentraram sua investigação em vulnerabilidades de segurança específicas do módulo de planejamento, uma parte do código de software que controla os sistemas de direção autônoma. Esse componente supervisiona os processos de tomada de decisão do veículo que determinam quando cruzar, mudar de faixa ou desacelerar e parar, entre outras funções.
“O módulo de planejamento do veículo é projetado com muita cautela, logicamente, porque você não quer veículos sem motorista circulando, fora de controle”, disse o principal autor Ziwen Wan, UCI Ph.D. estudante de informática. “Mas nossos testes descobriram que o software pode errar por ser excessivamente conservador, e isso pode levar um carro a se tornar uma obstrução de tráfego, ou pior”.
Para este projeto, os pesquisadores da Donald Bren School of Information and Computer Sciences da UCI projetaram uma ferramenta de teste, apelidada de PlanFuzz, que pode detectar automaticamente vulnerabilidades em sistemas de direção automatizada amplamente utilizados. Conforme mostrado nas demonstrações em vídeo, a equipe usou o PlanFuzz para avaliar três diferentes implementações de planejamento comportamental dos sistemas de direção autônoma de código aberto Apollo e Autoware.
Os pesquisadores descobriram que caixas de papelão e bicicletas colocadas na beira da estrada faziam com que os veículos parassem permanentemente em vias e cruzamentos vazios. Em outro teste, carros autônomos, percebendo uma ameaça inexistente, deixaram de mudar de faixa conforme planejado.
“Veículos autônomos se envolveram em colisões fatais, causando grandes danos financeiros e de reputação para empresas como Uber e Tesla, para que possamos entender por que fabricantes e prestadores de serviços querem ter cautela”, disse Chen. “Mas os comportamentos excessivamente conservadores exibidos em muitos sistemas de direção autônoma podem afetar o fluxo suave do tráfego e o movimento de passageiros e mercadorias, o que também pode ter um impacto negativo nos negócios e na segurança rodoviária”.
Juntando-se a Chen e Wan neste projeto estavam Junjie Shen, UCI Ph.D. estudante de informática; Jalen Chuang, estudante de graduação em ciência da computação da UCI; Xin Xia, bolsista de pós-doutorado da UCLA em engenharia civil e ambiental; Joshua Garcia, professor assistente de informática da UCI; e Jiaqi Ma, professor associado de engenharia civil e ambiental da UCLA.
Publicado em 30/05/2022 01h25
Artigo original:
Link original: