Fonte? A IA inventou isso.
A propensão do ChatGPT para inventar coisas ataca novamente – e desta vez, colocou um advogado em apuros.
Conforme descrito em uma declaração juramentada no início de maio, um advogado que representa um homem processando uma companhia aérea por uma suposta lesão admitiu que usou o chatbot de IA para fazer pesquisas para o caso de seu cliente. Foi por isso que, em seu resumo legal, ele citou um monte de processos judiciais – todos com nomes que soam oficiais como “Martinez v. Delta Air Lines” e “Varghese v. China Southern Airlines” – que nunca realmente aconteceram e, portanto, não não existe.
O advogado, Steven Schwartz, do escritório de advocacia Levidow, Levidow & Oberman de Manhattan, disse ao tribunal que foi a primeira vez em sua carreira de mais de três décadas que ele usou o ChatGPT, portanto, de acordo com o New York Times, “não sabia a possibilidade de que seu conteúdo seja falso.”
Schwartz até disse ao juiz, P. Kevin Castel, que havia pedido ao ChatGPT para verificar suas fontes. O chatbot aparentemente disse a ele que os casos eram reais, relata o NYT.
Sim está certo. Um advogado experiente usou o ChatGPT no tribunal – e agora está em apuros depois de fabricar vários precedentes legais.
Falso
Schwartz disse ao tribunal que “lamenta muito” ter usado o ChatGPT para fazer sua pesquisa para o caso “e nunca o fará no futuro sem a verificação absoluta de sua autenticidade”.
O juiz Castel, no entanto, não parece abalado e, em sua ordem de 4 de maio, ele descreveu em termos inequívocos a gravidade da situação.
“A Corte se depara com uma circunstância sem precedentes”, diz a ordem do juiz para uma futura audiência. “Uma submissão apresentada pelo advogado do autor em oposição a uma moção de arquivamento está repleta de citações de casos inexistentes… seis dos casos apresentados parecem ser decisões judiciais falsas com citações falsas e citações internas falsas.”
No mês que vem, Castel realizará uma audiência para discutir se Schwartz deve ou não ser punido. Mas, enquanto isso, esse caso bizarro deve funcionar como um alerta para os advogados – e todos os outros – que desejam experimentar o ChatGPT em um ambiente profissional.
Publicado em 04/06/2023 20h14
Artigo original: