Advogados usaram o ChatGPT para ajudar em um caso. Deu muito errado.
Partes da petição eram "sem sentido", e incluíam citações falsas
Fonte: https://news.sky.com/story/lawyers-used-chatgpt-to-help-with-a-case-it-backfired-massively-12908318
Dois advogados de Nova York foram multados após apresentar uma petição legal com citações de casos falsos gerados pelo ChatGPT.
Steven Schwartz, do escritório de advocacia Levidow, Levidow & Oberman, admitiu usar o chatbot para pesquisar a petição em um caso de lesão pessoal de um cliente contra a companhia aérea Avianca.
Ele o usou para encontrar precedentes legais que apoiassem o caso, mas advogados representando a transportadora colombiana disseram ao tribunal que não conseguiam encontrar alguns exemplos citados - compreensível, dado que eram quase inteiramente fictícios.
Vários deles eram completamente falsos, enquanto outros identificavam erroneamente juízes ou envolviam companhias aéreas que não existiam.
O juiz distrital Peter Kevin Castel disse que Schwartz e o colega Peter LoDuca, que foi nomeado na petição de Schwartz, agiram de má fé e fizeram "atos de evitação consciente e declarações falsas e enganosas ao tribunal".
Partes da petição eram "gibberish" e "sem sentido", e incluíam citações falsas, acrescentou o juiz.
Embora muitas vezes impressionante, a IA gerativa como o ChatGPT da OpenAI e o Bard do Google têm uma tendência a "alucinar" ao dar respostas, pois pode não ter uma verdadeira compreensão das informações que recebeu.
Uma das preocupações levantadas por aqueles preocupados com o potencial da IA diz respeito à disseminação de desinformação.
Questionado pela Sky News se deveria ser usado para ajudar a escrever uma petição legal, o próprio ChatGPT escreveu: "Embora eu possa fornecer informações e assistência gerais, é importante notar que sou um modelo de linguagem de IA e não um profissional jurídico qualificado."
O juiz Castel disse que é "inherentemente impróprio" os advogados usarem IA "para assistência", mas alertou que eles têm a responsabilidade de garantir que suas apresentações sejam precisas.
Ele disse que os advogados "continuaram a defender as opiniões falsas" depois que o tribunal e a companhia aérea as questionaram.
Schwartz, LoDuca e seu escritório de advocacia foram condenados a pagar uma multa total de $5.000 (£3.926).
Levidow, Levidow & Oberman está considerando se vai recorrer, dizendo que "cometeram um erro de boa fé ao não acreditar que uma peça de tecnologia pudesse estar inventando casos do nada".