Quem paga se as ferramentas de IA começarem a mentir sobre você?
O caso aconteceu com Mark Walters, apresentador de rádio da Geórgia
Fonte: https://www.zdnet.com/article/chatgpts-hallucination-just-got-openai-sued-heres-what-happened/
Modelos de IA generativos, como o ChatGPT, são conhecidos por gerar erros ou "alucinações". Como resultado, eles geralmente vêm com avisos claramente exibidos divulgando esse problema. Mas o que você faria se, apesar desses avisos, visse o chatbot de IA espalhando desinformação sobre você?
Mark Walters, apresentador de rádio da Geórgia, descobriu que o ChatGPT estava espalhando informações falsas sobre ele, acusando-o de desviar dinheiro, e como resultado, processou a OpenAI na primeira ação de difamação da empresa, conforme relatado pela primeira vez pela Bloomberg Law.
De acordo com o processo, a desinformação ocorreu quando Fred Riehl, editor-chefe da publicação sobre armas AnmoLand, pediu ao ChatGPT um resumo do caso Second Amendment Foundation v. Ferguson como pano de fundo para um caso que ele estava relatando.
O ChatGPT forneceu a Riehl um resumo do caso que afirmava que Alan Gottlieb, fundador da Second Amendment Foundation (SAF), acusou Walters de "fraudar e desviar fundos da SAF".
Além disso, o chatbot disse que no caso a queixa alegava que Walters, "desviou fundos para despesas pessoais sem autorização ou reembolso, manipulou registros financeiros e extratos bancários para ocultar suas atividades, e não forneceu relatórios financeiros precisos e oportunos e divulgações para a liderança da SAF" quando atuou como CFO e tesoureiro da SFA.
No entanto, no processo de Walters, Walters v. OpenAI LLC, o réu alega que todos os fatos no resumo são falsos.
Walters nunca foi parte envolvida no processo, nunca foi acusado de fraudar e desviar fundos da SAF, e nunca ocupou um cargo de tesoureiro ou CFO, de acordo com o processo.
Walters está buscando compensação da OpenAI por meio de danos gerais e punitivos, bem como reembolso pelas despesas incorridas durante o processo.
As questões em torno do processo incluem quem deve ser responsabilizado e se as isenções de responsabilidade do site sobre alucinações são suficientes para remover a responsabilidade, mesmo que causem danos a alguém.
O resultado do caso jurídico terá um impacto significativo na definição de um padrão no emergente campo da IA generativa.