德勤（Deloitte）为澳洲政府撰写的一份重要报告被发现存在大量引用错误，引发了报告是否由人工智能生成的质疑。
不过德勤称，他们只是部分书目标题、出版年份和出版方标注有误，并未使用AI撰写整份报告。
悉尼大学福利研究学者Chris Rudge最早发现这些问题，他审查了德勤于7月4日提交、上周正式发布的一份报告。
该报告是受联邦就业与劳资关系部（Department of Workplace Relations，简称DEWR）委托，评估福利系统中自动化处罚机制（例如停发失业救济金）所使用的IT系统。
报告中引用了Lisa Burton Crawford的两篇所谓文献，其中一篇被称为《The Rule of Law and Administrative Justice in the Welfare State: A Study of Centrelink》，另一篇则为《The Rule of Law and Administrative Discretion》。
报告称这两篇著作均由Federation Press于2021年出版，并且在报告中共被引用五次。
然而，Crawford本人表示：“我确实发表过一些与该报告讨论主题相关的研究，部分内容与其引用逻辑大致一致。”
（图片来源：AFR）
“但报告中所引用的出版物压根不存在，而且我也一度无法理解我的研究如何支撑报告中所作出的某些论断。”
她直言：“看到有人这样引述我的研究让人忧心。我希望德勤就这些引用的出处给出解释。”
报告还错误引用了另一名学者Carolyn Adams的文章，标题为《Choice, Responsibility and the Regulation of Behaviour: Lessons from the Social Security System》，据称发表于2012年的《UNSW Law Journal》。
但该期刊当年并无此文，Adams的研究产出中也从未提到这篇文章。
报告所标注页码实际对应的是一篇名为《From Plato to NATO: Law and Social Justice in Historical Context》的文章。
德勤方面回应称，“我们坚持对报告内容和结论的信心”，但拒绝直接回应是否使用了AI进行报告写作的问题。
公司发言人表示，“报告中引用每篇文章的论点都是准确的”，“在出版前的脚注整理过程中，部分标题与实际来源并不完全匹配。德勤已将此情况告知客户，正在修正引用信息。”
发言人随后提供了一份更正后的资料来源列表。在Crawford相关部分，引用被更改为她在2020年和2021年出版的一些章节，例如《Laws for Machines and Machine-made Laws》与《Executive Power in an Age of Statutes》，而非原报告中列出的书名。
而在Adams的例子中，更正文章的标题为《One Office, Three Champions? Structural Integration in the Office of the Australian Information Commissioner》，发表于2014年的《Australian Journal of Administrative Law》，与最初引用的标题、年份与期刊完全不符。
Rudge指出，这类引用错误严重损害学术声誉。“学者是花了巨大心血来出版高质量研究的，现在名字被这样滥用，等于声誉被劫持。”
“从错误的引用方式来看，AI生成是非常有可能的解释，几乎没其他合理解释，标题还被打错成这样，不像是人工敲错。”
他表示，这些错误不仅是格式问题，而是“实质性错误”：“比如报告中关于可追溯性和IT系统的论点，实际上并非被引用作者所提出。”
德勤报告还误将Terry Carney的文章标题写成《Automating Compliance and Administrative Justice in Australia’s Welfare State》，而正确标题应为《Automation and Conditionality: Towards “Virtual” Social Security?》。
Carney本人证实，他是在德勤报告接近完成阶段才被邀请参与咨询工作。他表示，尽管标题写错了，但德勤“引用的内容还是准确的”。
该报告认定：“没有足够证据表明所谓的精准合规框架（targeted compliance framework）及其背后的IT系统已经全面符合授权立法的要求。”
d这一判断紧随此前联邦申诉专员的一份严厉调查报告，后者指出数百起暂停福利发放的行为违法。
Rudge表示，在这样一个影响全澳成千上万人权益的严肃问题上，德勤作为顾问理应展现更高程度的专业性和严谨。
“这份报告本应用于验证系统的严谨性，但它本身反而失去严谨性。这实在令人担忧。”
而委托撰写此报告的就业与劳资关系部则回应称：“我们正在与德勤联系，调查所指问题。至于报告写作的具体事项，请直接向德勤咨询。”
发表于 
支持
反对
