UTS在线
你能识破财务造假吗？AI如何加剧发票欺诈风险
随着人工智能在实时导航、疾病早筛等领域带来诸多便利，其大规模应用也催生了新的欺诈隐患。
从中小企业到澳大利亚税务局（ATO），都可能遭遇伪造报销凭证的攻击——这些虚假票据与真实发票几乎难辨真伪。
个人用户同样需要警惕。
看看下面两张收据照片：一张记录真实交易，另一张由ChatGPT生成。你能找出伪造品吗？
一张AI生成的虚假收据（左图）和一张真实收据的照片（右图）。作者提供。
现在来看这一组。
左侧为AI生成的欺诈性收据，右侧为真实收据的照片。作者提供。
答案或许是否定的——这正是问题的核心。如今，能够生成近乎完美的财务文件伪造系统日益成熟。
上周，OpenAI发布升级版图像生成模型，可产出包含逼真文字的图片，进一步降低了伪造门槛。
虚假财务文件引发的欺诈是全球性难题。国际注册反欺诈师协会（ACFE）估计，企业每年因欺诈损失约5%的收入。
其2024年报告显示，1921起案例造成超31亿美元损失，其中 billing与费用欺诈占资产挪用案件的35%，单次损失中位数达15万美元。更关键的是，欺诈者主要通过伪造或篡改文件掩盖罪行，而AI正让这一过程变得轻而易举。
涉及虚假财务文件的欺诈是一个全球性重大议题。国际注册反欺诈师协会（ACFE）估计，各类组织每年因欺诈行为损失约5%的收入。
该协会在2024年的报告中指出，1921起案例造成的损失超过31亿美元。其中，账单和费用欺诈占资产挪用案件的35%，企业报告的单次损失中位数达15万美元。
最令人担忧的是，欺诈者主要通过伪造文件或篡改档案来掩盖罪行，而人工智能正让这些操作变得轻而易举。
虚假文件以多种形式助长欺诈：员工可能虚构一场从未发生的商务午餐收据，承包商可能伪造从未产生的费用凭证。无论哪种情况，欺诈者都通过伪造文件骗取本不属于自己的资金。
这一问题的实际普遍性可能远超认知。2024年的一项调查显示，24%的员工承认曾实施费用欺诈，另有15%的员工表示考虑过此类行为。
更值得警惕的是，42%的英国公共部门决策者承认提交过虚假报销申请。
理解人工智能技术如何可能引发欺诈激增，需要从经典的 “欺诈三角” 理论切入。该理论指出，欺诈行为的发生需具备三个要素：动机（incentives）、自我合理化（rationalisation）和机会（opportunity）。
从历史来看，即便存在欺诈动机，技术壁垒也会限制伪造文件的能力。
但人工智能彻底消除了这些壁垒。研究证实，当 “作案机会” 因技术进步而显著增加时，欺诈行为的发生率必然上升。
一旦虚假收据被用于税务抵扣，每个人都将为此买单。
以一名年收入12万澳元的营销顾问为例：他通过AI图像生成工具伪造了数张总额4000澳元的虚构支出收据（实际消费并未发生）。按30%的边际税率计算，若未被查处，这笔欺诈行为可使其少缴约1200澳元税款。
澳大利亚税务局（ATO）估计，小企业每年因不当虚报抵扣造成的税收缺口达27亿澳元。随着数字伪造技术的普及，这一缺口可能显著扩大——AI工具正让“低成本造假”成为现实，越来越多不诚信者可能利用技术漏洞谋取私利，最终导致政府税收流失、公共服务投入缩水，甚至迫使合规纳税人承担更高税负。
一张人工智能生成的欺诈性收据。作者提供。
消费者也越来越容易成为使用人工智能生成的收据和发票的诈骗者的目标。
想象一下，你收到了一张看起来像是你的能源供应商的官方发票。唯一的区别是什么？付款细节将资金导向了一个诈骗者的账户。
这已经在发生。澳大利亚竞争和消费者委员会报告称，2023年因诈骗损失超过31亿澳元，其中付款转 redirected 欺诈行为迅速增加。
随着人工智能工具使创建和编辑令人信服的商业文件变得更加容易，这些诈骗数字有可能增加。
我们对数字文档日益依赖，这加剧了企业和消费者面临的这种脆弱性。
如今，许多企业以数字格式开具收据。费用管理系统通常要求员工提交收据的照片或扫描件。税务机关也接受电子存储的文档。
随着纸质收据越来越罕见，纸质票据的物理安全特征也随之消失，仅通过视觉检查几乎不可能发现数字伪造品。
一种潜在的应对措施是内容来源和真实性（C2PA）标准。该标准在人工智能生成的图像中嵌入关于文件来源的可验证信息。
然而，一个主要弱点仍然存在，因为用户可以通过对图像进行截图来删除元数据。对于企业和税务机关来说，数字认证标准只是应对复杂数字伪造问题的一部分解决方案。但在我们这个数字时代，回归纸质文档并不现实。
人工智能生成逼真虚假财务文件的能力，从根本上改变了我们进行费用核验和保障财务安全的方式。
传统的收据和发票目视检查正迅速过时。
企业、税务机关和个人需要迅速适应，实施超越单纯文件查看的验证系统。
这可能包括将交易记录与银行流水匹配，以及标记异常支出模式的自动化异常检测系统。或许区块链技术的应用将扩展，以帮助验证交易。
人工智能的伪造能力与我们系统的可靠验证能力之间的差距正在不断扩大。那么，在这个眼见不再为实的世界里，我们该如何维持对金融交易的信任？
*内容来源悉尼科技大学官网
关闭
