保护隐私的人工智能，UTS研究人员取得突破性进展

悉尼科技大学（University of Technology Sydney, UTS）的研究人员研发出全球首个基于全同态加密的深度强化学习系统：该人工智能可在用户数据保持加密状态的前提下进行学习和决策。

这是全球人工智能领域的一座里程碑：UTS的研究人员宣布在人工智能时代的用户隐私保护领域取得突破性进展，相关成果已发表在 Nature Machine Intelligence 上。
该团队研发的框架可让人工智能在复杂环境中学习与决策，且全程无需接触其所处理的敏感数据。项目由Hoang Dinh副教授、Diep N. Nguyen副教授以及博士生Hieu Nguyen（澳越战略技术中心）牵头，与Meta人工智能研究院北美实验室研究科学主任Kristin Lauter博士、韩国汉阳大学Miran Kim副教授合作完成。

生成式人工智能时代，隐私为何至关重要？
深度强化学习（Deep Reinforcement Learning）支撑着如今我们接触的众多前沿技术，从自动驾驶汽车到生成式人工智能的决策逻辑均离不开它。但该领域一直受一个难题制约：深度强化学习系统通常需要调取真实数据进行学习，这会将个人、财务或商业敏感信息暴露给外部平台。
“多年来，该领域始终难以在人工智能与严格的隐私要求之间找到平衡。我们的这项突破证明，人工智能如今可以在完全保护敏感数据的前提下完成学习与决策。”Hoang Dinh副教授表示。

“随着人工智能愈发深入融入日常生活，让其在不侵害个人或机构隐私的前提下进行学习，不仅是一项技术难题，更是一份伦理责任。“Hoang Dinh副教授说。

突破性成果：加密智能
悉尼科技大学研究团队利用全同态加密（Fully Homomorphic Encryption）技术，打造出全球首个适用于深度强化学习的隐私保护框架。
与传统加密技术不同，传统加密需先解密数据才能处理，而全同态加密可让人工智能模型在数据全程受保护的状态下完成学习与决策。
该研究的核心技术创新，是研发出适配同态加密的亚当优化器。现代人工智能训练高度依赖非线性数学运算，包括平方根倒数等函数运算，这类运算在加密数据上极难实现，且通常会破坏同态加密的效果。
研究团队成功对这类学习算法进行重构，无需在加密数据上对平方根倒数进行高次多项式近似计算，同时最大化提升了深度强化学习智能体的学习效率。
初步实验结果表现亮眼：该加密深度强化学习模型的准确率，与标准非加密技术的差距不足10%，且全程保障数据完全保密。
在该研究提出的系统中，用户可先将所有系统信息加密，再分享给外部人工智能智能体，以此保护隐私。人工智能直接从加密数据中学习决策逻辑，全程无法获取原始信息；其生成的决策结果同样处于加密状态，仅由用户在本地解密并执行。这一过程循环往复，直至系统达到预期效果，确保在整个学习与决策流程中实现高强度隐私保护。
“这有望成为下一代人工智能（包括生成式人工智能）的核心基石。” Diep Nguyen副教授表示。

全球合作
悉尼科技大学、Meta与汉阳大学展开的全球合作融合了UTS在理论与算法上的优势，以及国际学术专长和产业资源，共同攻克了该领域长期存在的难题。
“通过与Meta和汉阳大学等伙伴合作，我们得以将理论创新与现实应用洞察相结合。正是这类国际合作，让悉尼科技大学走在了隐私保护人工智能研究的前沿。” Hoang表示。
“随着人工智能愈发深入融入日常生活，让其在不侵害个人或机构隐私的前提下开展学习，不仅是一项技术挑战，更是一份伦理责任。这也是研究人员不仅关注人工智能能做什么，更聚焦于如何以负责任的方式实现其功能的原因。” 他说道。