UTS在线
企业无法逃避人工智能革命——那么，如何构建安全、负责任的使用文化呢？
2023年11月，两名已故投保人的遗产继承人起诉了美国健康保险公司联合健康保险(United Healthcare)，指控该公司部署了据称存在缺陷的人工智能系统，系统性地拒绝患者的索赔。
问题不仅在于人工智能的设计，还在于公司限制了员工推翻系统决策的能力，即使他们认为系统是错误的。他们还指控该公司甚至对未按照模型预测行事的员工进行惩罚。
无论该案件在美国法院系统的最终结果如何，诉状中的指控都凸显了组织面临的一个关键挑战。虽然人工智能提供了巨大的机遇，但其安全、负责任的使用取决于是否有合适的人员、技能和文化来妥善管理。
无论企业是否愿意，人工智能都在渗透进各行各业。许多澳大利亚企业正在迅速采用这项技术。但很少有企业专注于主动管理其风险。
根据《2024年澳大利亚负责任人工智能指数》显示，78%的受访企业声称其使用人工智能符合负责任人工智能的原则。然而，只有29%的企业表示已实施相关实践来确保其符合这一原则。
在某些情况下，人工智能是新产品的重点宣传卖点，企业正在做出积极采用人工智能的决策。
与此同时，这些系统越来越隐蔽。它们可能被上游供应商使用，作为新产品的子组件嵌入，或通过自动软件更新插入到现有产品中。
有时，员工甚至会在管理层不知情的情况下“秘密”使用它们。
人工智能采用的普及性及其往往隐蔽的特性意味着，企业不能将人工智能治理仅仅视为合规练习或技术挑战。
相反，领导者需要专注于构建正确的内部能力和文化，以支持在整个运营过程中安全、负责任地使用人工智能。
悉尼科技大学人类技术研究所的研究指出了企业必须做对的三个关键要素。
首先，董事会和高级管理人员必须对人工智能有足够的了解，以提供有效监督。这并不意味着他们必须成为技术专家。但董事们需要具备我们所说的对人工智能的“最低可行了解”。他们需要能够发现这项技术的战略机遇和风险，并向管理层提出恰当的问题。
如果他们不具备这种专业知识，可以接受培训、招聘具备这种知识的新成员或成立人工智能专家顾问委员会。
其次，企业需要为人工智能治理建立明确的问责制。这些问责制应在具有适当权限的特定人员身上明确职责。
一些领先企业已经通过提名具有明确职责的高级管理人员来做到这一点。这主要是一个治理角色，它需要独特的技能组合：强大的领导能力、一定的技术素养以及跨部门工作的能力。
第三，企业需要建立一个治理框架，包含简单高效的流程来审查其人工智能使用情况、识别风险并找到管理风险的方法。
也许最重要的是，企业需要围绕人工智能的使用培养一种批判性支持的文化。
这是什么意思呢？这意味着企业各级员工都要了解人工智能的潜力和风险，并有勇气提出问题。
澳大利亚电信的“负责任的人工智能政策”是在复杂企业环境中良好实践的一个案例研究。
为确保董事会和高级管理层能够全面了解人工智能活动和风险，澳大利亚电信成立了一个专门负责审查高影响力人工智能系统的监督委员会。
该委员会汇集了法律、数据、网络安全、隐私、风险和其他团队的专家及代表，以评估潜在风险并提出建议。
重要的是，该公司还投资对所有员工进行人工智能风险和治理方面的培训。
文化因素之所以特别关键，是因为人工智能的采用通常是从文化层面开启的。之前的研究表明，许多澳大利亚员工觉得人工智能是在没有充分咨询或培训的情况下强加给他们的。这不仅会引发抵触情绪。这也意味着企业可能会错过员工如何使用人工智能创造价值和解决问题的宝贵反馈。
最终，我们在人工智能方面的集体成功在很大程度上并不取决于技术本身，而是取决于我们围绕它构建的人类系统。无论你是领导一个企业还是为企业工作，这一点都很重要。因此，下次你的同事开始讨论购买或以新方式使用人工智能的机会时，不要只关注技术。
问问自己：“我们的人才、技能和文化需要具备什么条件才能使其成功？”
本文根据《The Conversation》杂志的内容重新发布，已获得创意共享许可。
尼古拉斯·戴维斯，悉尼科技大学新兴技术产业教授、人类技术研究所联合主任；加布丽埃勒·卡尼，悉尼科技大学人类技术研究所高级研究员
关闭
