医疗保健CFO在人工智能压力与治理风险之间左右为难

(SeaPRwire) –   早上好。根据一项新研究，许多董事会正在批准人工智能战略，但并不清楚底层控制措施是否真正有效，这使得首席财务官在监管机构、审计师或投资者要求提供证据时处于风险之中。在私营部门，医疗保健似乎面临着最严峻的挑战。

Kiteworks，一家技术安全公司，发布了其《》，该报告基于对10个行业和8个地区的225名安全、IT、合规和风险负责人的调查。

一项关键发现是，53%的组织在AI模型使用后无法删除个人数据，这导致在GDPR、CPRA和新兴AI法规下存在长期风险。

所有受访者都表示，代理式AI（agentic AI）在其路线图上，但控制这些系统的措施却滞后。总体而言，63%的组织无法对AI代理执行目的限制，60%缺乏紧急停止开关（kill-switch）功能，72%的组织对其环境中的AI模型没有软件物料清单（SBOM）。报告称，结果是：AI系统正在访问、处理和学习敏感数据，而组织无法完全追踪这些数据去了哪里，也无法证明它们是如何被使用的。

在接受调查的10个行业中，由于遗留系统，政府面临着最严峻的挑战。然而，在私营部门，医疗保健在控制和AI治理方面的薄弱之处尤为突出。

医疗保健组织也是AI支出方面最保守的组织之一。超过80%的受访者表示，他们目前没有计划使用API代理（API agents）——这项技术使AI代理能够连接到外部系统并在协调的工作流程中运行。Kiteworks发现，虽然谨慎部署可以降低短期风险，但推迟部署的组织也可能无法建立随着AI使用扩展所需的治理能力。

这种谨慎反映了长期的经济制约。根据，医疗保健在采用先进技术方面落后于银行业和制造业等行业，这主要是由于利润微薄。然而，行业领导者越来越认为AI对财务可持续性至关重要。EVP兼首席财务官Dennis Laraway告诉该出版物，AI、机器人和自动化可以通过扩大患者覆盖范围、增加业务量以及提高速度和准确性来帮助医疗系统实现规模化——在支付改革和监管压力下支持成本转型。

这些相互竞争的压力正直接落在首席财务官的案头。

Kiteworks首席战略官Tim Freestone告诉我：“随着AI投资压力的加剧，医疗保健首席财务官正在努力应对一个独特的艰难平衡。与科技或零售业不同，许多医疗系统在好年景下的利润率只有2-3%，这使得每一项技术决策都感觉是生死攸关的，而不是实验性的。”

Freestone补充说，量化AI的投资回报率仍然特别困难。“你如何给更快的诊断或减少临床医生倦怠标上美元价格？”同时，任何涉及患者数据的AI部署都会带来巨大的合规和安全成本。

Freestone表示，由于医疗保健在开发AI治理框架方面相对缓慢，首席财务官们越来越多地被要求批准对其组织可能还没有内部专业知识来评估或管理的重大技术投资。“他们基本上被要求在决定是否购买飞机时建造飞机，”他说。

随着审查重点从AI的雄心转向AI的执行，首席财务官可能会发现，治理——而不是创新——将成为真正的考验。

Sheryl Estrada