毕马威AI风险与控制框架 – 助力企业挖掘AI价值潜力

原标题:毕马威AI风险与控制框架 – 助力企业挖掘AI价值潜力

随着信息科技的日益发展,人工智能(AI)技术已深入到各行各业,给企业带来了新一轮的机遇。企业在研究和应用人工智能技术,试图通过技术创新进行转型、抢占科技制高点的同时,也往往会遇到传统运营模式和AI运营模式融合所带来的各种问题与风险,甚至造成巨大损失。而这种情况的出现,会严重打击企业技术创新和转型的信心和动力。

● AI技术的实施和应用

是机遇更是挑战

毕马威在与多家企业进行AI技术转型的交流过程中,看到许多企业在实施和应用AI技术过程中,致力于追求技术突破,而往往忽视了对技术的管理和控制,这就导致了AI实现和应用过程中隐藏着一些潜在风险,甚至有些问题已经显现出来。

比如:一些金融机构基于现有客户群体开发AI组合模型(决策森林模型、贝叶斯模型、距离分类模型和KNN算法等等),用于判断未来申请贷款的客户违约概率,希望能够筛选出优质客户,降低贷款业务风险。然而,在AI模型应用一段时间后,有的金融机构却发现贷款业务的违约率先降后升。通过分析与探讨,金融机构发现背后的根本原因是违约用户群体特征发生了变化,使得AI模型在筛选潜在客户时出现“失灵”。

在这样的情况下,金融机构就需要定期审视现有客户的违约情况,研究违约特征及其背后的驱动因素,并对模型进行相应调整,即“训练”AI模型,以确保AI模型能够尽可能真实地反映违约客户群体特征,缩小偏离率,否则就会出现旧算法无法应对新用户群体特征的情况。

再比如,一些医疗企业通过自然语言处理技术对电子病历和诊断说明等传统的文本数据进行深度挖掘,希望能够在降低人工成本的同时,充分开发数据的业务价值,以便提升药品效果分析效率和诊疗预测的准确性。但在实践过程中,算法对文本的分析效果往往差强人意,在很多情况下不能高效提取出有价值的业务数据,也就无法有效支持后续分析工作。

在这样的情况下,医疗机构就需要投入大量人力对算法计算结果进行调整和矫正,反而使得工作效率降低。通过深入分析,我们发现这种情况出现主要是因为企业未有针对性对算法词库进行及时更新与完善,此外,在算法上线前,医疗机构也没有开展算法测试,检验实际运行效果。这些问题都是计划开展类似业务的机构需要重点关注的“坑儿”。

● 毕马威AI风险与控制框架

助力企业挖掘AI价值潜力

针对各类企业在AI技术实施和应用中遇到的挑战与风险,毕马威基于对AI技术与管理体系的理解,从推动AI帮助实现企业战略和共同利益的目标出发,梳理了有关AI技术中战略管理、数据及模型管理、安全管理、人力资源配置、业务连续性管理、运行管理和知识转移等多个方面的风险点及控制措施,形成了一套适用于各类企业的AI风险与控制体系,用于协助企业在不同能力阶段、技术成熟度条件下实现AI解决方案的安全交付。

该框架为企业AI解决方案量身定制,明确了17个领域中的78种潜在风险,并定义了106种典型控制措施来帮助企业管理这些风险,更通过与COBIT5进行衔接,确保与企业管理和控制框架进行充分融合,可以帮助企业在实施AI技术创造价值的同时,有效管理和控制AI应用所带来的风险。

毕马威AI风险与控制框架 ——

完整覆盖AI技术与管理体系

毕马威将AI技术与管理体系自下而上划分为数据、AI算法、AI模型、AI编程、AI基础设施、AI解决方案/平台和公司战略与治理等七个层级,并明确每个层级应关注的风险领域,从而确保AI风险与控制框架对完整的AI技术与管理体系和“端到端”的AI解决方案的生命周期覆盖。

毕马威AI风险与控制框架为企业提供了经过验证的、从战略到演进的AI解决方案生命周期管理领先实践、方法和工具。通过如下几个层面的工作,我们可以有效帮助企业建立AI治理结构、执行AI风险评估并实现持续的AI监控和可视化,以提高企业对AI治理与管理的透明度和信心。

制定企业AI开发和运营标准,并在促进创新和灵活性的环境中建立控制手段;

对整个AI生命周期实施端到端AI风险评估与控制模型,包括AI战略、AI构建、AI模型与训练、AI评估、AI部署与运行以及AI监督等;

评估AI管理现状和能力成熟度,识别改进机会和领域,明确实现目标的路线图和建议;

提供快速但负责任地交付AI解决方案的风险管理标准、模板和工具;

提供风险管理框架,评估关键业务算法优先级,制定敏捷的风险缓解策略,解决AI开发和运营过程中的安全性、完整性、可解释性、公平性和弹性等挑战;

设计用于构建和持续监控AI解决方案及其效能的关键绩效和风险指标,而又不妨碍创新和灵活性。

联系我们

董常凌

信息科技风险管理与鉴证服务主管合伙人

毕马威中国

电话:+86 (10) 8508 5420

邮箱:jason.dong@kpmg.com

宣杰

信息科技风险管理与鉴证服务总监

毕马威中国

电话:+86 (21) 2212 3617

邮箱:eric.xuan@kpmg.com

返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
免费获取
今日搜狐热点
今日推荐