扫码关注
编者按：2022 年4月，丹麦央行发布《人工智能和机器学习在金融领域应用的五个重点》报告（以下简称《报告》）。《报告》认为，人工智能和机器学习技术有助于优化金融业务流程、提高金融服务效率。然而，相关技术的应用也可能放大金融机构在运营、合规、法律和声誉方面的风险。《报告》提出了加强技术监管的政策路径，并阐述了金融机构开展人工智能和机器学习应用时需要考虑的五个重点。现对《报告》主要内容进行摘编，供参考。
一、人工智能和机器学习技术带来的益处
（一）促进金融服务数智化。人工智能和机器学习技术以数据为驱动，通过打造定制化的产品、创新的金融解决方案拓展金融服务领域。与此同时，还能够优化金融机构决策流程，提升决策科学性，推动业务流程智能化升级。
（二）提高金融监管效能。人工智能和机器学习技术能够对大数据进行深度分析，及时识别金融风险，提高金融监管效能。例如，金融监管部门可借助机器学习模型分析金融业当前的运行状况，从而判断和预测经济形势。
二、人工智能和机器学习技术的应用挑战
（一）算法歧视风险。近年来，人工智能和机器学习技术的应用出现了针对种族和性别的不公平待遇案例，引发了社会对算法歧视现象的广泛关注。潜在的算法歧视将增加金融机构声誉和法律风险，金融机构应采取策略，保护金融消费者免受算法歧视影响。
（二）模型难以解释。模型复杂度的增加，将导致模型可解释性降低，从而加大模型异常行为监测的难度。不同的利益相关者对模型有不同的可解释性要求，但目前仍缺乏解释机器学习模型的权威参考依据。
三、加强技术监管的政策路径
（一）采用基于原则的监管方法。由于难以为算法偏差和可解释性等建立细化的标准，欧盟委员会提出基于原则的监管方法，这种方法的关键优势在于灵活性高，易于适应新技术。
（二）建立技术治理的通用标准。为建立有效的治理结构，抽象的监管原则必须转化为具体的、可量化的监管规则，这可以通过建立通用语言、参考通用标准等方式来实现。目前，国际标准化组织（ISO）正在建立相关标准体系，为人工智能和机器学习模型治理提供支撑。
四、人工智能和机器学习应用的五个重点
（一）建立系统目录。当前，金融机构缺乏统一目录来说明机器学习模型是如何构建的、利用了哪些数据，以及金融机构如何在业务实践中使用这些模型。金融机构应建立一个汇总所有人工智能系统及模型的目录，以统一管理人工智能系统的开发和采购。
（二）评估模型风险。金融机构应建立可靠的治理结构，从生命周期角度评估模型风险。由业务、风险管理和法律领域人员加强事前风险评估，并在系统部署后定期评估其性能是否满足预先确定的最低要求。
（三）保障人力资源。全面评估机器学习模型的鲁棒性和性能需要特定的能力，仅靠金融机构的风险管理人员无法完成。因此，金融机构应培训数据科学家、机器学习工程师和开发人员，让他们共同参与模型测试、审查和监督，提高模型评估质量。
（四）权衡模型成本。金融机构在使用机器学习模型时，应在模型性能与其合规性风险和运营风险之间取得平衡。从较简单的人工智能和机器学习模型切换到复杂模型所带来的业务效率提升应高于其风险成本。
（五）推动经验共享。应鼓励金融机构定期分享人工智能系统治理方面的最佳实践案例，以供金融机构在使用机器学习模型时参考。同时，金融机构间应合作制定共同的治理实践标准，促进创新技术应用、确保技术应用合规。
