国际证监会组织发布《人工智能和机器学习使用指南》
2021-09-30 14:21:09 来源： 浏览：1次
国际证监会组织发布《人工智能和机器学习使用指南》
新时代的金融法金融法的新时代
2021年9月7日，国际证监会组织发布了《人工智能和机器学习使用指南》。随着人工智能（以下简称AI）与机器学习（以下简称ML）的数据可用性及其计算能力的逐渐提高，二者被广泛应用于金融服务领域，它们在一定程度上改变了公司的商业模式。例如，公司可以在咨询和支持服务、风险管理、客户识别和监控、交易算法以及投资组合管理等方面使用AI和ML来调整风险。一方面，市场中介机构和资产管理人使用AI和ML的确会提高公司的执行速度，降低投资者的投资服务成本；另一方面，在这两种技术的使用过程中可能会催生或放大某种风险，从而降低金融市场效率，导致消费者权益受损，金融市场中AI和ML的使用与控制已成为全球监管焦点。
一、AI和ML是什么
（一）人工智能（AI）
人工智能一词最早于1956年由数据科学家约翰·麦卡锡提出，定义为“制造智能机器的科学工程”，简言之就是研究让计算机模仿人类决策以解决问题的方法。人工智能包括学习、推理、规划、感知、语言理解和机器人等内容。目前，它在金融服务业中处于逐步普及阶段，普及过程中产生的风险给法律、道德、经济和监管等多个方面带来了严峻的挑战。
（二）机器学习（ML）
机器学习是人工智能的一个子集或应用，它专注于计算机程序的开发，旨在从经验中习得结论，而无需明确的编程。ML算法可分为三类：有监督学习、无监督学习和强化学习。这些类别可在不同的场景中应用，根据可用数据的类型与提供反馈所需的人为干预水平作出场景选择。深度学习要求对计算系统进行多层次的单元训练，其灵感来源于人脑结构。
二、AI和ML的使用现状
（一）市场中介机构的使用现状
随着市场中介机构和资产管理者对技术及其效用理解的加深，他们拓宽了对AI和ML的使用范围。同时，电子交易平台的使用和可用数据的增加也促使公司在部分领域中开始使用AI和ML，如交易和咨询活动、风险管理等。市场中介机构表明，AI和ML在金融市场中被用以加快金融活动的流程，从而提高效率并降低成本。且AI和ML正在向市场释放资源，专注于提高企业的认知水平。为此，市场中介机构正在以下五方面部署此技术：
1.咨询和支持服务
市场上大部分机器人顾问或自动投资顾问均使用简单的演绎算法，只有少数使用预测性ML算法。当ML算法用于咨询服务时，大多数公司会建立相应的人工干预流程。因此，自动建议系统通常仅限于生成潜在资产配置建议供投资顾问审查，投资顾问可在适当的情况下使用该建议。
2.风险管理
风险管理涉及使用数据定价与管理风险敞口，主要包括信贷、市场、运营和流动性风险。一方面，市场中介机构利用ML构建风险管理系统进行信用风险监控，为公司提供客户潜在违约的预警指标，动态衡量客户的风险状况。ML的使用进一步提高市场中介机构后台处理与报告的效率。另一方面，ML被用以分析波动趋势来实现市场风险可视化，通过分析多维风险和敞口额度来衡量流动性风险。此外，ML算法还被用于监控员工电子邮件，被做市商用来降低库存风险。
3.客户识别和监测
ML算法使中介机构在客户注册、欺诈检测、洗钱和网络攻击监控等方面实现自动化操作。市场中介机构在为客户提供产品前通常需遵循KYC规则（Know Your Customer，了解客户），需要从潜在客户处搜集并验证个人信息。在此过程中使用ML算法可用于监测被制裁的客户及其交易，以此为潜在的洗钱、恐怖融资和其他金融犯罪提供证据。
4.交易算法的选择
目前，诸多市场中介机构在为客户提供软件解决方案，根据市场情况和交易目标，选择合适的交易策略或经纪人以实现最佳执行目的，这种做法被称为“算法轮”。算法轮试图对历史交易及其表现进行分类，预测方案和经纪人的未来表现，提出使用特定算法的时间点。使用“算法轮”处理简单的订单可以让交易员专注于更为复杂的交易流。
5.资产管理/投资组合管理
ML多年来一直用于小规模识别和简单的预测模型来帮助资产管理者和市场中介机构做出交易决策。利润压力和市场竞争正在推动资产管理公司不断创新，为了增强竞争力，强调基础研究能力的管理者开始通过利用多样化的数据源，如社交媒体、地理空间数据和其他元数据来扩展现有的定量方法，以加强内部研究。
（二）资产管理人的使用现状
资产管理人对AI和ML的使用处于萌芽阶段，其主要用于管理人决策，体现在三个方面：优化投资组合管理
对投资决策提出投资建议
提高内部研究能力、完善后台功能
三、AI和ML的风险
国际证监会将市场中介机构和资产管理人对AI和ML的使用情况拟定为该组织近期工作的优先任务。证监会组织董事会于2019年4月授权第三委员会和第五委员会提出审查AI与ML监管的指导意见，组织成员可以采纳该意见来解决AI和ML在开发、测试以及部署等过程中产生的行为风险。国际证监会于2020年6月发布报告，初步指出AI和ML在开发、测试和部署阶段可能产生的潜在风险。报告指出，风险面主要集中于五个方面：
（一）治理和监管
目前，公司主要是在现有治理与监管框架下监督AI和ML的开发与使用。多数情况下，使用此项技术仅需要遵循现有审查流程，确定风险管理模式，满足监管要求并经高级领导层批准即可。对于这部分内容，受调查公司存在如下意见：AI、ML算法与传统算法之间没有本质区别，公司没有必要修改现有程序来管理AI和ML产生的风险。
由于该项技术的实施离不开高级领导层的最终决策，使用AI和ML的最终责任应由公司的高级领导层承担。
风险主要集中于AI和ML的开发与测试阶段，而非模型的整个生命周期，模型一旦实施，公司可在业务流程中监控AI和ML的使用。
任用具有编程背景的特定合规人员来监督AI和ML的开发。
（二）算法开发、测试和持续监控
无论企业使用的是AI和ML还是传统算法，企业都应具备稳健且易于理解的开发测试框架。从调查情况看，大部分公司在使用AI和ML时仍使用与传统算法相同的开发测试框架。算法结果的正确性取决于数据质量，过多的非实质性数据或“噪音”数据不仅对算法毫无益处，还会导致出现意外情况，而稳健的开发测试框架有利于算法从“噪音”数据中区分无用数据和有益数据。AI和ML在现有传统开发框架下处理的数据越多，它们出现问题的几率就越大。因此，AI和ML在整个部署阶段都应受到监控。虽然一些公司指出他们会在必要时审查或修改现有框架，但对于后期制作阶段的模型管理关注度仍然不够。
（三）数据质量和偏差
AI和ML的性能本质上取决于数据集的质量。部分受访者认为，数据集的质量会对AI和ML应用程序的性能产生重大影响。数据集中习得的偏差可能会影响算法做出的决策，一旦作出歧视性决策，将会给市场参与者带来不良后果。例如，以某种方式或顺序提问可能会导致回答者产生偏见，提问者或受访者因偏差得出的数据集将会影响算法得出的结论。
（四）透明度和可解释性
AI和ML的有效使用存在两个前提，一是算法模型准确，二是易于理解。保证算法的可理解性要求企业对算法的使用进行披露，增加企业使用AI和ML的透明度。此种做法可以增强公众对技术使用的理解，但过度的透明度可能会造成混乱或个人操纵模型的机会。公司应适当披露产品的信息，以帮助客户了解产品的性质和风险。应用无法解释的ML算法来完善交易策略会使公司面临更大的法律和监管风险。
（五）外包
调查显示，公司在不同程度上使用了外部AI和ML提供商。大规模公司通常与外部供应商合作开发或实施AI与ML，小规模公司倾向于直接使用外部供应商提供的方案。过于依赖外包服务可能会在AI和ML领域产生外包风险。在公司不具备对外包服务的调查评估能力的情况下，还会引起公众对数据隐私、网络安全和运营风险的担忧。
（六）道德风险
金融危机后，市场参与者开始提升对道德和信任的关注度。在使用AI和ML的过程中，模型一旦存在某种偏差，便容易引发道德问题，如数据清理、数据匿名化等如果没有得到模型的有效考量，就会增加数据泄漏的风险。随着算法模型在市场中运用范围的扩大，企业及其员工如何满足道德考量，在实践中还存在困难。对此，证监会提出五点要求用以衡量算法的道德风险：有益性、无害性、自治性、公平性、可解释性。
四、企业对风险的反映
（一）监管下使用
部分公司在现有监管框架下使用系统控制、高级管理层问责制、风险管理、外包和治理等高级通用规则来部署AI和ML。AI和ML算法在部署之前应在远离市场的安全环境中进行严格测试，并在算法的整个生命周期对其进行持续监控。许多司法管辖区要求公司具备完整控制系统的同时，缺少专门适用于AI和ML算法的监管要求。在此种情况下，企业应当考虑是否能仅依靠现有监管法规使用此项技术。此外，并非所有的ML技术都符合现有法律或法规的要求。算法的透明性和可解释性时常会与监管制度产生冲突，从而限制算法的使用。
（二）不用或限制使用
部分公司表示，在适用于AI和ML使用的法律法规出台前，将会选择不使用或限制使用AI和ML。这些公司认为他们没有足够的资源或专业能力来理解AI和ML，因此无法对其进行监控。此外基础设施等问题也阻碍了他们采用AI和ML算法。
五、国际证监会指导意见
国际证监会综合上述调查情况，在本次报告中提出了企业使用AI和ML的意见指南，以协助国际证监会成员监督市场中介机构和资产管理人对AI和ML的使用情况。意见指南包括六项具体措施，明确了市场中介机构和资产管理者使用AI和ML的预期行为标准。该指南虽没有强制约束力，但国际证监会号召组织成员在本国监管和法律框架下仔细思考这些措施，注重措施与现实情况的相称性。
措施一：监管者要求公司指定高级管理人员负责监督AI和ML的开发、测试、部署、监控和控制，包括建立内部治理框架及明确的问责制。公司应指定一名具有相关技能知识的高级人员或个人小组签署技术的初始部署和实质性更新等文件，该职位也可与监督总体技术或数据的现有人员相结合。
措施二：监管机构要求公司充分测试和监控算法，持续验证AI和ML算法的结果。测试安排在部署前，并与现场环境隔离，以此确保AI和ML算法在压力和非压力条件下的表现符合预期，并以符合监管义务的方式运营。
措施三：监管机构要求公司具备足够的技能、专业知识和经验，用以开发、测试、部署、监控AI和ML算法。合规和风险管理职能部门应具备理解和质疑算法的专业能力，对第三方提供商进行尽职调查。
措施四：监管机构要求企业了解其对第三方提供商的依赖程度，管理与第三方提供商的关系，包括但不限于对第三方提供商进行监督。公司应制定外包职能范围和提供商责任清晰的服务协议，确保第三方提供商的责任承担，适当情况下可明确绩效指标，载明绩效不佳的补救措施。
措施五：监管者应考虑企业使用AI和ML算法的程度，包括：要求公司向客户披露通过AI和ML算法得出的有用信息，以此改善客户行为；使用AI和ML算法的公司所披露的信息，确保监管机构对这些公司进行适当监管。
措施六：监管者要求公司适当控制AI和ML算法，以保证其性能所依赖的数据质量，使数据在最小化偏差值范围下，广泛地应用于AI和ML算法。
相称性是组织成员审议和执行意见指南的前提条件，监管者和企业在找寻措施防范或解决AI和ML带来风险的同时，应当结合AI和ML的自主程度、活动复杂性、风险状况，以及技术对客户利益和市场完整性的影响等因素，综合判断指南措施的适用程度。国家证监会鼓励公司以相称性为前提，在原有商业模式和法律、监管框架的背景下实施以上措施。
整理：李潇参考文献：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD684.pdf
图片来源于网络
