国金认证推出人工智能金融应用伦理治理评估模型

• 2022-11-30 17:09:35 来源：中国金融新闻网

【资料图】

近期，北京国家金融科技认证中心以《金融科技伦理治理指引》（JR/T 0258-2022）为准绳，结合人工智能伦理治理要求，贯彻“以人为本、科技向善、权益保护、责任担当”的伦理理念，聚焦“算法滥用、数据鸿沟、隐私保护”等挑战，打造基于自我声明与第三方评估相结合的多元化评估模式，推出人工智能算法应用全生命周期伦理治理评估模型。

《金融领域科技伦理指引》（JR/T 0258-2022）由人民银行印发，从“守正创新、数据安全、包容普惠、公开透明、公平竞争、风险防控、绿色低碳”七个方向明确了开展金融科技活动所遵循的价值理念，引导金融机构落实伦理治理主体责任，强化社会责任与担当，通过“负责任”技术创新打造“有温度”金融服务，更好满足人民群众对美好生活的期待与向往。

构建基于“伦理挑战”和“伦理理念”的全生命周期人工智能伦理评估模型

据介绍，该评估模型及其指标体系采用矩阵式设计，以“以人为本、科技向善、权益保护、责任担当”的伦理治理理念为纵线坐标，以“数据安全、算法滥用、无序竞争、数字鸿沟”的伦理挑战为横线坐标，形成全生命周期人工智能伦理评估的模型框架，通过对评估指标的设计映射至模型矩阵，既可以指导人工智能伦理风险的防范工作，也是开展人工智能伦理评估工作的评估指标体系。

形成基于人工智能金融创新应用风险等级的差异化评估机制

该模型将人工智能金融创新应用按照风险等级划分为高、中、低三个等级。高风险应用是可能对金融消费者财产安全造成重大损失的应用，比如金融领域内发起资金转移的应用、生物识别的应用，以及辅助投资决策类应用。中风险应用是指除高风险外，直接面对客户、同业或监管机构提供对外金融服务的应用。低风险是剩余情况，一般指将人工智能技术应用与企业内部管理和运营的应用。在对人工智能金融创新应用进行伦理评估时，对不同风险等级的应用采用差异化的评估方法和评估手段。

打造基于自我声明与第三方测评相结合的多元化分级评估模式

为提高人工智能伦理评估结果的社会认知度和接受度，通过“基础级、可控级、可信级”的分级评估模式实现，来支撑伦理治理能力的社会信任体系的构建。基础级标志被评机构在人工智能伦理治理、防范伦理风险的控制能力等方面满足基本信任要求；可控级标志被评机构满足中间信任要求，被评机构提交伦理影响自声明报告以及可以验证其自声明信息的证明材料；可信级标志被评机构满足最高信任要求。

记者了解到，前期，基于上述评估模型国金认证已在部分地区开展先行先试。通过前期实践，已经积累了一定的伦理治理评估经验，在区域内初步形成示范效应，后续将持续完善，进一步推广，支撑金融科技伦理治理相关标准落地实施。

本次评估模型也是我国围绕科技伦理治理等方面的诸多成果之一。2022年11月16日，我国结合相关政策实践，参考国际社会相关有益成果，就人工智能生命周期监管、研发及使用等问题向联合国缔约国大会提交了《关于加强人工智能伦理治理的立场文件》（以下简称《立场文件》），提出以下主张：一是人工智能治理应坚持伦理先行，通过制度建设、风险管控、协同共治等推进人工智能伦理监管。二是应加强自我约束，提高人工智能研发过程中算法安全与数据质量，减少偏见歧视。三是应提倡负责任使用人工智能，避免误用、滥用及恶用，加强公众宣传教育。四是应鼓励国际合作，在充分尊重各国人工智能治理原则和实践的前提下，推动形成具有广泛共识的国际人工智能治理框架和标准规范。《立场文件》指出，中国始终致力于在人工智能领域构建人类命运共同体，积极倡导“以人为本”和“智能向善”理念，主张增进各国对人工智能伦理问题的理解，确保人工智能安全、可靠、可控，更好赋能全球可持续发展，增进全人类共同福祉。

标签： 人工智能 生命周期 以人为本

推荐阅读

猜您喜欢