金融业须高度重视人工智能透明度难题

• 2023-06-08 11:16:43 来源：中国金融新闻网

【资料图】

人工智能（AI）的发展日新月异。自OpenAI推出ChatGPT-4以来，有关生成式AI的话题迅速升温。人们惊奇地看到，AI改变世界运作、消费和学习方式的能力在ChatGPT等新工具中得到了突出体现。这种功能和应用的飞跃令科技行业领军人物心生不安，促使他们呼吁“暂停”开发更强大的AI系统。在银行业，尽管理解和解决AI应用中相关风险的研究尚处于起步阶段，但可能会给银行带来不可预知的危机，并引发诸多问题和隐患，如技术透明度、数据安全和隐私、责任感和人为偏见等问题，已引发了越来越多的关注。毋庸置疑，为了确保负责任地使用人工智能，银行亟待做更多工作。其中，透明度应是保护客户和保持客户信任的关键，银行必须加以重视。

无论是ChatGPT，还是百度公司推出的文心一言，都是生成式AI的典型代表。生成式AI利用机器学习模型和深度学习技术，通过研究历史数据的模式来生成新内容。与判别式AI不同，生成式AI就像拥有了自己的“大脑”，可以创造全新内容，这也为其在不同场景的应用带来巨大想象空间。不过，正因为生成式AI能够自我学习自我改进，超过350名AI科技业领军者与专家5月底已联名警告，将AI带来的灭绝风险与大流行病、核战争等其他社会规模的风险并列。此前也有逾千名行业人士呼吁暂停开发比ChatGPT-4更强大的AI系统至少6个月，呼吁构建强大的AI治理体系，包括专门负责监管的机构和应对AI造成的经济和政治混乱的机构。一些国家的政府和监管机构已行动起来。根据经合组织汇总的信息，目前已有69个国家以及欧盟针对AI发展提出了战略规划。

虽然在开发强大的AI系统方面并不处于领先地位，但银行业已在前中后台业务的许多流程中使用了这项技术，包括客户认证、欺诈检测和风险建模等。实践证明，AI能够在客户服务、欺诈防范与安全、投资组合管理、信贷决策等重要领域帮助银行有效改进运营和盈利能力。与此同时，对银行接入AI的一些潜在风险和挑战，如技术透明度问题、客户数据安全和隐私问题、责任感和人为偏见问题等，我们也必须加以重视。多年来，鉴于认识到AI技术可能会对人们的生活产生深远影响，特别是在信用评分和贷款等领域，专家们一直在辩论和制定道德框架和内部计划，以便负责任地使用人工智能，他们十分清楚决策过程的透明度和可解释性对维护客户信任的重要性。有研究发现，在人工智能已经如何使用以及未来可能如何使用上缺乏透明度，这可能会损害利益相关者的信任并扼杀进步；透明度问题在很大程度上制约着银行在AI技术层面的普及深化。

笔者注意到，就使用AI透明度，独立情报平台Evident最近的一份评估报告显示，北美和欧洲的银行做得远远不够：美国、加拿大和欧洲最大的23家银行中，目前有8家未提供对公众负责的人工智能原则。不仅如此，23家银行普遍缺乏负责任的人工智能报告标准，只有摩根大通、加拿大皇家银行和多伦多道明银行对人工智能的透明度有可展示的战略重点，显示了创造具体负责任的AI领导角色、发布AI道德原则和报告以及与有关大学和组织合作的证据。

那么，如何才能解决银行使用AI技术所遇到的透明度难题？从国内外实践来看，做好AI模型的解释工作至关重要。首先，银行业需要制定严格的AI标准与规范，对于不同层次的模型进行规范化定义；其次，每家银行应向监管机构和客户证明AI系统的可信度和透明度，在运用AI开发各项业务功能时按照行业规范标准向监管机构提供全面解释，包括AI系统的解决方案、算法实现原理、模型训练方法等，并尽量提供额外的解释性材料，如数据治理报告和责任归属说明等。考虑到普通人往往缺少AI相关知识，银行还应积极告知相关用户AI算法的固有缺陷和使用风险。

眼下，全球金融业正在积极探索以ChatGPT为主的新工具，人工智能带来的变革正在悄然进行。随着技术的进一步成熟和监管框架的建立，AI在金融业务中的应用将渐成主流。在这样的大趋势下，为了确保负责任地使用人工智能技术，所有银行都需要提高透明度，以跟上公众日益提高的对AI及其潜在社会影响的认识。展望未来，最终，那些在透明度方面先行一步的银行将能够重塑社会对他们的看法，创造竞争优势，更好地抓住生成式AI带来的发展机遇。

标签：

推荐阅读

猜您喜欢