委员专区

防范AI潜在风险 CFCA人工智能算法金融应用评估显真章

金融科技是技术驱动的金融创新,旨在运用现代科技成果改造或创新金融产品、经营模式、业务流程等,推动金融发展提质增效。在新一轮科技革命和产业变革的背景下,人工智能技术为未来金融科技发展提供无限可能。


人工智能应用技术框架


作为实现人工智能的重要实现方法,机器学习被广泛应用于人工智能领域。机器学习最基本的做法,是使用算法来解析数据、从中学习,然后对真实世界中的事件做出决策和预测。传统的算法包括决策树、聚类、贝叶斯分类、支持向量机、EM、Adaboost等。从学习方法上来分,机器学习算法可以分为监督学习(如分类问题)、无监督学习(如聚类问题)、半监督学习、集成学习、深度学习和强化学习。而深度学习是机器学习的子类,它是用于建立、模拟人脑进行分析学习的神经网络,并模仿人脑的机制来解释数据的一种机器学习技术。


随着机器学习、深度学习等方法与系统的持续创新与演进,诸如图像识别、语音识别、自然语言翻译等人工智能技术广泛应用到智能客服、智能投顾、智能投研、智能营销、金融风险防控等金融场景下。



image.png


人工智能存在的安全问题


由于机器学习和深度学习的工作原理极为复杂,导致了人工智能算法通常缺乏可解释性。人工智能系统受到闪避攻击、药饵攻击、对抗样本攻击、物理攻击、黑盒攻击、后门攻击、窃取攻击等恶意攻击事件层出不穷,增加了金融交易风险和数据泄露风险。因此人工智能技术应用到金融领域,其安全性变得前所未有的重要。


image.png


如何规避人工智能技术的安全风险


2021年3月,中国人民银行正式发布《人工智能算法金融应用评价规范》(JR/T 0221-2021),为金融机构加强人工智能算法应用风险管理提供指引。该规范规定开展人工智能算法金融应用评价的金融机构、算法厂商、第三方安全评估机构应符合此规范要求。在进行人工智能算法金融应用评估时,评估工作应从安全性、可解释性、精准性和性能方面,通过查阅资料、查看系统、访谈人员、系统测试、攻击测试、算法测试、查看算法等方式开展。

image.png


中国金融认证中心(CFCA)立足于金融行业,目前可提供符合《人工智能算法金融应用评价规范》(JR/T 0221-2021)要求的人工智能算法金融应用评估服务,和您共同守护金融领域安全防线。


来源:中国电子银行网  


首页 | 关于我们 | 活动资讯 | 信息汇聚 | 委员专区 | 专家资源库 | 培训与咨询 | 研究院 | 《金融创新》杂志
公司地址:广州市天河区华强路3-2号富力盈力北塔2007室 电话:020-020-38342313
版权所有:广东省粤港澳合作促进会金融专业委员会    网址:www.yganef.cn    备案号:粤ICP备20021853号  技术支持:宏智网络科技
资讯均转载自其他媒体,目的在于信息传递,并不代表本网站赞同其观点和对其真实性负责。其他媒体、网站或个人转载使用时必须注明文章来源,并自负法律责任。