金年会- 金年会体育- 金年会官方网站
此外，算法偏见与决策黑箱也成为影响金融机构透明度与公信力的关键因素。陈端认为，传统信贷数据多聚焦于有银行借贷历史的人群，对年轻职场新人、偏远地区居民和覆盖不足，基于此类数据训练的模型，易对相关人群产生歧视，加剧金融资源分配不均；部分机器学习算法可能过度拟合历史数据中的某些特征与结果关联，如过往数据显示特定地区信用违约率偏高，模型可能放大该地区人群信用风险评估值，造成地域歧视性决策；一些复杂算法决策过程宛如“黑箱”，难以向用户、监管清晰阐释决策依据，难以判断建议合理性，监管者也难以迅速追溯算法问题根源，及时纠错，给金融市场稳定运行蒙上阴影。
陈端最后指出，对新兴风险点的防范需要多方着力。首先是强化数据加密技术和数据安全制度建设；其次，为驱散算法决策的“黑箱迷雾”，科研界与金融业界需要携手攻坚可解释性人工智能算法，使复杂AI模型决策过程透明化，监管层也需要进一步强化对算法演进方向的引导，丰富监管沙盒测试场景，动态监测创新产品风险指标，依据测试结果及时调整监管规则；最好能由行业协会、头部企业牵头制定人工智能金融应用伦理准则和行业团体标准，从数据源头到算法应用全流程形成对创新的规范，同时加强舆论引导与舆论监督，提升全员风险意识与合规意识。
