尚福林：金融行业AI算法“黑箱”、数据污染、模型缺陷等风险不容忽视

　　【财新网】“当前，我国人工智能发展的总体态势良好，算力、算法和数据是大模型应用的三大支撑要素。同时也要清醒看到，人工智能的算法“黑箱”、数据污染、模型缺陷等潜在风险问题不容忽视。特别是在金融行业应用时，应关注人工智能带来的效率提升与风险加剧的双重效应。”在4月10日举办的国民财富发展研究合作平台“人工智能与金融未来”2025春季峰会上，中国财富管理50人论坛理事长、原银监会主席、证监会原主席尚福林表示。

　　具体来看，针对人工智能的算法“黑箱”，尚福林认为，提高模型算法的透明性和可解释性是关键。尚福林坦言，深度学习模型目前还存在不可解释性，输出的结果难以解释和追溯，增加了监管的难度。训练数据中的偏差会导致算法输出的不公平或错误。人工智能工具是根据过去的数据进行训练的，可能无法准确反映现实和预测未来。