人工智能应用需要统一认识。当前，金融业对人工智能应用的重要性已形成广泛共识，但对人工智能的定位和作用还存在认知差异。从发展规律看，人工智能的发展与应用并非一蹴而就，而是一个渐进式、需要持续探索的系统工程。要充分认识应用过程中的困难挑战，做好打攻坚战和持久战的准备。从事物本质看，人工智能特别是大模型是一种新技术、新事物，应用得当可实现创新发展，应用不当则会引发未知风险。从目标方向看，要始终坚持走中国特色金融发展之路，坚持以人民为中心，坚持服务实体经济，坚持应用导向和需求引领，着力解决痛点难点问题，赋能金融“五篇大文章”，让人工智能金融应用成果更多更公平惠及全体人民。从统筹规划看，要处理好局部与整体、投入与产出、长期与短期的关系，以系统思维统筹发展路径，以集约理念优化资源配置。

 

高质量数据集建设面临挑战。人工智能应用所需数据的体量大、来源广、类型多、价值高，全生命周期管理面临挑战。在数据采集方面，公开数据集已广泛用于大模型训练，面临数据枯竭风险，未经许可直接使用互联网数据训练模型，可能面临隐私保护、知识产权问题。金融领域虽积累了海量历史数据，但从“原始数据”到“高质量数据”需经过场景锚定、源头把控、清洗标注、测试审查等工序，真实可用的金融高质量数据集明显不足。在数据选取清洗方面，数据来源和污染问题会影响模型输出结果的准确性。若某类数据占比过高，则可能引发模型偏见；若数据含有虚假内容或被恶意篡改，可能产生决策错误；若训练数据存在违法、偏激等有害信息，可能产生扭曲的价值观；若开源基础大模型初始训练数据把关不严，金融机构将无从得知、难以判断，只能通过安全围栏等方式对模型输出内容进行过滤。在数据标注加工方面，需要业务与技术部门强化协同，投入大量人力资源。既要求机构自身具备一定数据治理能力，体现出差异化；也需要行业统筹，解决共性问题。在数据共享方面，金融机构出于商业竞争、隐私安全、合规风险等因素考虑，对数据的跨机构、跨领域共享存在顾虑，不愿主动开放数据资源，“数据孤岛”现象依然存在。在数据安全方面，金融数据往往涉及用户个人隐私或金融机构商业秘密，具有高度敏感性。若大模型在训练中“记忆”了敏感信息，攻击者可通过构造提示词诱导大模型输出敏感信息，造成数据泄露。此外，高质量数据集建设还面临技术支撑工具不成熟问题，自动化清洗、智能化标注等工具难以全面取代业务人员专业经验，实际应用效果欠佳。

 

智能算力产业生态亟待完善。国产智能算力芯片在制程方面存在代差，单张智能芯片卡的算力、能耗比等技术指标均落后于国际领先水平。同时，国产智能算力正处于快速发展、竞争选优阶段，不同厂商采用差异化的技术栈、编程框架与工具链，相互之间缺乏协同联动。金融机构需要适配不同厂商的技术路线，建设成本高、适配难度大，制约了算力的集约化调度与应用。

 

人工智能问题及风险不容忽视。一是模型幻觉问题。当前，大模型的“智能”源于对海量数据的统计性、规律性学习，缺少对真实世界的了解，这导致大模型幻觉问题较为突出，不能保证输出结果的准确性。特别是面对未学习过的知识领域，逻辑谬误和幻觉出现的可能性更高。二是模型黑箱问题。大模型是“被动无意识”的概率计算，没有主动思考推理的过程，而是直接输出结果，本质上仍是对思考过程的概率性预测，可能存在逻辑断层等问题。三是模型同质化风险。若大量金融机构选择同一基础大模型，且不经差异化后训练和调优，极易导致决策趋同，加剧金融市场的顺周期性波动，甚至引发“雪崩式”反应，产生系统性风险。

 

人工智能应用保障体系有待健全。制度体系有待完善，相应的制度规划、监管规则、标准规范等需进一步健全，配套的检测认证机制要逐步建立实施。伦理治理亟待加强，算法可能在性别、种族、地域、职业等方面形成隐性偏见，生成有违伦理道德的歧视性、不公平内容，甚至在金融服务场景中引发伦理争议或社会风险。人才供给还需强化，大模型相关专业人才十分稀缺，且主要集中在互联网及科技领域，金融业人才缺口较大，兼具金融业务与大模型技术能力的复合型人才更为稀少。