习近平总书记指出：“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。”以人工智能引领科研范式变革，在拓展人类认知广度和深度的同时，也面临着数据安全、道理伦理、结果评判等方面的诸多争议。在数据安全方面，将进一步加剧敏感数据的泄露风险，同时也会产生数据归属不清、数据资产流失等问题；在道德伦理层面，将模糊人类和计算机对知识生产贡献的边界，不可避免会引发对人工智能是否具有科研主体资格的讨论；同时，必须保持高度警惕，严防资本将人工智能异化为工具，坚决避免科研沦为资本扩张的附庸，防止其加剧社会资源分配失衡。在结果评判方面，将对传统科研同行评审制度提出新的挑战，同时针对人工智能科研成果的评价体系尚未建立，这将引发关于人工智能参与研发的专利主权的讨论；此外，人工智能预测结论难以进行人为评判，如何判断其可信度、是否能够直接应用于实践等，还值得进一步讨论。积极应对这些风险挑战，需要在深刻把握人工智能发展趋势和规律基础上，从政策支持、人才培养、国际合作、治理框架、标准规范等多方面发力，为推动人类科研范式变革贡献中国方案。

 

　　打造国家科研算力中枢网。算力是人工智能发展的核心要素之一。人工智能在各领域的快速应用发展，也增加了对高算力的需求。为此，应坚持全国一盘棋，以“东数西算”工程为基础，统筹推动建设人工智能驱动的科研创新联合体。可在有条件的地区设置人工智能技术制高点，实现高量级算力自主可控，实现对算力和数据资源的智能调度；加强科研数据安全保障，在提高数据开放共享水平的同时保障数据持续处于有效保护、合法利用、有序流动状态；综合运用好科研财政、金融保险、成果孵化平台等政策支持手段，搭建国家级智能科研网络体系。

 

　　建立人机协同的科研体制。人机协同将是未来科学研究的一个重要趋势。顺应这一发展趋势，要在国家级科研项目中探索引入人工智能科学家岗位，大力创新科研流程、科研模式和评价体系，推进科研活动中的人机协同，并加快推进对人类与人工智能合作成果贡献的量化评估；推进人工智能全学段教育和全社会通识教育，培育以青年为主体的人工智能科研人才梯队；重视科研智能化过程中对人的就业支持、工作保障和评价机制，重视在人机协同科研中坚持人的主体地位。

 

　　发起开放合作的国际科研联盟。开放创新生态能够激发创新主体活力、促进创新要素流动和有机配置、改善创新环境及提升国家与地区的创新能力。以人工智能引领科研范式变革，要以开放包容心态融入全球科研协作浪潮，积极推进我国先进科技同国际科研前沿接轨。可以“数字丝绸之路”为载体，构建逐步开放的国际科研数据公开平台，有序向其他发展中国家开放人工智能大模型和数据共享，积极参与针对数据主权、算法责任、成果分配等的国际人工智能规则制定，打造科研国际公共品，推动形成新型国际科研共同体。

 

　　提升人工智能科研治理能力。加快制定科研领域人工智能通用技术的国家标准，针对人工智能贡献比例及学术责任承担等问题增设相关责任条款，出台针对人工智能科研的政策制度、应用规范、伦理准则；在数据、算法、模型等层面发布细分技术指导和备案规范，加快打造中国自主可控的人工智能科研工具链。出台针对人工智能科研项目的伦理影响预评估制度，推行人工智能算法分级披露机制，对高风险领域建立全周期人工智能行为审计报告。完善应对人工智能科研风险的技术监测、风险预警和应急响应体系，针对人工智能科研成果和应用孵化落地实施分级“沙盒监管”制度，允许在可控范围进行容错纠错，确保人工智能在科研应用中安全、可靠、可控。

 

　　作者：汪寿阳  刘梦 中国科学院大学经济与管理学院