人工智能源头治理:基于技术内生性风险的体系建构

聂 玮(深圳市源创力离岸创新中心,中国)
季 一尘(深圳市源创力离岸创新中心,中国)

DOI: http://dx.doi.org/10.12349/tie.v3i7.11275

Article ID: 11275

摘要


AI技术发展在为社会带来巨大便利的同时,也引发了算法偏见、数据污染、模型不可解释性等源头性风险和治理难题。本文基于源头治理视角,剖析技术内生性风险,针对现行AI治理架构的局限性与源头治理的缺位,提出构建技术手段与管理机制并重的源头治理体系的设想,并特别强调:应确立以研发人员为核心的终极问责体系,通过细化个人责任边界、构建资质与追责衔接的管控机制、完善配套法律与追偿制度以及压实全流程伦理履职义务,实现风险与责任的精准匹配。

关键词


人工智能;源头治理;内生性风险;技术规制;研发人员责任;伦理审查

全文:

PDF PDF

参考


冀文超. 河北省人工智能学会理事长王书海:我国人工智能治理难点集中在三个“跟不上”[EB/OL]. (2026-03-19). https://www.cnr.cn/

汤皓. 2025年度AI乱象调查 | 如何从源头治理:法律、模型、数据三管齐下[EB/OL]. (2025). 上游新闻. https://www.cqcb.com/.

乐玮坤. 健全人工智能前瞻型治理体系[EB/OL]. (2026-01-21). https://www.zjwx.gov.cn/col/col1673580/art/2026/art_867ddfc2172748e1857abacefedfbe5f.html.

冯一帆.人工智能技术的风险防范策略研究[N].中国工业报,2025-10-27(016).DOI:10.28076/n.cnki.ncgyb.2025.001817.

尤建新.AI智能进化下的数据治理思考[J].上海质量,2026,(4):12-18.

金洁华. 《高质量数据集建设指南(征求意见稿)》技术文件及相关标准浅析[EB/OL]. (2025-07-10). https://www.cww.net.cn/article?id=602077;李荪, 等. 信通院李荪等:从“经验驱动”向“标准驱动”,推动人工智能高质量数据集建设[EB/OL]. (2025-04-30). http://www.cww.net.cn/article?id=600085.

师东菊,卢国强,马宝英,等.算法逻辑与自由意志:医学人工智能应用中的伦理冲突与治理路径[J/OL].中国医学伦理学,1-8.https://link.cnki.net/urlid/61.1203.R.20260520.0957.006.

冉黎黎. 防止偏见歧视、算法压榨,重磅政策出台剑指AI科技伦理治理[EB/OL]. (2026-04-07). https://www.21jingji.com/article/20260407/herald/ac405a6c5f1f129c4200064d4364183b.html.

中国信息通信研究院. 人工智能行业安全治理研究报告——推进人工智能安全治理产业实践框架(2025年)[R]. 北京: 中国信通院, 2026-01-10;众森企服. 深度剖析|一文吃透《生成式人工智能服务安全基本要求》(GB/T 45654—2025)[EB/OL]. (2025-11-18)[2026-06-01]. https://cloud.tencent.com.cn/developer/article/2590282.

王春晖. 通用人工智能加速落地,伦理风险成为系统性治理命题[EB/OL]. (2026-04-09). https://www.szzg.gov.cn/2026/szzg/zcjd/202604/t20260409_5306803.html

第一财经|AI科技伦理审查新规发布,哪些看点值得关注 - 智源社区,https://hub.baai.ac.cn/view/53861

褚松燕,孙幼龄.中国人工智能伦理治理的政策规制:图景与逻辑[J].中国行政管理,2026,42(4):35-46.DOI:10.19735/j.issn.1006-0863.2026.04.04.

全国网络安全标准化技术委员会. 2025年人工智能安全治理框架2.0版[EB/OL]. (2025-09-23). https://m.book118.com/html/2025/0920/8101062050007134.shtm

张逸瑞, 冯宝宝. 《生成式人工智能服务安全基本要求》要点解析[EB/OL]. (2025-12-15). https://www.lawyers.org.cn/info/7abfab1c2490481a89481d0bc9e3c5a8

simcode. 【SITS2026权威解读】:中国信通院+华为+阿里联合制定的AI原生研发底线标准(含12项可审计技术条款原文对照)[EB/OL]. (2026-04-10)[2026-06-01]. https://blog.csdn.net/simcode/article/details/160024286;Ha_Co. 人工智能安全治理框架2.0解读:全生命周期治理与可信准则化的新范式[EB/OL]. (2025-10-09)[2026-06-01]. https://blog.csdn.net/u014419174/article/details/152812484

蔡静静,王庆瑜,于冰洁.欧盟人工智能治理范式转型及对我国的启示[J/OL].世界科技研究与发展,1-13[2026-06-01].https://doi.org/10.16507/j.issn.1006-6055.2026.04.001.;AI产品认证. 欧盟AI责任法案正式生效,企业须为算法错误买单[EB/OL]. (2026-04-21)[2026-06-01]. https://www.jianshu.com/p/c4cc57945aab

马宇菲,张吉豫.人工智能技术标准体系与法律法规体系的协同机制研究[J].行政管理改革,2026,(2):119-128.DOI:10.14150/j.cnki.1674-7453.2026.02.006.


Refbacks

  • 当前没有refback。


版权所有(c)2026 聂 玮, 季 一尘

Creative Commons License
此作品已接受知识共享署名-非商业性使用 4.0国际许可协议的许可。