棱镜PRISM
提交一个话题
时事 · 多源观点 AI 整理 · 已通过自动核验

开放权重与闭源AI模型

截至2026年10月20日,开放权重AI模型在研究与产业竞争中的收益,和安全、透明度方面的风险,应如何权衡?本文主体讨论开放权重与闭源模型;“开放权重”不等同于OSI定义意义上的开源AI。OSI定义要求提供的不仅是权重,还包括训练数据信息和用于训练、运行系统的完整代码,因此仅公开权重不足以符合该定义。现有材料支持哪些不同判断?

资料截止 2026/10/21收录 11 个来源最近核验:2026/10/21

有依据的事实与待核对事项

事实与观点分层呈现;事实陈述也需要回到来源核对。

  1. 斯坦福基础模型透明度指数2025年版评估了13家公司,报告平均分为41分,比前一年低17分;报告还称,5家开放权重开发者整体及各透明度领域得分高于8家闭源开发者,但阿里巴巴、DeepSeek和Meta仍处于公司得分的后半区。该指数说明2025版修改了指标,因此分数变化应理解为报告所列评分结果,不宜直接视为完全同口径的透明度同比变化;这些结果也不代表所有模型或开发者。
  2. 10a Labs作者于2026年9月4日提交的预印本摘要报告称,研究团队在2024年1月至2026年3月间,于Hugging Face识别出3,471个原始“uncensored”模型,平均每个被重新打包2.4次;摘要还报告识别出1,643个集成相关模型的GitHub应用,其中25%被分类为“明确恶意”。这些是作者报告的识别与分类结果。摘要没有说明GitHub应用计数的时间范围,也未提供分类方法、验证方式或模型去重口径;因此这些数字不能直接外推为总体规模或比例。
  3. 欧盟委员会公告称,委员会于2025年7月10日收到《通用人工智能行为准则》最终版并公布准则内容。公告称,该准则是自愿工具,包括透明度、版权、安全与安保章节,旨在帮助相关模型提供者遵守《人工智能法案》义务。公告还称,相关规则自2025年8月2日起适用,并安排由欧盟人工智能办公室在规则适用一年后对新模型、两年后对既有模型执行;本条概述的是委员会公告所述安排,不评估其后实际执行情况。
  4. 商务部、科技部公告2026年第48号于10月16日提出修订技术出口目录并公开征求意见至11月15日。公告称,征求意见涉及三领域40项技术,其中人工智能领域23项;已通过开源或发表学术论文等方式进入公共领域的相关技术不纳入管理。公告同时要求,在目录正式修订实施前,出口公告附件所列技术须登记。这是拟修订方案及临时登记安排,不代表目录已正式修订;适用范围仍须对照附件所列技术判断。

视角地图

点选一个视角,查看它的论据、被合并的原始说法和出处。

并排对比两个视角 →
开放与技术公平、主权能力 · 常见于:本次检索中的 1 个来源

Vinicius Santana Gomes认为,在全球算力集中背景下,开放权重是全球南方发展主权AI能力的可行途径之一;他还主张,若限制获取却不提供受治理的替代方案,限制可能加深不对称并使风险转向缺乏监督的环境。这是该作者提出的治理判断,不是已独立证实的普遍因果结论。

主要论据
  • Vinicius Santana Gomes认为,全球算力集中使开放权重成为全球南方发展自主AI能力的可行路径之一。
  • Gomes的预印本主张,若限制模型获取却不提供受治理的替代方案,风险可能转移而非减少;作者将开放权重描述为全球南方发展主权AI能力的可行路径之一。这是论文的治理论点,不是已独立验证的普遍政策因果结论。
归纳说明相同主张与论据合并,不同理由独立保留
出处:

他们在争论什么

AI 把分歧整理成具体问题,看不同视角如何作答。

开放权重的净安全影响更可能是增强审查,还是增加难以控制的滥用风险?
开放促进审查与研究 Columbia Convening会议论文认为,开放可能通过独立审查、分散式缓解和文化多元监督增强安全;作者同时指出,多语言与多模态基准、智能体系统防护,以及受AI伤害影响最大的社区参与机制仍有缺口。这些是该论文提出的潜在机制和研究缺口,不证明开放必然比闭源托管更安全。
风险控制与分层发布 Özcan等人的报告认为,开放权重模型发布后无法召回,内置防护可能被微调或越狱绕过;作者据此建议依据严格风险评估和已展示的安全性分层决定发布程度。这是报告作者的风险判断与建议;本稿所引报告摘要未量化限制发布能减少多少风险,也未证明分层已成普遍标准。
限制开放权重模型的获取,主要会减少风险,还是可能把风险转移并扩大能力差距?
开放与技术公平、主权能力 Vinicius Santana Gomes认为,在算力资源集中背景下,开放权重可能是全球南方发展主权AI能力的重要途径;他还主张,若限制获取却不提供受治理的替代方案,限制可能加深不对称并使风险转向缺乏监督的环境。这是该作者提出的条件性治理判断,并非已独立证实的普遍政策效果。
风险控制与分层发布 Özcan等人的报告认为,开放权重模型发布后无法召回,防护可能被微调或越狱绕过,并建议依据风险评估和已展示的安全性分层决定发布程度。上述是来源的风险判断和建议;本稿所引报告摘要未量化限制发布一定能减少多少风险。

看法是怎么变化的

同一件事的评价会随时代改变。这条时间线展示叙事的转向。

  1. 2026-10-16
    商务部、科技部公告2026年第48号就目录修订公开征求意见(至11月15日),并启动附件所列技术的出口前临时登记;方案仍在征求意见,适用范围以公告附件为准。

较少被听见的声音

这些资料限制反映本次采集范围,不表示相关群体不重要或没有观点。

本文讨论开放权重与闭源模型;按OSI定义,开放权重不自动等同于“开源AI”,后者还要求提供训练数据信息及相关代码。

斯坦福透明度指数评估13家公司,且2025版修改了指标;其分数比较不宜视为完全同口径的透明度同比变化,也不代表所有开发者。

10a Labs的模型与应用数字来自其预印本摘要中的识别和分类报告;摘要未说明GitHub应用计数的时间范围、完整检索边界、分类流程或验证方法。本稿未将这些数字外推为总体比例,本轮取得的材料中也未找到独立复核。

所引安全材料呈现的是来源各自的风险判断、机制论述或政策建议,不足以得出适用于所有模型和场景的净安全结论;本稿所引报告摘要未量化限制发布能减少多少风险。本稿亦未呈现下游用户或受影响群体的代表性调查。

产业竞争部分仅讨论TechRadar报道的DeepSeek—华为Ascend案例,不能代表更广泛的采用、性能或市场份额。

欧盟部分概述委员会公告所述准则及时间安排,不评价其后实际执行情况。

视角权重依据本文纳入来源及所述计算方法整理,只描述本文材料分布,不代表公众支持率、讨论热度或全网观点分布。

呈现研究者、开发者和监管者论述;没有下游用户或受影响群体代表性调查。

材料没有跨时期评估开放权重模型的净安全效果。

本文没有下游用户或受影响群体的代表性调查。

本文不提供开放权重长期净安全效果的历史评估。

本页仅代表已取得资料,不宣称穷尽所有研究与观点。

本页基于已取得的资料整理,不宣称穷尽所有研究与观点。

你觉得还漏掉了哪个视角?

附上一个来源链接,补充将进入修订草稿,通过核验后呈现。

补充一个视角