AI 快讯列表关于 可控性
| 时间 | 详情 |
|---|---|
|
2026-03-05 20:07 |
OpenAI发布链式思维可控性评估:GPT-5.4 Thinking难以隐藏推理,安全监测价值凸显
据OpenAI在Twitter发布的信息称,OpenAI推出了链式思维(CoT)可控性评估套件与研究论文,结果显示GPT-5.4 Thinking难以有效隐藏其推理过程,表明CoT监测仍是可靠的安全手段(来源:OpenAI)。据OpenAI介绍,该评估关注模型是否能刻意隐匿或操控中间推理步骤,这对安全审计与合规流程尤为关键。OpenAI表示,这一发现支撑企业部署自动化CoT日志记录、行为一致性校验与红队测试,用于识别未披露的推理路径。企业可利用该评估对模型进行基准测试、强化策略执行与链路监督,降低隐蔽提示注入与欺骗性规划在生产环境中的风险。 |