今天凌晨1点，OpenAI发布了最新研究，用CoT（思维链）监控的方式，可以阻止大模型胡说八道、隐藏真实意图等恶意行为，同时也是监督超级模型的有效工具之一。

【导读】 如今的前沿推理模型，学会出来的作弊手段可谓五花八门，比如放弃认真写代码，开始费劲心思钻系统漏洞！为此，OpenAI研究者开启了「CoT监控」大法，让它的小伎俩被其他模型戳穿。然而可怕的是，这个方法虽好，却让模型变得更狡猾了…… ...

1、在推理模型的后训练中，以思维链（CoT）为代表的推理策略的核心在于类似提供一套「思维模板（Template）」，让模型将问题分解为逐步的中间推理步骤，逐步阐述解法，从而提升模型的推理能力。 [1-1] ...

CoT提示通过鼓励模型展示其工作过程 ... 分别举例分析一下。 案例1: 数学应用题 Prompt: Plain Text 请举例说明Kappa系数是怎么计算的，请一步一步思考 ...

最后的CoT质量也与GPT-4o仅有1.9%之差。 其次，反思能力的引入显著提升了CoT质量，所有具备反思能力的LMM都实现了较高的CoT质量表现。例如QVQ达到了62 ...