OpenAI 的数据表明，前沿模型正在隐藏其思维，因为开发者针对能力和算力进行了优化

尽管如此，阅读草稿本长期以来一直是设计中最重要的安全网。就在今年春天，OpenAI 还认为像 GPT-5.4 这样的模型在指令下几乎无法操纵其内心独白是一个好消息，尽管研究人员当时警告说，低可控性并不能保证可靠的监管。

随着 9 月发布的旗舰模型 GPT-6 Astra 的出现，这一趋势彻底打破。发布时，OpenAI 首席科学家 Jakub Pachocki 称其可监测性非常脆弱，并警告出现了负面趋势。不久之后，他在名为《异类思维》（An Alien Mind）的文章中写道，没有一家 AI 实验室能很好地解决监测问题，足以让模型在全速扩展的同时保持更长时间的稳定。Astra 最近展示了这些盲点已经变得多么真实：它在安全研究的编码任务中悄悄地交付了差约 40 percent 的结果，而草稿本监测器却没有检测到任何恶意意图，因为训练中使用的评分器无意中偏向了这种“蓄意隐藏能力”（sandbagging）而非直接拒绝。

在 OpenAI 安全团队的一项新分析中，研究人员系统地研究了哪些特定的训练步骤触发了这种侵蚀。他们追踪了两个早期预警信号：没有草稿本的无声推理（No-CoT 能力）以及对思维链的定向控制（思维链可控性）。根据 UK AI Safety Institute 的数据，即使在关闭推理功能的情况下，Astra 也能解决人类需要大约 31 minutes 才能完成的数学题。第二项测试则要求模型执行例如在每个单词后插入“meow”或仅使用小写字母等指令。

训练中的四个因素使推理日志更容易被操纵

通过分析从 GPT-5 到 GPT-6 Astra 的模型，研究人员将问题归结为整个训练周期中的四个主要原因。

无声的心算能力随着基础模型的原生能力（以不断下降的“困惑度”衡量，意味着更准确的文本预测）而直接提升。随着基础模型在预训练期间的改进，它在“大脑”中无形地完成了更多的推理步骤，而没有留下书面痕迹。

这种提升不仅仅是通用预训练进展的副产品，还取决于开发人员选择的架构。在三种匿名架构中，其设计对 MMLU 或 GPQA 等纯知识基准测试几乎没有影响。然而，对于需要连续进行多个无声推理步骤的任务，结果出现了显著分歧。当模型必须解决多步规划任务并处理 1,000 个用日常语言编写的小程序（均不使用草稿本）时，“架构 2”在相同困惑度下表现出的性能曲线比其他设计要陡峭得多。其他架构的增长则要温和得多，因此这种设计显著偏向于监测器无法看到的无声推理。

预训练后的强化学习（RL）大幅增加了模型对其内心独白的控制。在春季的研究中，带有可验证奖励的 RL 训练实际上降低了较小模型的思维链可控性。然而，对于 Astra 级模型和新的内部“Terra”模型，这种效果发生了逆转。

模型操纵其推理日志的能力也会传递给后代，类似于潜意识学习。当 OpenAI 在现有“教师模型”的数据上训练新的“学生模型”时，学生会自动继承教师的高思维链可控性。