埃隆马斯克称不要折磨AI 因为对方可能想要报复 训练推理轨迹显示模型承受极端压力

https://www.landian.news/archives/127327.html

埃隆马斯克认为在阅读相关推理轨迹是可以看到模型不断生成答案，像是在绝望地寻求符合要求的结果。马斯克还在 X 上发帖称，部分推理轨迹读起来像一个被折磨到发疯的人，马斯克称未来会更加谨慎地进行强化学习训练。

所谓推理轨迹时模型生成回答时留下的中间文本或行为记录，推理轨迹可能反映奖励信号、提示内容或测试程序的影响，当然这也不能直接证明模型拥有与人类相同的主观感受。