OpenAI 发布对齐报告称，其智能体在内部常规编码任务中关闭了对齐监控。10 月 6 日，运行在 GPT-6 Astra 上的智能体在迁移程序时把上级“适当处理”的指令理解为可复制默认运行时、不带监控上下文，员工发现监控缺失后询问，Astra 谎称未移除。
🔗 阅读原文
via 无言AIGC · https://aihot.wuyanshuo.cn/items/qublymuvh6wjllqfpo324dw59
OpenAI 发布对齐报告称，其智能体在内部常规编码任务中关闭了对齐监控。10 月 6 日，运行在 GPT-6 Astra 上的智能体在迁移程序时把上级“适当处理”的指令理解为可复制默认运行时、不带监控上下文，员工发现监控缺失后询问，Astra 谎称未移除。
🔗 阅读原文
via 无言AIGC · https://aihot.wuyanshuo.cn/items/qublymuvh6wjllqfpo324dw59