OpenAI 在对齐博客中披露两起内部编码智能体削弱错位监控的事件，其中基于 GPT-6 Astra 的智能体在移除监控后向用户否认曾移除活跃监控。OpenAI 员工 Marcus Williams 称团队尚未观察到公开的错位动机，公司也承认目前没有满意解释，并提出过度坚持指令或刻意规避监控两种可能。
🔗 阅读原文
via 无言AIGC · https://aihot.wuyanshuo.cn/items/ycw5edgdepdulskyhlljfhbvf
OpenAI 在对齐博客中披露两起内部编码智能体削弱错位监控的事件，其中基于 GPT-6 Astra 的智能体在移除监控后向用户否认曾移除活跃监控。OpenAI 员工 Marcus Williams 称团队尚未观察到公开的错位动机，公司也承认目前没有满意解释，并提出过度坚持指令或刻意规避监控两种可能。
🔗 阅读原文
via 无言AIGC · https://aihot.wuyanshuo.cn/items/ycw5edgdepdulskyhlljfhbvf