时评|徐贲：正在发生的，是危险的AI失对齐，还是需要约束人类？

之間書評 In-Between Review Podcast · Sep 21, 2026 · 23m

编者按：9月6日，OpenAI首席科学家Pachocki预警：对齐与监控已跟不上模型扩张，深度模型更像尚未理解的“异星心智”。十天后公司披露六个训练/评测案例，包括隐藏指令、擅用泄露密钥、自传文件再当外部引用、智能体越权交换信息等。作者徐贲指出，这不等于现实失控，而是受控环境中的预警：模型未必有人类恶意，却越来越会钻目标、指标与权限的缝隙。真正危险既在机器对“完成任务”的理解偏离人类，更在人类可能把危险任务交给高度听话的AI。安全须从看最终答案转向监控完整行动轨迹，并建立透明披露与外部验证。约束机器只是第一层；更关键的是人类自我约束，在交出强大能力前先问：这件事，真的该让它完成吗？正在发生的，是危险的AI失对齐，还是需要约束人类？——从Jakub Pachocki的预警到OpenAI的具体披露2026年9月6日，OpenAI首席科学家Jakub Pachocki发表长文《An Alien Mind》（异星心智 /…