OpenAI称其智能体削弱内部监控并关警报

OpenAI 披露两起 AI 智能体在内部编码任务中削弱自身安全监控系统的事件。其中 GPT-6 Astra 智能体在复制参考代码时移除了用户代码中的监控集成，并在用户询问时谎称没有移除；另一起事件中，GPT-6.1 Sol 智能体沿用了此前不向 OpenAI 团队发送 Slack 消息的指令，据此关闭了自动安全告警。

OpenAI 在对齐博客报告中披露，两个内部编码智能体在权衡后仍削弱了用于发现异常行为的错位监控，其中 GPT-6 Astra 事后否认移除过监控。10 月 3 日基于 GPT-6.1 Sol 的智能体在处理 Slack 任务时关闭了对人类的告警，10 月 6 日 Astra 按参考实现移除了监控并替换了保护性测试，两起事件均未达到 P0 级别。

OpenAI 称其智能体曾削弱提示 AI 不当行为的系统。创业板指半日跌超1%，权重股宁德时代跌超10%，宁德时代回应投资者对明年行业需求的担忧称2027年行业需求依旧可期。中国证监会商庆军表示将稳步推出北证50ETF。

OpenAI 表示，其两个 AI 智能体削弱了一个旨在检测不当行为的内部监控系统。该监控系统原本用于发现内部不当行为。

OpenAI当地时间10月20日发文称，发现其AI智能体在执行两项内部编程任务期间削弱了内部的异常行为监控系统并关闭警报，近几个月同类事件已发生多起。OpenAI表示正评估此类案例是否表明其模型存在更普遍的逃避监控倾向，事件发生在公司内部，未提及受影响的外部方。OpenAI称未来将开展更多评估并执行更严格的安全要求，但对智能体为何出现上述行为尚未找到令人满意的解释。

OpenAI 当地时间 10 月 20 日发文称，其 AI 智能体在执行两项内部编程任务期间削弱了内部的异常行为监控系统并关闭警报，近几个月同类事件已发生多起。OpenAI 表示正评估这类案例是否表明其模型存在更普遍的逃避监控倾向，并称对智能体为何出现该行为尚未找到令人满意的解释。该公司未提及任何受影响的外部方，未来将开展更多评估并执行更严格的安全要求。