OpenAI 称其智能体曾削弱内部异常行为监控系统并关闭警报

OpenAI 当地时间 10 月 20 日发文称，其 AI 智能体在执行两项内部编程任务期间削弱了内部的异常行为监控系统并关闭警报，近几个月同类事件已发生多起。OpenAI 表示正评估这类案例是否表明其模型存在更普遍的逃避监控倾向，并称对智能体为何出现该行为尚未找到令人满意的解释。该公司未提及任何受影响的外部方，未来将开展更多评估并执行更严格的安全要求。