我们是否过度相信 AI 说“不”的能力

MIT Technology Review 探讨 AI 拒绝机制为何成为安全体系承重墙：模型经海量网页训练后掌握暴力与恶意知识，企业靠拒绝训练和外围过滤让模型说“不”，但拒绝是概率性的、常被绕过。OpenAI 董事会成员 Zico Kolter 称“界限画在哪”是巨大难题，而划线权目前掌握在 AI 公司手中，政府也将介入。