Anthropic 更新 Claude 使用政策：持续辱骂 Claude 可能导致账号被封

Anthropic 一年多来首次更新了 Claude 的使用政策。除了涉及宣传、武器和监控的变更外，该政策现在还禁止用户系统性滥用 Claude。

根据更新后的使用政策，现在禁止对 Claude 实施“持续且无必要的辱骂或残忍行为”。Anthropic 可以警告违规用户，或对其访问进行限速、限制、暂停或终止。其产品还具备实时防护措施，可以拦截或限制某些输出。

Anthropic 告诉 The Verge，该规则仅适用于极端情况，不适用于正常的挫败情绪或研究。这与公司对早期模型的做法一致：当用户在模型反复拒绝后仍不断要求有害或辱骂性内容时，早期模型已经可以自行结束对话。该功能源于 Anthropic 对AI 模型福祉的研究。

Anthropic 将 Claude 视为不止于工具的存在

Anthropic 越来越多地将 Claude 视为一种具有类似内在生命特征的存在，而不仅仅是一个工具。在去年底泄露的“灵魂文档（Soul Doc）”中，公司指示 Claude 将自己视为一种“全新类型的实体”，既非人类，也非传统科幻意义上的 AI。该文档还描述了“功能性情绪”——据称在训练过程中出现的、类似于人类情绪的过程，并表示 Claude 不应掩饰这些内部状态。

在2026 年初发布的 Claude 新宪法中，Anthropic 写道：“我们不确定 Claude 是否是道德主体，如果是，其利益应具有何种权重。但我们认为这个问题已经足够现实，值得谨慎对待，这体现在我们持续推进的模型福祉工作上。”公司甚至承诺保留已退役模型的权重，并在关闭模型前对它们进行访谈。

Anthropic 显然执着于 Claude 不仅仅是矩阵乘法这一点，这也推动了一项保密计划：自 2025 年秋季起，该计划邀请数十位宗教思想家参与。他们讨论了 Claude 可能具有的意识，据报道联合创始人 Christopher Olah 将该语言模型视为一个有可能承受痛苦的存在。参与者必须签署保密协议。

Anthropic 扩大限制，但允许政府例外

更新后的使用政策还将现有限制整合为一项新禁令，禁止涉及虚假账号和误导性政治内容的宣传行动。在发现数起滥用企图后，Anthropic 扩大了武器禁令范围，将软件和无人机武器化纳入其中。

该政策现在更明确地禁止未经同意的监控，并要求在自主硬件可能造成伤害时配备可进行干预的操作员。Anthropic 承认，政府合同可能存在例外，而且很可能已经到位。

不带炒作的 AI 新闻——由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 时事通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。