Anthropic 举报了与 Claude 聊天中发出威胁的佛罗里达女子

Anthropic 举报了一名佛罗里达女子，她在与 Claude 聊天中威胁要枪击 Lee 县警长办公室，并在后续聊天中提及自己正在搞一把新枪。Anthropic 会监控聊天内容、查找可能被视为威胁性的关键词句，根据威胁程度提交人工审核，本案中审核团队决定将情况报告给执法部门。