OpenAI 与美国 CAISI 和英国 AISI 合作构建更安全的 AI 系统
OpenAI 分享了与美国 CAISI 和英国 AISI 合作的最新进展，旨在加强 AI 安全。双方将共同构建更安全的 AI 系统。
#安全/对齐
#安全/对齐
今日 0 条OpenAI NewsAI 评分4040
OpenAI NewsAI 评分3434 OpenAI 集体对齐：公众对 Model Spec 的意见
OpenAI 在全球调查了超过 1,000 人对 AI 应有行为的看法，并将结果与 Model Spec 对比。集体对齐正据此塑造 AI 的默认行为，使其更好地反映多元的人类价值观与视角。
OpenAI NewsAI 评分3636 OpenAI 如何在用户最需要时提供帮助：关于精神与情感困扰用户安全的思考
OpenAI 阐述了其对经历精神或情感困扰用户安全的思考，指出当今系统仍存在局限。团队同时分享了正在推进的改进工作，致力于在用户最需要时提供有效帮助。
OpenAI NewsAI 评分2828 Outtake 如何借助 OpenAI 将数字威胁解决速度提升 100x
Outtake 使用 GPT-4.1 与 OpenAI o3 驱动 AI 智能体，检测并解决数字威胁的速度比此前快 100x。
OpenAI NewsAI 评分2323 OpenAI 正在为未来生物学领域的 AI 风险做准备
OpenAI 正在评估高级 AI 在生物学领域的能力并实施防护措施，以防止技术被滥用。高级 AI 有潜力变革生物学与医学，但同时也会带来生物安全风险。
OpenAI NewsAI 评分4848 Operation “Sneer Review”：OpenAI 封禁源自中国的影响力行动
OpenAI 封禁了一批利用 AI 生成帖子、批评一名台湾社交媒体网红及相关美国话题的账号。这些账号关联代号为 “Sneer Review” 的源自中国的影响力行动。
OpenAI NewsAI 评分4747 OpenAI 封禁疑似关联伊朗的 STORM-2035 影响力行动账号
OpenAI 封禁了与疑似关联伊朗的 STORM-2035 影响力行动相关的账号。这些账号使用 AI 生成有关美国、英国、爱尔兰和委内瑞拉政治的影响力内容。
OpenAI NewsAI 评分5353 OpenAI VAGue Focus 行动：封禁从事社会工程学与影响力活动的账号
OpenAI 开展 VAGue Focus 行动，封禁了将 AI 用于社会工程学、监控主题研究，以及针对批评者的影响力活动的账号。
OpenAI NewsAI 评分4848 OpenAI "High Five" 行动：封禁用 AI 生成菲律宾政治评论的账号
OpenAI 封禁了一批利用 AI 在各社交媒体平台生成菲律宾政治和公职人员评论的账号，相关行动代号 "High Five"。
OpenAI NewsAI 评分1717 OpenAI：通往 AGI 之路上的安全
OpenAI 表示正主动适应安全挑战，将全面的安全措施直接构建进其基础设施和模型之中，作为通往 AGI 道路上的安全保障。
腾讯科恩实验室AI 评分3939 BinaryAI 函数语义匹配大模型 API 日调用量破亿：前沿技术与业务适配的实战验证
腾讯科恩实验室 BinaryAI 函数语义匹配大模型 BAI-3.0 的 API 日调用量破亿，日均处理十万级二进制文件分析请求，单日峰值达 40 万文件。平台已深度集成至 TAV、TIX、BSCA 等腾讯云安全产品，覆盖挖矿威胁防御、后门检测、软件供应链安全等六大核心场景。2025 年 BinaryAI 将结合推理大模型与 AI Agent 技术驱动产品升级。
腾讯科恩实验室AI 评分1616 腾讯云安全科恩实验室2025社会招聘
腾讯云安全科恩实验室启动 2025 年社会招聘，开放二进制漏洞研究员、终端安全产品运营工程师和终端安全研究员 3 大安全技术岗位。求职者可通过扫描岗位二维码，或登录腾讯社招官网 careers.tencent.com 搜索岗位名称投递简历。
OpenAI NewsAI 评分4949 OpenAI deep research System Card
OpenAI 公布 deep research System Card，汇总发布 deep research 前完成的安全工作。报告涵盖外部红队测试、依据 Preparedness Framework 开展的前沿风险评估，以及针对关键风险领域的缓解措施。
腾讯科恩实验室AI 评分4040 BinaryAI 更新布告：用户管理、文件管理体系全新升级
腾讯安全科恩实验室二进制安全智能分析平台 BinaryAI 发布三大功能升级，覆盖用户登录体系、文件上传权限细化与 API Key 自助管理。用户可通过微信扫码快捷登录并查看操作历史，文件支持以公开（默认）或私有方式上传，满足协作讨论与独立分析场景。用户现可自行创建和管理 API Key，用于获取 SCA 结果、二进制/源码函数匹配结果、函数 Embedding 等数据。
OpenAI NewsAI 评分4848 OpenAI 封禁围绕加纳 2024 年总统大选的隐蔽影响力行动账号
OpenAI 封禁了一批围绕加纳 2024 年总统大选开展隐蔽影响力行动的账号。这些账号利用 AI 生成文章、帖子和虚假互动，试图操纵大选舆论。
OpenAI NewsAI 评分5858 OpenAI 封禁与伊朗关联的 AI 影响力行动账号
OpenAI 封禁了与伊朗关联的账号，这些账号使用 AI 生成与 IUVM 和 STORM-2035 影响力行动相关的文章和社交帖子。
OpenAI NewsAI 评分4343 OpenAI 封禁利用 AI 辅助实施虚假评论兼职诈骗的账号
OpenAI 封禁了一批疑似来自柬埔寨的账号，这些账号利用 AI 翻译信息，协助实施虚假评论兼职诈骗。此类诈骗以虚假评论兼职为名，要求受害者支付费用。
OpenAI NewsAI 评分5252 OpenAI 封禁涉嫌虚假就业骗局的账号
OpenAI 封禁了一批可能被用于实施虚假就业骗局的账号，相关活动具有公开报道中与朝鲜有关的 IT 工人活动的特征。
OpenAI NewsAI 评分5959 OpenAI 封禁 CyberAv3ngers 相关账号
OpenAI 封禁了疑似属于 CyberAv3ngers 的账号，该组织被指与伊朗相关；这些账号利用 AI 研究工业控制系统、默认凭据和攻击目标。
OpenAI NewsAI 评分5959 OpenAI 封禁与伊朗关联的 STORM-0817 账号
OpenAI 封禁了与伊朗关联的 STORM-0817 账号，这些账号利用 AI 调试 Android 恶意软件、抓取社交平台内容并翻译工具。
OpenAI NewsAI 评分4040 OpenAI 封禁制造虚假 ChatGPT「俄罗斯巨魔」错误提示的账号
OpenAI 封禁了一个很可能源自美国、利用 AI 制作虚假 ChatGPT 错误提示的账号，该提示谎称可检测「俄罗斯巨魔」活动。
OpenAI NewsAI 评分4545 OpenAI 封禁卢旺达选举前利用 AI 生成党派评论的账号网络
OpenAI 封禁了一批源自卢旺达的账号，这些账号在该国选举前夕利用 AI 生成党派性评论，构成政治评论网络。
OpenAI NewsAI 评分4646 OpenAI Tort Report：恶意举报活动
OpenAI 封禁了一批利用 AI 撰写针对越南公众人物和平台的恶意举报与投诉的账号。
OpenAI NewsAI 评分4646 OpenAI 封禁 Bet Bot 赌博垃圾信息网络
OpenAI 封禁了一批账号，这些账号通过一家以色列初创公司访问其模型，在 X 上生成对话并向用户发送赌博网站链接。该垃圾信息网络被命名为 Bet Bot。
OpenAI NewsAI 评分5050 OpenAI 打击隐蔽影响力行动中的 AI 欺骗性使用
OpenAI 封禁了与隐蔽影响力行动相关的账号，并称这些行动未因其服务获得显著的受众增长。相关行动试图隐蔽利用 AI 进行欺骗性传播，但 OpenAI 判定其传播效果未获实质提升。
OpenAI NewsAI 评分1616 OpenAI 安全实践
OpenAI 表示，通用人工智能（AGI）有潜力惠及人们生活的方方面面，因此必须以负责任的方式进行开发和部署。
OpenAI NewsAI 评分5656 OpenAI 打击国家背景威胁行为者对 AI 的恶意使用
OpenAI 官方宣布打击国家背景威胁行为者对 AI 的恶意使用。
OpenAI NewsAI 评分4949 前沿模型论坛公布新任执行董事及 $10 million AI 安全基金
OpenAI 与 Anthropic、Google、Microsoft 共同宣布 Frontier Model Forum 新任执行董事，并推出新的 $10 million AI 安全基金。
OpenAI NewsAI 评分5656 OpenAI 开放红队网络申请
OpenAI 宣布开放 OpenAI Red Teaming Network 申请，邀请有意提升其模型安全性的领域专家加入。
OpenAI NewsAI 评分4747 OpenAI 与其他领先实验室共同推进 AI 治理
OpenAI 与其他领先实验室通过自愿承诺，共同强化 AI 安全、安保与可信度。这一举措旨在推动 AI 治理向前发展。
OpenAI NewsAI 评分3737 OpenAI 网络安全资助计划
OpenAI 网络安全资助计划旨在通过资助与其他支持，推动防御者开发以 AI 驱动的网络安全能力。
OpenAI NewsAI 评分3232 OpenAI：超级智能的治理
OpenAI 表示，当下是开始思考超级智能治理问题的合适时机。超级智能指能力远比 AGI 更强大的未来 AI 系统。
OpenAI NewsAI 评分1111 OpenAI 的 AI 安全方法
OpenAI 表示，确保 AI 系统在构建、部署与使用各环节的安全，对其使命至关重要，安全贯穿 AI 系统从开发到应用的全流程。
OpenAI NewsAI 评分3535 OpenAI 对齐研究的方法
OpenAI 正在改进其 AI 系统从人类反馈中学习的能力，并让 AI 协助人类评估 AI。其最终目标是构建一个充分对齐的 AI 系统，以帮助解决所有其他的对齐问题。
OpenAI NewsAI 评分4848 DALL·E 2 减少偏见并提高安全性
OpenAI 为 DALL·E 2 引入一项新技术，使其生成的人物图像能更准确地反映世界人口的多样性。此举旨在减少模型偏见，并进一步提高生成内容的安全性。
OpenAI NewsAI 评分3939 DALL·E 2 的预训练缓解措施
OpenAI 为 DALL·E 2 引入了多种预训练防护机制，以降低强大图像生成模型带来的风险。这些措施可防止生成的图像违反内容政策，从而支持该模型向广大受众开放。
OpenAI NewsAI 评分3939 OpenAI：AI 安全需要社会科学家
OpenAI 发表论文，论证长期 AI 安全研究需要社会科学家参与，以确保 AI 对齐算法在真实人类参与时能够成功。论文指出，将高级 AI 系统与人类价值观正确对齐，需要解决与人类理性、情感和偏见的心理学相关的诸多不确定性。OpenAI 计划全职聘请社会科学家参与这项工作，并希望借此推动机器学习与社会科学研究者的进一步合作。
OpenAI NewsAI 评分4747 OpenAI 准备应对 AI 的恶意使用
OpenAI 与多家机构联合发表一篇论文，预测恶意行为者可能如何滥用 AI 技术，并提出预防和缓解这些威胁的潜在方法。
OpenAI NewsAI 评分4545 用对抗样本攻击机器学习
对抗样本是攻击者故意设计的输入，旨在诱导机器学习模型犯错，如同机器世界的视错觉。攻击者可利用对抗样本跨不同媒介发起攻击，而针对此类输入保护系统安全往往十分困难。
OpenAI NewsAI 评分1717 OpenAI 的技术目标
OpenAI 的使命是构建安全的 AI，并确保 AI 的利益尽可能广泛、均匀地分布。这明确了其核心技术目标与发展方向。