OpenAI 打击国家背景威胁行为者对 AI 的恶意使用
OpenAI 官方宣布打击国家背景威胁行为者对 AI 的恶意使用。
OpenAI 官方宣布打击国家背景威胁行为者对 AI 的恶意使用。
OpenAI 正在测试 ChatGPT 的记忆功能,使其记住用户在对话中讨论过的内容,从而让后续对话更有帮助。用户可自行控制 ChatGPT 的记忆。
OpenAI 正在制定一套评估大语言模型辅助生物威胁制造风险的蓝图,在生物学专家和学生共同参与的评测中发现,GPT-4 对生物威胁制造准确性的提升最多属于轻微水平。该提升幅度不足以得出结论,相关发现可作为持续研究和社区讨论的起点。
OpenAI 资助了全球 10 个团队设计集体治理 AI 的想法与工具。该计划总结了各团队的创新成果与经验教训,并公布了后续实施计划。OpenAI 呼吁研究人员和工程师加入,共同推进这项 AI 治理工作。
OpenAI 宣布推出 GPT Store。
OpenAI 推出面向各种规模团队的 ChatGPT Team 新套餐,提供安全、协作的工作区,帮助用户在工作中充分利用 ChatGPT。
OpenAI 发布声明称支持新闻业并与新闻机构合作,认为 The New York Times 提起的诉讼缺乏法律依据。
推荐理由:原文是 OpenAI 对 The New York Times 诉讼的官方回应,可据此了解其在版权争议与新闻合作上的立场。
WHOOP 用 GPT-4 为用户提供个性化健身与健康指导,打造 LLM 驱动的健康解决方案。
OpenAI 推出 1000 万美元的 Superalignment Fast Grants,资助面向超人类 AI 系统对齐与安全的技术研究,方向包括 weak-to-strong generalization、可解释性与可扩展监督等。详情见 openai.com/index/superalignment-fast-grants。
Summer Health 借助 OpenAI 重新构想儿科医生就诊体验,旨在提高儿科就诊记录的准确性。
OpenAI 提出超对齐的新研究方向并给出初步结果,核心探讨能否利用深度学习的泛化特性,让弱监督者控制强模型。
推荐理由:OpenAI 提出超对齐新研究方向,探讨能否利用深度学习的泛化特性让弱监督者控制强模型,并给出初步结果。
OpenAI 与 Axel Springer 达成合作伙伴关系,以深化 AI 在新闻业的有益应用;Axel Springer 成为全球首家与 OpenAI 在 AI 技术中深度整合新闻业的出版集团。
OpenAI 宣布 Sam Altman 回归担任 CEO,并组建新的初始董事会。Mira Murati 担任 CTO,Greg Brockman 回归担任 President,Bret Taylor 出任董事会主席。
推荐理由:原文确认了 Sam Altman 回任 CEO 与新的初始董事会的安排,读者可以据此了解 OpenAI 人事变动的最终结果。
OpenAI 宣布领导层变动,公告未提供更多细节。
OpenAI 推出数据合作伙伴计划,与合作伙伴共同创建开源和私有数据集,用于 AI 训练。
OpenAI 在 DevDay 发布 GPT-4 Turbo,支持 128K 上下文并降低价格。同时推出的还有 Assistants API、GPT-4 Turbo with Vision 与 DALL·E 3 API 等开发者产品。
推荐理由:原文列出 GPT-4 Turbo 的 128K 上下文与更低价格,以及 Assistants API 等新入口,开发者可据此评估要跟进哪些更新。
OpenAI 推出 GPTs,用户现在可以创建定制版 ChatGPT,将自定义指令、额外知识与任意技能组合结合在一起。
推荐理由:原文宣布用户可为 ChatGPT 自定义指令、知识与技能组合,这为普通用户搭建专属智能体提供了官方入口。
为保障高能力 AI 系统的安全,OpenAI 正在制定其灾难性风险防范方案,包括组建 Preparedness 团队并启动一项挑战赛。
推荐理由:OpenAI 阐述其对高能力 AI 灾难性风险的应对思路,并宣布组建 Preparedness 团队与发起挑战赛,可了解其在安全治理上的组织动作。
OpenAI 与 Anthropic、Google、Microsoft 共同宣布 Frontier Model Forum 新任执行董事,并推出新的 $10 million AI 安全基金。
OpenAI 宣布 DALL·E 3 现已在 ChatGPT Plus 和 Enterprise 中可用。为推进更广泛发布,OpenAI 开发了安全缓解技术栈,并分享了来源研究的最新进展。
推荐理由:OpenAI 公布了 DALL·E 3 扩大开放前的安全缓解技术栈与来源研究进展,可借此了解其安全设计思路。
Typeform 借助 GPT-3.5 和 GPT-4,将在线表单进化为动态、对话式的数据收集体验。
Retool 使用 GPT-4 为企业提供了一种快速、安全地构建 AI 驱动应用的方式。
Ironclad 使用 GPT-4 简化合同审查流程,将 AI 能力直接用于合同审查环节。
OpenAI 发布 GPT-4V(ision) 的系统卡片。
OpenAI 官方宣布 ChatGPT 现在可以看、听和说,新增了图像与语音相关能力。
推荐理由:OpenAI 官方宣布 ChatGPT 新增看、听、说能力,读者可据此了解其在图像与语音交互上的使用方式变化。
OpenAI 宣布开放 OpenAI Red Teaming Network 申请,邀请有意提升其模型安全性的领域专家加入。
OpenAI 宣布在爱尔兰都柏林设立办公室,进一步扩大其在欧洲的业务布局。
OpenAI 宣布将于 11 月 6 日在旧金山举办首届开发者大会。线下参会的开发者注册将在未来几周开放,全球开发者均可通过直播观看主题演讲。
OpenAI 发布面向教师的 ChatGPT 课堂使用指南,涵盖建议提示词、ChatGPT 工作原理与局限性、AI 检测器有效性及偏差问题。
OpenAI 推出 ChatGPT Enterprise,提供企业级安全与隐私,并称其为目前最强大的 ChatGPT 版本。
OpenAI 与 Scale 达成合作,为企业微调模型提供支持。OpenAI 客户可借助 Scale 的 AI 专业知识,定制 OpenAI 最先进的模型。
OpenAI 宣布开发者现在可引入自有数据微调 GPT-3.5 Turbo,以针对自身用例定制模型,该功能随本次 API 更新一并推出。
推荐理由:原文明确了开发者可使用自有数据微调 GPT-3.5 Turbo,读者可据此评估定制模型对自身业务场景的适用性。
OpenAI 收购 Global Illumination,其整个团队已加入 OpenAI。原文未披露交易金额与业务整合细节。
OpenAI 使用 GPT-4 进行内容政策制定和内容审核决策,以实现更一致的标注、更快的政策完善反馈循环,并减少人工审核员的参与。
OpenAI 正在组建一个新的行业机构 Frontier Model Forum,致力于促进前沿 AI 系统的安全与负责任发展。该机构将推进 AI 安全研究,确定最佳实践和标准,并促进政策制定者与行业之间的信息共享。
OpenAI 与其他领先实验室通过自愿承诺,共同强化 AI 安全、安保与可信度。这一举措旨在推动 AI 治理向前发展。
OpenAI 开始向 ChatGPT 推出自定义指令功能,用户设置偏好后,ChatGPT 会在后续所有对话中记住这些偏好,从而让用户更好地控制其回复方式。
推荐理由:原文由官方账号说明自定义指令的生效方式,读者可据此判断该功能会怎样减少跨对话重复设置偏好的操作成本。
OpenAI 与 American Journalism Project 达成一项 500 多万美元的合作,探索人工智能如何支持充满活力与创新的本地新闻业。该合作还将确保本地新闻机构参与塑造这一新兴技术的未来。
Viable 使用 GPT-4 对大规模定性数据进行分析,在革命性的处理规模下保持无与伦比的准确度。
OpenAI 分享了在 22 个国家交流中获得的洞察,并说明了未来将如何把这些见解融入其工作。