OpenAI 发布新旗舰模型 GPT-4o
OpenAI 发布新旗舰模型 GPT-4o(GPT-4 Omni),可实时跨音频、图像和文本进行推理。
推荐理由:OpenAI 发布新旗舰模型 GPT-4o,支持实时处理音频、图像和文本,可关注其多模态交互能力带来的应用变化。
OpenAI 发布新旗舰模型 GPT-4o(GPT-4 Omni),可实时跨音频、图像和文本进行推理。
推荐理由:OpenAI 发布新旗舰模型 GPT-4o,支持实时处理音频、图像和文本,可关注其多模态交互能力带来的应用变化。
OpenAI 发布 GPT-4o,并使 ChatGPT 的更多功能可供免费用户使用。
推荐理由:OpenAI 发布 GPT-4o 并向免费用户开放更多 ChatGPT 功能,读者可据此了解其最新模型进展与产品策略调整。
OpenAI 推出最新旗舰模型 GPT-4o,并将更多能力免费开放给 ChatGPT 用户。
推荐理由:官方宣布推出新旗舰模型 GPT-4o,并向 ChatGPT 免费用户开放更多能力,读者可据此判断免费版的使用价值。
OpenAI 宣布 GPT-4 API 正式可用,GPT-3.5 Turbo、DALL·E 和 Whisper API 也已进入正式可用阶段。公司同时发布 Completions API 旧模型的弃用计划,相关模型将在 2024 年初退役。
推荐理由:原文明确 GPT-4 API 进入正式可用阶段并给出旧模型退役时间表,读者可据此安排接口迁移。
OpenAI 自上个月向全球推出 Sora 以来,一直与艺术家展开合作,探索 Sora 如何辅助他们的创作过程。
OpenAI 发布 GPT-4V(ision) 的系统卡片。
OpenAI 宣布开发者现在可引入自有数据微调 GPT-3.5 Turbo,以针对自身用例定制模型,该功能随本次 API 更新一并推出。
推荐理由:原文明确了开发者可使用自有数据微调 GPT-3.5 Turbo,读者可据此评估定制模型对自身业务场景的适用性。
OpenAI 发布 GPT-4,这是其深度学习规模化推进的最新里程碑。GPT-4 是大型多模态模型,接受图像和文本输入并输出文本;虽然在许多真实场景中能力不及人类,但在多项专业和学术基准上表现出人类水平。
推荐理由:官方说明给出了 GPT-4 的多模态输入能力与基准表现定位,读者可据此判断它相对前代的能力边界。
GPT-4 可与用户共同生成、编辑并迭代创意与技术写作任务,例如作曲、撰写剧本或学习用户的写作风格。
推荐理由:官方介绍了 GPT-4 在创意与技术写作任务上的生成、编辑和迭代能力,读者可了解其如何与用户协作完成写作。
OpenAI 推出一款新的分类器,该分类器经过训练,可用于区分 AI 生成的文本与人类撰写的文本。
OpenAI 的 Point-E 是一个能从复杂提示词生成 3D 点云的系统。
OpenAI 宣布推出全新的嵌入模型,官方称其能力更强、成本更低且更易于使用。
OpenAI 发布了名为 ChatGPT 的对话式模型。对话格式使其能够回答追问、承认错误、质疑错误前提并拒绝不当请求。原文链接:https://openai.com/index/chatgpt
推荐理由:这是 OpenAI 发布 ChatGPT 的原始公告,对话格式让它能回答追问、承认错误、质疑错误前提并拒绝不当请求,适合了解该产品的最初定位。
OpenAI 训练并开源了名为 Whisper 的神经网络,称其在英语语音识别上的鲁棒性和准确率接近人类水平。
推荐理由:Whisper 以开源形式发布,读者可直接获取模型并评估其在英语语音识别场景中的实际表现。
OpenAI 宣布 DALL·E 进入 Beta 阶段,将在未来几周向等待名单中的 100 万用户发出邀请。用户每月可获得自动补充的免费额度,也可以按 115 次生成 15 美元的价格额外购买额度。
推荐理由:OpenAI 说明了 DALL·E 的开放节奏与计费方式,读者可据此判断自己能否用上以及试用成本。
OpenAI 为 DALL·E 2 引入一项新技术,使其生成的人物图像能更准确地反映世界人口的多样性。此举旨在减少模型偏见,并进一步提高生成内容的安全性。
DALL·E 2 研究预览期间,来自 118 个国家的 3000 多位艺术家已将 DALL·E 融入其创作工作流。早期访问组的艺术家帮助发掘了 DALL·E 的新用途,并作为关键意见方参与了 DALL·E 功能相关决策。
OpenAI 为 DALL·E 2 引入了多种预训练防护机制,以降低强大图像生成模型带来的风险。这些措施可防止生成的图像违反内容政策,从而支持该模型向广大受众开放。
OpenAI 发布 GPT-3 与 Codex 新版本,支持对现有文本进行编辑或插入内容,而不仅是补全文本。
推荐理由:相比此前只能补全文本,新版本 GPT-3 和 Codex 可直接编辑或在现有文本中插入内容,读者可据此判断其适用场景是否扩展。
OpenAI 训练出比 GPT-3 更能遵循用户意图的 InstructGPT 模型,现已作为 API 的默认语言模型部署。这些模型采用人在回路方式训练,同时提高了真实性并降低了毒性,所用技术来自其对齐研究。
推荐理由:原文给出了 InstructGPT 相对 GPT-3 在意图遵循、真实性与毒性上的改进,读者可据此理解人在回路训练对模型对齐的作用。
OpenAI 通过文本网页浏览器微调 GPT-3,使其能更准确地回答开放式问题。该研究探索了让语言模型借助网页浏览提升事实准确性的方法。
推荐理由:原文介绍了用文本浏览器微调 GPT-3 以提升事实准确性的方法,为语言模型结合外部信息检索提供了参考。
OpenAI 训练的一个系统可解答小学数学应用题,准确率接近微调 GPT-3 模型的两倍。在相同题目上,9-12 岁儿童样本得分 60%,该系统得分 55%。
OpenAI 推出改进版 Codex,该系统可将自然语言翻译为代码,即日起通过 API 以私有测试形式开放。
推荐理由:原文给出了 Codex 的自然语言转代码定位与 private beta 开放方式,读者可据此判断它对编程工作流的影响。
OpenAI 发布神经网络 CLIP,可从自然语言监督中高效学习视觉概念。只需提供待识别类别的名称,CLIP 即可用于任何视觉分类基准,具备类似 GPT-2 和 GPT-3 的 zero-shot 能力。原文链接:https://openai.com/index/clip
推荐理由:CLIP 用自然语言监督学习视觉概念,让视觉分类不再依赖人工标注,可对照 GPT 的 zero-shot 思路理解其迁移方式。
OpenAI 发布 Jukebox,这是一个能按多种流派和艺人风格生成原始音频音乐、包括简单演唱的神经网络。官方同时开源了模型权重和代码,并发布了一款用于浏览生成样本的工具。
推荐理由:原文给出了模型按流派和艺人风格生成原始音频的能力,以及开源权重、代码和试听工具,读者可据此判断它在音乐创作流程中的可用性。
OpenAI 发布 GPT-2 的最大版本,参数量 1.5B,并同步开放代码与模型权重,用于检测 GPT-2 模型的输出。这是 GPT-2 分阶段发布计划的最后一个模型,OpenAI 希望该完整过程为未来更强模型的开发者提供测试案例,并继续与 AI 社区讨论负责任发布。
推荐理由:原文交代了 GPT-2 分阶段发布计划收尾的动机与完整过程,读者可据此理解负责任发布策略如何从设想落地为可操作的流程。
OpenAI 训练了一对神经网络,让类人机器人手解魔方。网络完全在模拟环境中训练,使用与 OpenAI Five 相同的强化学习代码,并配合新技术 Automatic Domain Randomization (ADR)。系统能应对训练中未见过的情形,例如被长颈鹿毛绒玩具戳碰,表明强化学习也能解决需要前所未有灵活性的物理世界问题。
推荐理由:原文给出了模拟训练加 Automatic Domain Randomization 的方法路径,可迁移到其他需要物理灵活性的机器人任务。
OpenAI 发布 774M 参数的 GPT-2 语言模型,这是继 2 月发布 124M 小模型、5 月发布 355M 中模型之后的第三阶段释放。同时开源了一份法律协议,方便机构之间开展模型共享合作,并发布技术报告介绍与 AI 研究社区协调发布规范的经验。
推荐理由:这是 GPT-2 分阶段发布的第三步,读者可对照 124M 与 355M 版本理解其开放节奏与发布策略。
OpenAI 发布 MuseNet,这是一个深度神经网络,可生成 4 分钟、含 10 种乐器的乐曲,并融合从乡村、莫扎特到披头士的风格。它没有被显式编程音乐知识,而是通过学习预测数十万 MIDI 文件中的下一个 token,自己发现和声、节奏与风格规律。MuseNet 使用与 GPT-2 相同的通用无监督技术,即一个训练来预测序列中下一个 token 的大规模 Transformer 模型。
OpenAI 提出 Sparse Transformer,一种在预测文本、图像或声音序列下一内容上创下新纪录的深度神经网络。它通过注意力机制的算法改进,可从比以往长 30 倍的序列中提取模式。
OpenAI Five 在周末的 Finals 中连续两局击败 Dota 2 世界冠军战队 OG,成为首个在电竞游戏中战胜世界冠军的 AI。此前 OpenAI Five 与 DeepMind 的 AlphaStar 都曾在私下击败过职业选手但在直播比赛中落败,这次也是 AI 首次在直播中战胜电竞职业选手。
推荐理由:对比 OpenAI Five 与 AlphaStar 此前私下击败职业选手、直播却落败的经历,本场胜利让 AI 在直播赛事中越过电竞职业选手门槛。
OpenAI 训练了一个大规模无监督语言模型,能生成连贯的文本段落,并在多项语言建模基准上达到 SOTA。该模型无需任务专属训练,即可完成基础的阅读理解、机器翻译、问答和摘要。
推荐理由:原文记录了大规模无监督语言模型在无需任务专属训练时即可完成阅读理解、翻译、问答与摘要,可作为理解通用语言能力演进的背景。
OpenAI Five 本周在温哥华举行的 The International 上两负顶级 Dota 2 选手。两局比赛的前 20 至 35 分钟,OpenAI Five 都保持着获胜机会。
推荐理由:原文记录了两局比赛前 20 至 35 分钟 OpenAI Five 仍保持胜机,读者可据此观察 AI 在长时局博弈中的能力边界。
昨天,OpenAI Five 在现场观众和 10 万名同步直播观众面前,以三局两胜击败了一支由 99.95 百分位 Dota 玩家组成的队伍:Blitz、Cap、Fogged、Merlini 和 MoonMeander,其中四人曾有职业 Dota 比赛经历。
推荐理由:原文记录了 OpenAI Five 击败高水平 Dota 玩家的赛果,为评估当时游戏 AI 的能力边界提供了参照。
OpenAI Five Benchmark 比赛现已结束。
OpenAI 推出可逆生成模型 Glow,它采用可逆 1x1 卷积,能生成逼真的高分辨率图像并支持高效采样。Glow 还能发现可用于操纵数据属性的特征,OpenAI 已发布模型代码和在线可视化工具。
OpenAI 官方宣布,由五个神经网络组成的 OpenAI Five 已开始在 Dota 2 中击败业余人类战队。
推荐理由:原文由官方直接交代 OpenAI Five 的规模与对战结果,可作为了解游戏 AI 进展的一手背景。
OpenAI 在一系列多样的语言任务上取得 SOTA 结果,所用系统可扩展且任务无关,并同时开源。该方法结合 Transformer 与无监督预训练,表明将监督学习方法与无监督预训练配合使用效果良好,OpenAI 希望该结果推动在更大、更多样数据集上应用这一思路的研究。
推荐理由:原文记录了 OpenAI 将 Transformer 与无监督预训练结合的验证,可据此理解该思路在语言任务上的效果。
OpenAI 发布了针对块稀疏权重网络的高度优化 GPU kernel,根据所选稀疏度,速度可比 cuBLAS 或 cuSPARSE 快多个数量级。这些 kernel 已用于文本情感分析以及文本和图像生成建模,并取得 SOTA 结果。
OpenAI 的最新机器人技术使完全在仿真中训练的控制器部署到物理机器人后,能在执行简单任务时应对环境的意外变化。这些控制器构成闭环系统,而非以往的开环系统。