DALL·E 2 减少偏见并提高安全性
OpenAI 为 DALL·E 2 引入一项新技术，使其生成的人物图像能更准确地反映世界人口的多样性。此举旨在减少模型偏见，并进一步提高生成内容的安全性。
#安全/对齐
#安全/对齐
今日 0 条OpenAI NewsAI 评分4848
OpenAI NewsAI 评分3939 DALL·E 2 的预训练缓解措施
OpenAI 为 DALL·E 2 引入了多种预训练防护机制，以降低强大图像生成模型带来的风险。这些措施可防止生成的图像违反内容政策，从而支持该模型向广大受众开放。
OpenAI NewsAI 评分3939 OpenAI：AI 安全需要社会科学家
OpenAI 发表论文，论证长期 AI 安全研究需要社会科学家参与，以确保 AI 对齐算法在真实人类参与时能够成功。论文指出，将高级 AI 系统与人类价值观正确对齐，需要解决与人类理性、情感和偏见的心理学相关的诸多不确定性。OpenAI 计划全职聘请社会科学家参与这项工作，并希望借此推动机器学习与社会科学研究者的进一步合作。
OpenAI NewsAI 评分4747 OpenAI 准备应对 AI 的恶意使用
OpenAI 与多家机构联合发表一篇论文，预测恶意行为者可能如何滥用 AI 技术，并提出预防和缓解这些威胁的潜在方法。
OpenAI NewsAI 评分4545 用对抗样本攻击机器学习
对抗样本是攻击者故意设计的输入，旨在诱导机器学习模型犯错，如同机器世界的视错觉。攻击者可利用对抗样本跨不同媒介发起攻击，而针对此类输入保护系统安全往往十分困难。
OpenAI NewsAI 评分1717 OpenAI 的技术目标
OpenAI 的使命是构建安全的 AI，并确保 AI 的利益尽可能广泛、均匀地分布。这明确了其核心技术目标与发展方向。