OpenAI 预测大语言模型被滥用于虚假信息活动的风险及如何降低风险

OpenAI 研究人员与乔治城大学安全与新兴技术中心、斯坦福互联网观察站合作，调查大语言模型被滥用于虚假信息活动的风险。合作包括 2021 年 10 月一场汇聚 30 名虚假信息研究人员、机器学习专家和政策分析师的研讨会，最终形成基于一年多研究的联合报告。报告概述了语言模型若被用于增强虚假信息活动将对信息环境造成的威胁，并提出了一个分析潜在缓解措施的框架。