跳到正文

#评测/基准

今日 0 条
10月14日周三
  1. Hacker News · AI 最新56

    Parsimony:衡量 AI 模型新增代码量的开源基准

    Parsimony 是一个开源基准,专门衡量 AI 模型在已解决任务上新增了多少代码。它直接复用 SWE-bench Verified 已发布的 patch 与通过/失败结果,解析每个改动文件的新旧版本,统计语句、调用、比较、名称和字面量等编码单位,按净新增单位(新增减删除)的均值排名,越少越靠前。

10月13日周二
  1. Hacker News · AI 最新36

    AI 玩 Slay the Spire

    AI 在 Slay the Spire 的五个场景中完成挑战,包括 Baseline 的平均地图、Cursed Run 的诅咒机制、单战直通 Boss 的 Easy trap,以及 25 个分岔、4,040 条路线的 Dense map。同一批地图还在游戏最难难度 Ascension 20 下由 GPT-6 Astra 以最大努力各跑十局,并记录分数、层数、游戏时长与成本。

  2. Microsoft Research49

    Microsoft Research 推出 StudentSim:用 AI 学生模拟器改进 AI 辅导

    Microsoft Research 推出 StudentSim,这是一个在真实学习者测试前评估和改进 AI 辅导系统的研究工具。它从公开的去标识化学习者记录中训练个性化学生模拟器,并引入 StudentSimEval 基准,从行为保真度和指导响应度两个维度进行评估。该系统在棋类、英语二语写作和数学领域优于主流基线,可为 AI 辅导训练提供有用的反馈信号。

10月12日周一
10月10日周六
10月9日周五
10月7日周三
  1. Hacker News · AI 最新37

    Show HN: HieraticBench —— AI 能读懂古埃及手写体吗?

    一位埃及学爱好者构建了 HieraticBench 基准,测试 AI 识别与翻译古埃及僧侣体(hieratic)的能力,当前最强的基础模型依然表现糟糕。首版含 268 个条目;在明确告知文本为僧侣体时,最佳模型在真实文献上识别正确率为 95%,单字识读最佳成绩约 13%,且无一模型能翻译从未公开的句子。

10月6日周二
  1. Hacker News · AI 最新20

    Vals AI:在真实世界任务中测试 AI

    Vals AI 在金融、软件、网络安全、递归自我改进与心理健康等经济价值任务上,对全球领先 AI 模型开展独立评估,所有评估均自行运行并自建多项基准。最新报告显示,Claude Opus 5.5 智能体发现了两个室温磁性半导体候选材料。该平台还发布行业排行榜,并追踪 16 个实验室性能前沿的模型表现随时间的变化。

10月5日周一
  1. Hacker News · AI 最新44

    TaxCalcBench:AI 能替你报税吗?

    TaxCalcBench 基准以美国报税表 Form 1040 的形式呈现排行榜,评测前沿 AI 模型能否独立完成报税计算这一步。2025 税务年度版(v2)难度显著升级,输入改为 W-2、1099 等真实 PDF 文档,新增州报税并覆盖更复杂的财务情形,共测试 38 个模型、50 份报税表。评测指标包括严格正确率、±$5 宽松正确率、逐行正确率,以及每份报税的 API 成本与生成时间。

9月3日周四
8月13日周四
  1. Microsoft Research47

    MindTopo 揭示 VLM 的空间推理能力

    Microsoft Research 推出拓扑推理基准 MindTopo,评估多模态模型在连通性、包围、顺序、分离与打结五类拓扑关系上的推理与规划能力。测试显示,当前多模态模型在静态识别任务上表现明显优于交互式规划任务,两者均远低于人类水平,且错误多发生在规划阶段而非感知阶段。该基准为机器人和交互环境中的 AI 系统提供了可控诊断工具。

6月30日周二
  1. OpenAI News30

    OpenAI 发布 GeneBench-Pro

    OpenAI 发布 GeneBench-Pro,这是一个面向基因组学、生物学和科学研究的全新 benchmark。该 benchmark 使用复杂、真实世界的数据集,测试 AI 在这些领域的表现。

6月17日周三
  1. OpenAI News38

    OpenAI 发布 LifeSciBench

    OpenAI 发布 LifeSciBench,一个面向生命科学领域的专家级评测基准。该基准由专家撰写并经专家评审,用于评估 AI 系统处理真实世界生命科学研究任务与决策的能力。

6月12日周五
2月26日周四
2月18日周三
12月9日周二
11月4日周二
10月9日周四
9月25日周四
5月12日周一
6月22日周五
4月5日周四