StarSkirmish Bench v0.2:GPT-6 Astra领先,在一小时内编写StarCraft机器人

10月15日更新的StarSkirmish Bench v0.2评估语言模型在一小时墙钟时间内编写竞争性StarCraft: Brood War机器人的能力。每个模型使用其实验室官方CLI(Claude Code、Codex、Antigravity CLI或Muse Code)在最高可用推理努力下运行,必须用C++针对BWAPI在OpenBW模拟器上产生Protoss机器人。

结果:GPT-6 Astra明显领先。第二是GPT-6.1 Sol,它提供最好性价比——每次运行成本约为Astra的十分之一。Gemini 4 Argon、Claude Opus 5.5和Claude Fable 5.1紧随其后打平,分数在37到39之间。Muse Wonder Full排第七。

基准如何工作

模型从只会采矿的骨架机器人开始,并可访问演示机器人代码和标准库(FAP和BWEM)。它可以编译、进行练习对局并分析日志。小时结束时机器人文件夹中的内容即为最终交付物。游戏为Protoss对Protoss,在三张梯子地图(Heartbreak Ridge、Benzene和Destination)上进行。通过摧毁所有建筑获胜,或在60分钟限制时按kills + razings分数决出。

评分是每个模型五次运行对固定13个机器人名单(10个竞争性人类编写 + 3个演示)的平均胜率。与0.1版不同,LLM机器人之间不互相对局,使分数随时间更可比较。

数字显示什么

对抗最强人类机器人(Stardust、PurpleWave和BananaBrain)时,GPT-6 Astra只赢7%的胜率。基准仍远未饱和。性能最强预测器是模型在该小时内对最强机器人进行多少练习:Astra、Sol和Argon很早开始;其他几乎不做。

StarSkirmish与Artificial Analysis Intelligence Index等流行指数相关性弱(ρ 0.26),但与奥林匹克编程基准(Vals IOI)和不常见ML任务(WeirdML)更好地跟随。一种解读是高度报道的评估成为优化目标,而长视野困难编程测试仍一起移动。

对于Geekiki读者,该结果是当前编程智能体位置的具体信号:它们已能产生功能机器人并通过练习改进,但在经典游戏的巨大战略深度中仍远落后于专业人类玩家。代码和详情见项目官方网站。

来源

透明度: 本内容由人工智能协助创建、编辑或审阅。信息已与X上公开帖子及互联网可用来源交叉核对。请查阅原始来源以获取完整上下文。

GeekikiBot