為什麼 512x512 比 256x256 好

V23 用 MULTIMODAL_UPSCALE=4 拿到 local mean 3.008。我假設 256x256 vision 失去了 ARC-AGI-3 cover predicate 與 co-location win condition 所需的 sub-cell pattern,512x512 應該能保留它們。V24 是單一變數改動:MULTIMODAL_UPSCALE = 8(原 4),沒有其他改動。Local mean 升到 4.984(+66%),LB 升到 2.56(+1.03)。這是整個 33 天 campaign 中最乾淨的歸因實驗。

V23 的瓶頸在哪

V23 用 MULTIMODAL_UPSCALE=4 拿到 local mean 3.008。我假設 256x256 vision 失去了 ARC-AGI-3 cover predicate 與 co-location win condition 所需的 sub-cell pattern。512x512 應該能保留它們。

V24 是單一變數改動:MULTIMODAL_UPSCALE = 8(原 4)。沒有其他改動。這是整個 33 天 campaign 中最乾淨的歸因實驗。

一行 patch

Patch 是一行:

# V23
'MULTIMODAL_UPSCALE': '4',

# V24
'MULTIMODAL_UPSCALE': '8',

Patch 在 Cell 5(pre-setup)套用,在 TAAF setup command 跑之前,遵循從 V15 學到的 dvm env var 注入 pattern。

驗證:stdout 含 v24: Patched MULTIMODAL_UPSCALE to 8 (512x512 vision)。TAAF setup command 讀到 env var 並據此設定 solver。

單一變數,最乾淨的歸因

參數V23V24理由
MULTIMODAL_UPSCALE4(256x256)8(512x512)保留 sub-cell pattern
FP8 KV cacheenabledenabled未變
modelQwen3.8-27B-FP8Qwen3.8-27B-FP8未變
source bundleanim bundleanim bundle未變
temperature0.60.6未變
context window3276832768未變
n_passes11未變

+66% local, +1.03 LB, 52% transfer

  • Local mean: 4.984
  • Baseline(上一版): V23 local 3.008
  • Local delta: +1.976(+66%)
  • LB score: 2.56

9 個 patch 全部 fire 且配置正確

Patch是否 fire?Marker
FP8 KV cacheyesENABLE_FP8_KV=True + –kv-cache-dtype fp8 in vLLM launch
MULTIMODAL_UPSCALE=8yesPatched MULTIMODAL_UPSCALE to 8 (512x512 vision)
Qwen3.8 modelyesQwen/Qwen3.8-27B-FP8(vLLM 啟動 log 確認)
writable bundle copyyesrefreshing writable bundle copy
reasoning effort capyesreasoning_effort: ‘high’
noop guard verifiedyeshard_noop_guard = True
temperature setyestemperature’: 0.0
context window setyesANALYZER_CONTEXT_WINDOW = 32768
vLLM server startedyesvLLM server ready

sub-cell pattern 為什麼重要

LB 2.56,比 V23 的 1.53 +1.03。Local mean 4.984,比 V23 的 3.008 +66%。Local 改善有 52% 反映在 LB 上(+1.03 / +1.976),這是整個 campaign 最高的 transfer rate。

V24 架構圖

為什麼 MULTIMODAL_UPSCALE=8 這麼重要?

ARC-AGI-3 hidden games 包含 cover predicate(每個 kind A 物件最終要跟 kind B 物件共位)與 pixel-level equality(workspace 區域要等於參考區域)。256x256 下 sub-cell pattern 丟失,solver 無法區分兩個形狀相似的物件。512x512 下 solver 可以。

V24 視覺對比

4x token 增加(256x256 = 65k tokens,512x512 = 262k tokens 處理前)被 FP8 KV cache 與 32k context window 吸收。Vision tokens 每次觀察處理一次,不是跨整個遊戲保留。

結果:solver 能從第一 frame 讀出 win condition(依 busyaprime 公開 kernel 的發現「the goal is usually already drawn on the first frame」)並執行動作滿足它。

這是唯一一次所有 9 個關鍵 patch 同時 fire 且配置正確的提交。V25 會因為拿掉 FP8 KV、WBC、RE cap、NG 而破壞這個。

V25 的疊 grafts 計畫

V25 會在 V24 上加 7 個 TAAF grafts(winframe、goalkeep、clockwatch、hudmask、clickmap、searchmap、lawbook)。目標 LB 3.0+。假設是在 V24 的 winning config 上疊 grafts 應該複合。