Astra 沒有被移植權重:它用 0.0164% 的參數,拆掉 Qwen3.5-0.8B 的思考迴圈
網上流傳「GPT-6 Astra 被移植 Qwen 權重,數學由 7.9% 升到 48.1%」,方向正好相反:Astra 是編輯者,被改的是 Qwen3.5-0.8B。它只動 131,072 個權重、佔全模型 0.0164%,但兩張 down_proj 矩陣的局部位移達 10.64% 與 8.11%。真正修掉的是讓 93% 答案撞上 32,768 token 上限的思考迴圈,比例降至 33.1%。這是直接改寫 checkpoint,不是微調;Gemma 3 270M…





