ThinkingBox 將資料庫狀態檢查用於代理 RL 訓練
- 微軟與 Hugging Face 已在 GitHub 公開 ThinkingBox-Training,提供代理後訓練所需的資料選擇、rollout 與獎勵流程。
- 訓練時,系統會檢查後端資料庫的最終狀態來評定結果;多數檢查採確定性測試,少部分需求由 LLM 評審。
- Qwen3.8-27B 經過 50 步 GRPO 訓練後,pass@1 平均成功率從 51.70% 提高至 60.78%。
- 每次測試都成功的任務數從 38 增至 107,但至少成功一次的任務覆蓋率略為下降。
- 訓練使用基礎策略離線探測後選出的固定 187 項任務,並在未納入訓練的 ThinkingBox-Bench 507 項任務上評估,每項測試 20 次。
本站見解
要把這套方法用於自有代理,團隊必須為工作流程建立可執行的狀態檢查,並維護隔離的後端環境與訓練、評估共用的工具解析方式。文中的成本比較未計入訓練及任務探測費用,因此尚不足以判斷整套流程相較其他後訓練方式的總成本。
將資 資料 料庫 庫狀 狀態 態檢 檢查 查用 用於 於代 代理 訓練 微軟 軟與 已在 公開 提供 供代 理後 後訓 練所 所需 需的 的資 料選 選擇 與獎 獎勵 勵流 流程 練時 系統 統會 會檢 查後 後端 端資 庫的 的最 最終 終狀 態來 來評 評定 定結 結果 多數 數檢 查採 採確 確定 定性 性測 測試 少部 部分 分需 需求 求由 評審 經過 練後 平均 均成 成功 功率 率從 提高 高至 每次 次測 試都 都成 功的 的任 任務 務數 數從 增至 但至 至少 少成 功一 一次 次的 務覆 覆蓋 蓋率 率略 略為 為下 下降 練使 使用 用基 基礎 礎策 策略 略離 離線 線探 探測 測後 後選 選出 出的 的固 固定 項任 並在 在未 未納 納入 入訓 練的 務上 上評 評估 每項 項測 要把 把這 這套 套方 方法 法用 於自 自有 有代 團隊 隊必 必須 須為 為工 工作 作流 程建 建立 立可 可執 執行 行的 的狀 並維 維護 護隔 隔離 離的 的後 端環 環境 境與 與訓 估共 共用 用的 的工 工具 具解 解析 析方 方式 文中 中的 的成 成本 本比 比較 較未 未計 計入 練及 及任 務探 測費 費用 因此 此尚 尚不 不足 足以 以判 判斷 斷整 整套 套流 程相 相較 較其 其他 他後 練方 式的 的總 總成
來源
- Turning Database Grading into RL Rewards: Post-Training Agents with ThinkingBox · Hugging Face Blog
本文摘要與見解由 AI 自動生成,事實以原文為準。 AI 內容政策