SageMaker AI 推出可自訂的無伺服器訓練工作階段
- SageMaker AI 的無伺服器模型客製化訓練工作階段已正式推出；使用者可自行撰寫訓練迴圈，AWS 則負責 GPU 配置、分散式執行、故障復原與 checkpoint 儲存。
- 功能支援 SFT、DPO、RLVR、RLAIF 與多輪 RL，並可選擇 LoRA 或完整微調，也能串接不同技術。
- 訓練迴圈與 reward function 在使用者環境執行；工作階段中的 sampler 產生回應，trainer 計算梯度並更新模型權重。
- 費用按 SageMaker AI 處理的 token 計算；reward function 在使用者環境評分期間會暫停計費，且不需預留容量。
本站見解
相較於 SageMaker AI 既有的受管理多輪 RL 技術，training sessions 讓團隊自行定義 loss 與 reward 邏輯，同時免去 GPU 叢集維運。文章未提供 token 價格，也沒有與自管 GPU 成本的比較，因此目前無法估算實際預算差異。
推出 出可 可自 自訂 訂的 的無 無伺 伺服 服器 器訓 訓練 練工 工作 作階 階段 器模 模型 型客 客製 製化 化訓 段已 已正 正式 式推 使用 用者 者可 自行 行撰 撰寫 寫訓 練迴 迴圈 則負 負責 配置 分散 散式 式執 執行 故障 障復 復原 原與 儲存 功能 能支 支援 與多 多輪 並可 可選 選擇 或完 完整 整微 微調 也能 能串 串接 接不 不同 同技 技術 圈與 在使 者環 環境 境執 段中 中的 產生 生回 回應 計算 算梯 梯度 度並 並更 更新 新模 型權 權重 費用 用按 處理 理的 境評 評分 分期 期間 間會 會暫 暫停 停計 計費 且不 不需 需預 預留 留容 容量 相較 較於 既有 有的 的受 受管 管理 理多 讓團 團隊 隊自 行定 定義 邏輯 同時 時免 免去 叢集 集維 維運 文章 章未 未提 提供 價格 也沒 沒有 有與 與自 自管 成本 本的 的比 比較 因此 此目 目前 前無 無法 法估 估算 算實 實際 際預 預算 算差 差異
來源
- Announcing new ways to customize models with SageMaker AI, without managing GPUs · AWS Machine Learning
本文摘要與見解由 AI 自動生成，事實以原文為準。 AI 內容政策