AI 代理基礎設施

22 則

快訊 AI 代理基礎設施大型語言模型訓練基礎設施

ThinkingBox 將資料庫狀態檢查用於代理 RL 訓練

微軟與 Hugging Face 已在 GitHub 公開 ThinkingBox-Training,提供代理後訓練所需的資料選擇、rollout 與獎勵流程。

快訊 AI 代理基礎設施

OpenAI Python SDK 擴充 Decisions 型別

Live response 的 question.instructions 現在可使用字串,或由文字、圖片與 JSON 組成的結構化內容。

快訊 大型語言模型訓練基礎設施AI 代理基礎設施

SageMaker AI 推出可自訂的無伺服器訓練工作階段

SageMaker AI 的無伺服器模型客製化訓練工作階段已正式推出;使用者可自行撰寫訓練迴圈,AWS 則負責 GPU 配置、分散式執行、故障復原與 checkpoint 儲存。

快訊 AI 代理基礎設施

LangChain Core 1.7.0 調整工具呼叫串流參數

LangChain Core 1.7.0 將串流中的工具呼叫參數改以 `tool-call-delta` 片段傳送,而非 `block-delta` 快照。

快訊 AI 代理基礎設施語音辨識大型語言模型推論基礎設施

以 Kokoro TTS 為 AI 代理串流語音

AWS 示範讓代理每完成一句話,就送往 SageMaker AI 上的 Kokoro-82M 合成語音,不必等整段回覆生成完畢。

快訊 大型語言模型推論基礎設施大型語言模型訓練基礎設施AI 代理基礎設施

NVIDIA 展示 8 節點 DGX Spark 叢集

8 台 DGX Spark 可提供 1 TB 統一記憶體,讓完整的 GLM 5.3 753B 模型能在本機載入。

快訊 AI 代理基礎設施

以 AWS PrivateLink 私下連接 Amazon Quick 與企業網路

Amazon Quick 將使用者連線與服務端取資料分開處理:前者透過 AWS PrivateLink VPC 端點,後者則使用 VPC connection。

快訊 AI 代理基礎設施

Deep Insight:將多代理系統部署至正式環境

Deep Insight 是開源的資料分析多代理系統,使用者提供 CSV 與自然語言需求後,系統會產生分析結果及含引用的 DOCX 報告。

快訊 AI 代理基礎設施

LangChain 1.4.7 更新串流事件與追蹤功能

LangChain 1.4.7 加入串流消費端讀取 tool-call-delta 的支援。

快訊 AI 代理基礎設施大型語言模型推論基礎設施

Strands Agents 示範本機與雲端混合式代理架構

Adaptive Agentic Intelligence Framework(AAIF)以 Strands Agents 建立三層流程:本機 SLM 判斷請求類型,例行工作交由本機工具,複雜分析則送往 Amazon Bedrock。

快訊 AI 代理基礎設施

LangChain Perplexity 1.4.2 修正 Agent API 搜尋結果處理

此版更新模型設定檔資料。

快訊 AI 代理基礎設施大型語言模型推論基礎設施

Ollama v0.40.8 加入 Flint 程式碼模型

Ollama v0.40.8 新增 Recursive 的 Flint 程式碼模型,可透過 Ollama 執行。

快訊 AI 代理基礎設施

GitHub 以逐 reference quorum 擴充 Git 儲存架構

GitHub 多數儲存庫已有五個副本中的兩個存放在 Azure,Azure 目前處理約一半的 Git 流量。

快訊 大型語言模型推論基礎設施AI 代理基礎設施

NVIDIA 推出免訓練的關聯式資料預測模型

NVIDIA 推出 Kumo Relational,可直接對關聯式資料庫執行預測查詢,不必為每項任務另行訓練模型或手動設計特徵。

快訊 AI 代理基礎設施

NVIDIA Sentry 將 AI 代理防護延伸至硬體隔離層

NVIDIA Sentry 是 NVIDIA OpenShell 參考架構的一部分,使用 BlueField-4 在主機之外監控 AI 代理,並管控代理對模型、工具與資料的存取。

快訊 AI 代理基礎設施

NVIDIA OpenShell:在代理執行環境中落實安全與治理

NVIDIA OpenShell 是開源執行環境,透過基礎設施限制 AI 代理可存取的系統與資料,並在執行期間將代理工作負載視為不受信任。

快訊 AI 代理基礎設施大型語言模型推論基礎設施

NVIDIA 展示代理輔助的 AI 工廠數位孿生流程

NVIDIA Omniverse DSX Blueprint 以 OpenUSD 和 Omniverse 程式庫為基礎,提供建立 AI 工廠數位孿生所需的參考資產與工作流程。

快訊 AI 代理基礎設施

Pydantic AI 2.59.0 修補 web_fetch 安全問題並擴充代理功能

Pydantic AI 2.59.0 修補一項高風險問題:web_fetch_tool 處理含大量元素的攻擊者控制 HTML 時,可能拖慢同一個程序中的其他工作;v1.107.9 也包含修補。

快訊 大型語言模型推論基礎設施大型語言模型訓練基礎設施AI 代理基礎設施

i14 在 AWS Trainium2 訓練與部署線性注意力模型

i14 的 Laplace 3B 使用 Gated Linear Attention,讓每個序列的循環狀態固定為 29.5 MB,不隨上下文長度增加。

快訊 AI 代理基礎設施

Smartsheet MCP Server 串接 Amazon Quick 與 Kiro

Smartsheet MCP Server 已正式推出,透過 MCP 提供 40 多項工具,可讀取、建立及管理工作表、資料列、欄位與自動化流程。

快訊 AI 代理基礎設施

Anthropic Python SDK v1.16.0 更新

Analytics 報表分頁新增資料更新時間與是否還有更多結果的欄位。

快訊 AI 代理基礎設施

AWS Agent Registry 支援代理程式執行時探索工具

AWS Agent Registry 是受管目錄,可註冊並搜尋 MCP 伺服器、代理程式與代理技能。