Granite Switch 4.1 发布，整合聊天、决策与语音转录模型
Granite Switch 4.1 发布 8B 和 30B 模型，将通用与安全决策适配器、Granite-Speech-5.0-Turbo-CTC 语音识别模型及基础模型整合到同一托管端点。
推荐理由：文章给出 Granite Switch 4.1 的模型组合、适配器缓存复用与单端点部署方式，便于理解多能力统一推理的实现路径。
技术方向
部署工程 最新动态
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
9 条精选近 30 天 9 条共收录 31 条
更新
部署工程的精选
Hugging Face Blog精选AI 评分6767 AWS Machine Learning Blog精选AI 评分6868 Meta Muse Spark Open 上线 Amazon SageMaker JumpStart
Meta 面向智能体编码工作流优化的开放权重模型 Muse Spark Open 现已上线 Amazon SageMaker JumpStart。该模型采用 MoE 架构，总参数量 816B、每个 token 激活 42B，支持 1M tokens 上下文，并提供 BF16 与 NVFP4 两种版本。
推荐理由：文章给出两种权重格式的实例映射、SDK 调用与清理步骤，可用于评估部署成本和接入方式。
AWS Machine Learning Blog精选AI 评分6969 AWS 介绍通过 Trust in Depth 管理 AI 智能体自主性
AWS 提出 Trust in Depth 分层方法，用范围界定、身份识别、边界控制和运行观测提高 AI 智能体的可控性。文章以帮助台智能体处理员工离职为例，介绍 Policy in AgentCore、AgentCore Gateway、Strands Box 和 Amazon CloudWatch Omni 如何执行权限、身份、策略与追踪控制。
推荐理由：文章以生命周期为线索拆解智能体的范围、身份、边界和观测层，并结合 AWS 产品说明如何落实这些控制。
NVIDIA Blog精选AI 评分7878 NVIDIA 发布 Nemotron 3.5 Super VL 与两款 Bolt 开放模型
NVIDIA 发布 120B 参数的开放多模态智能体模型 Nemotron 3.5 Super VL，以及面向端侧设备的 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB。
推荐理由：这三款开放模型覆盖企业服务器到端侧设备，并披露训练、部署和行业定制信息，便于比较不同智能体场景的算力需求。
AWS Machine Learning Blog精选AI 评分7171 Anchor Browser 如何接入 Amazon Bedrock AgentCore payments 实现 x402 自动支付
Anchor Browser 已与 Amazon Bedrock AgentCore payments 集成，可让 AI 智能体通过 x402 协议自主购买网页内容和 API 服务。
推荐理由：文章拆解了托管支付层的接入流程及安全边界，为现有浏览器智能体增加自主付费能力提供可迁移实现。
NVIDIA Blog精选AI 评分7878 NVIDIA RTX Spark 笔记本将上线并完善本地 AI 软件生态
NVIDIA 与合作伙伴将在 RTX Spark 笔记本上市前推出本地 AI 智能体、模型、创作应用和开发者工具更新，相关笔记本计划于 10 月 16 日上市。文章还介绍 Nemotron 3.5 Bolt 74B、开源路由器 NVIDIA PAIR、Adobe 应用优化、Broadcast 2.3、llama.cpp Windows 应用及 DLSS 5 等更新。
推荐理由：文章集中梳理 RTX Spark 发布前的软件生态、模型、创作工具、开发者环境和游戏支持，能帮助读者判断本地 AI 工作流的实际覆盖范围。
ComfyUI Newsletter精选AI 评分7777 作者如何用单张 GPU 和 MiniMax H3 生成实时视频
作者通过组合多项优化，让 MiniMax H3 在单张 RTX 5090 上以 448×256 分辨率实时生成视频，目标是在 15 秒内完成 15 秒内容。
推荐理由：文章拆解了在单张消费级 GPU 上运行 MiniMax H3 实时视频生成的优化方法，并开源可复现的自定义节点。
Hugging Face Blog精选AI 评分7474 Hugging Face ML Intern 用提示词自动训练并发布模型
Hugging Face 展示了如何在 HuggingChat 中启用 ML Intern，通过自然语言提示完成数据准备、基线测试、训练、评测和模型发布。作者用 7 个项目验证了工作流，总计算成本约 USD 103，其中 0.8B Pocket Rewriter 可在 CPU 上运行，并提供全部提示词与模型、数据集和应用。
推荐理由：文章拆解了用 ML Intern 自动规划、训练、评测并发布模型的方法、成本控制和多组项目结果。
Microsoft Research精选AI 评分8181 Microsoft Research Asia 开源 Agent Lightning v1.0 轻量级 Agentic RL 框架
Microsoft Research Asia 发布并开源 Agent Lightning v1.0，以约 3,500 行代码构建轻量级 Agentic RL 控制平面。
推荐理由：原文同时说明框架架构、训练流程和编码智能体实验结果，便于评估其如何接入现有 Agent harness。