Granite Switch 4.1 发布,整合聊天、决策与语音转录模型
Granite Switch 4.1 发布 8B 和 30B 模型,将通用与安全决策适配器、Granite-Speech-5.0-Turbo-CTC 语音识别模型及基础模型整合到同一托管端点。
推荐理由:文章给出 Granite Switch 4.1 的模型组合、适配器缓存复用与单端点部署方式,便于理解多能力统一推理的实现路径。
技术方向
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
8 条精选近 30 天 8 条共收录 21 条
Granite Switch 4.1 发布 8B 和 30B 模型,将通用与安全决策适配器、Granite-Speech-5.0-Turbo-CTC 语音识别模型及基础模型整合到同一托管端点。
推荐理由:文章给出 Granite Switch 4.1 的模型组合、适配器缓存复用与单端点部署方式,便于理解多能力统一推理的实现路径。
Meta 面向智能体编码工作流优化的开放权重模型 Muse Spark Open 现已上线 Amazon SageMaker JumpStart。该模型采用 MoE 架构,总参数量 816B、每个 token 激活 42B,支持 1M tokens 上下文,并提供 BF16 与 NVFP4 两种版本。
推荐理由:文章给出两种权重格式的实例映射、SDK 调用与清理步骤,可用于评估部署成本和接入方式。
NVIDIA 发布 120B 参数的开放多模态智能体模型 Nemotron 3.5 Super VL,以及面向端侧设备的 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB。
推荐理由:这三款开放模型覆盖企业服务器到端侧设备,并披露训练、部署和行业定制信息,便于比较不同智能体场景的算力需求。
Mistral AI 发布 Timestral 时间序列基础模型家族,提供 5M、28M、123M 和 209M 四种参数量规格,支持概率预测、多变量目标以及历史和已知未来的协变量。最大模型在 GIFT-Eval、TIME 和 fev-bench 三项公开预测基准中位列预训练零样本模型首位,并可通过 Mistral Forge 微调或部署到本地、VPC 和隔离网络环境。
推荐理由:同时给出模型规模、基准表现、推理速度与部署方式,便于读者判断不同规格在预测任务中的取舍。
Liquid AI 发布 LFM2.5-24B-A2B,这是一款总参数量为 24B、每个 token 仅激活 2B 参数的推理模型,面向端侧智能体的工具调用和多步任务。
推荐理由:原文同时给出模型架构、训练规模、端侧推理速度与多类评测结果,适合比较本地智能体的效果和部署成本。
NVIDIA 与合作伙伴将在 RTX Spark 笔记本上市前推出本地 AI 智能体、模型、创作应用和开发者工具更新,相关笔记本计划于 10 月 16 日上市。文章还介绍 Nemotron 3.5 Bolt 74B、开源路由器 NVIDIA PAIR、Adobe 应用优化、Broadcast 2.3、llama.cpp Windows 应用及 DLSS 5 等更新。
推荐理由:文章集中梳理 RTX Spark 发布前的软件生态、模型、创作工具、开发者环境和游戏支持,能帮助读者判断本地 AI 工作流的实际覆盖范围。
作者通过组合多项优化,让 MiniMax H3 在单张 RTX 5090 上以 448×256 分辨率实时生成视频,目标是在 15 秒内完成 15 秒内容。
推荐理由:文章拆解了在单张消费级 GPU 上运行 MiniMax H3 实时视频生成的优化方法,并开源可复现的自定义节点。
Microsoft Research Asia 发布并开源 Agent Lightning v1.0,以约 3,500 行代码构建轻量级 Agentic RL 控制平面。
推荐理由:原文同时说明框架架构、训练流程和编码智能体实验结果,便于评估其如何接入现有 Agent harness。