NVIDIA与IIT Madras发布Indic预训练研究与2.8T token数据集
NVIDIA与IIT Madras及AI4Bharat将发布Nemotron-pretraining-Indic-v1,覆盖22种印度语言、约2.8万亿token,并同步开放GPU加速的数据生成流程。
推荐理由:报告同时给出2.8T token语料、生成流程与continued pretraining评测,便于理解印度语言数据扩展的方法和效果边界。
NVIDIA与IIT Madras及AI4Bharat将发布Nemotron-pretraining-Indic-v1,覆盖22种印度语言、约2.8万亿token,并同步开放GPU加速的数据生成流程。
推荐理由:报告同时给出2.8T token语料、生成流程与continued pretraining评测,便于理解印度语言数据扩展的方法和效果边界。
Mistral AI 发布 Timestral 时间序列基础模型家族,提供 5M、28M、123M 和 209M 四种参数量规格,支持概率预测、多变量目标以及历史和已知未来的协变量。最大模型在 GIFT-Eval、TIME 和 fev-bench 三项公开预测基准中位列预训练零样本模型首位,并可通过 Mistral Forge 微调或部署到本地、VPC 和隔离网络环境。
推荐理由:同时给出模型规模、基准表现、推理速度与部署方式,便于读者判断不同规格在预测任务中的取舍。
Microsoft Research 提出 StudentSim,用公开且去标识化的学习记录训练个性化学生模拟器,并在 StudentSimEval 中评估其行为还原与指导响应能力。
Microsoft Research Asia 发布并开源 Agent Lightning v1.0,以约 3,500 行代码构建轻量级 Agentic RL 控制平面。
推荐理由:原文同时说明框架架构、训练流程和编码智能体实验结果,便于评估其如何接入现有 Agent harness。
Microsoft 研究经理 Jennifer Neville 与首席应用科学家 Chad Atalla 探讨 AI 失效及其启示:模型在传统评测基准之外测试时,可能暴露意外失败。要理解这些结果,需要检查数据如何影响系统行为及其是否契合用户需求,并从异常结果中总结经验。
Microsoft Research 开发端到端机器学习系统,结合太阳风观测、AE 与 Dst 预报、地质和电网数据,为美国本土 66,935 座变电站生成空间天气风险预测。系统可提前 30-60 分钟发出预警,对重大、严重和极端事件的检测率分别为 76.5%、81.2% 和 64.1%。
Mistral 与 Cloudera 建立合作,将 Mistral 模型集成至 Cloudera 混合数据平台,支持企业跨越私有云、公共云、本地及完全隔离环境进行推理。企业还可利用受控环境中的专有数据训练并拥有定制模型;合作面向 Cloudera 平台上 30 exabytes 的客户管理数据。
ABBEL 将交互历史压缩为可更新的自然语言信念状态,并通过信念分级监督其信息保留能力。在 CollabBench 中,重构式信念分级将模型与完整上下文模型的性能差距缩小约 50%,训练步数减少 50%;在多目标问答中加入峰值信念长度惩罚后,模型在较少内存占用下保持了相近性能。
Berkeley AI Research 分析自适应并行推理,探索让 LLM 自主决定何时分解任务、生成多少并发推理线程及如何协调。现有的 Best-of-N、MCTS 和 GroupThink 等方法,通常将并行结构或搜索策略预设在模型之外,难以适应不同问题。 sequential 推理还可能带来上下文退化、延迟和计算成本上升。