跳到正文
今天10月16日周五1 条
10月8日周四
10月1日周四
9月24日周四
  1. Microsoft Research66

    Microsoft Research 研究物理 AI 机器人推理卸载并扩展 Physical AI Toolchain

    Microsoft Research 研究了将物理 AI 推理从机器人车载 GPU 卸载到边缘或云端 GPU 的方案。实验显示,卸载可提升映射、规划、导航和操作性能,并减少电池消耗;研究团队还在 Physical AI Toolchain 中加入基于 Kubernetes 的自动容器化、部署和推理卸载能力。

    推荐理由:文章通过移动机器人实验展示推理卸载对任务性能、电池续航和部署规模的影响,并给出基于 Kubernetes 的实现工具。

7月29日周三
7月26日周日
  1. Berkeley AI Research54

    ABBEL:通过更新信念状态提升长程交互效率

    ABBEL 将交互历史压缩为可更新的自然语言信念状态,并通过信念分级监督其信息保留能力。在 CollabBench 中,重构式信念分级将模型与完整上下文模型的性能差距缩小约 50%,训练步数减少 50%;在多目标问答中加入峰值信念长度惩罚后,模型在较少内存占用下保持了相近性能。

5月8日周五
  1. Berkeley AI Research40

    自适应并行推理:高效推理扩展的下一范式

    Berkeley AI Research 分析自适应并行推理,探索让 LLM 自主决定何时分解任务、生成多少并发推理线程及如何协调。现有的 Best-of-N、MCTS 和 GroupThink 等方法,通常将并行结构或搜索策略预设在模型之外,难以适应不同问题。 sequential 推理还可能带来上下文退化、延迟和计算成本上升。