跳到正文
9月24日周四
  1. Microsoft Research70

    微软研究:将物理AI推理卸载到边缘或云端可提升机器人性能与续航

    微软研究院对移动机器人操作负载做了系统测量,发现把物理AI推理从机器人板载GPU卸载到边缘或云端GPU,可提升任务成功率并延长续航。在内存不足的小GPU上,建图与规划比A100慢最多383%,导航障碍及时检测率下降30%,VLA模型精度下降50%;用Raspberry Pi-5替代板载GPU后,Jetson Thor等大GPU曾使Stretch-3续航缩短最多160%。

    推荐理由:微软团队系统测量了机器人端侧与卸载推理的差异,给出任务成功率与续航的量化对比,可供设计物理AI推理系统参考。

7月29日周三
7月26日周日
  1. Berkeley AI Research58

    Berkeley AI Research 提出 ABBEL 框架,用信念状态替代长程交互历史

    Berkeley AI Research 提出 ABBEL 框架,将摘要的信息内容隔离为自然语言信念状态并加以监督,以替代完整交互历史作为智能体的工作上下文。研究指出,递归摘要虽能压缩上下文,但在高质量数据稀缺的人类协助场景(如协作代码生成)中会带来明显性能损失。该框架通过信念评分监督每个信念状态的内容来提升表现。

7月7日周二
  1. Berkeley AI Research38

    智能免费之后:为智能体而建、由智能体构建的数据系统

    UC Berkeley 团队提出,推理价格从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不足 $1,部分厂商已低于 $0.10,基准测试中年度降幅在 9x 到 900x 之间、中位数约 50x。作者认为近乎免费的智能带来三类新挑战:为智能体设计的数据系统、由智能体运行的数据系统,以及智能体自行合成定制数据系统。

7月1日周三
5月8日周五
  1. Berkeley AI Research38

    自适应并行推理:高效推理扩展的下一个范式

    自适应并行推理让推理模型自行决定何时分解并并行化独立子任务、开启多少并发线程以及如何协调。相比随探索量线性增长的串行推理,该范式可缓解上下文退化与延迟随推理长度成比例上升的问题。文章梳理了并行推理领域近期进展,包括作者参与提出的 ThreadWeaver。

4月20日周一
  1. Berkeley AI Research58

    Berkeley AI Research 提出 GRASP:面向世界模型长时程规划的梯度规划器

    Berkeley AI Research 提出 GRASP,一种面向学习动力学(世界模型)的梯度规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代上直接加入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开经由高维视觉模型的脆弱状态输入梯度,使长时程规划更实用。

3月13日周五