跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

6 条精选近 30 天 5 条共收录 29 条

更新

部署工程的精选

10月16日周五第 1–6 条
10月13日周二
10月8日周四
  1. Microsoft Research71

    微软研究院开源 Agent Lightning v1.0:约 3500 行的轻量智能体强化学习框架

    微软研究院开源 Agent Lightning v1.0,用约 3500 行代码实现完整的智能体强化学习控制平面,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重新实现智能体。

    推荐理由:微软研究院开源了约 3500 行的智能体强化学习框架,读者可了解它如何让部署中的 harness 直接参与训练。

9月24日周四
  1. Microsoft Research60

    微软研究:把物理 AI 推理卸载到边缘或云端可提升机器人性能与续航

    微软研究院系统测量了移动操作机器人分别在端侧、边缘和云端 GPU 上运行推理的差异,发现把推理卸载出机器人可提升任务成功率并延长续航。

    推荐理由:微软团队系统测量了机器人端侧 GPU 推理的性能与续航代价,并给出可复用的卸载工具链。

7月29日周三