Proxima 将 NVIDIA BioNeMo 推理运行时接入 Neo,H100 上吞吐提升 1.6 至 1.9 倍
Proxima 已将 NVIDIA 今日发布的 BioNeMo Inference Runtime 用于其蒸馏与重折叠管线的生产环境,使 Neo 在 H100 上获得 1.6 至 1.9 倍吞吐提升,短输入场景最高 3 倍。公司称集成仅耗时数小时,一个使用 BioNeMo agent skill 的编码智能体一次性完成接入,尽管 Neo 架构与参考模型差异很大,此后已持续运行。
推荐理由:Proxima 披露 Neo 接入 NVIDIA BioNeMo 推理运行时后的吞吐提升与集成耗时,可作为评估推理栈落地成本的参照。