PD分离

加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

PD分离(Prefill-Decode Disaggregation)技术的核心思想是将Prefill和Decode这两个阶段解耦,并将它们分配到不同类型的计算设备上执行。

PD分离(Prefill-Decode Disaggregation)技术的核心思想是将Prefill和Decode这两个阶段解耦,并将它们分配到不同类型的计算设备上执行。收起

查看更多
暂无相关内容,为您推荐以下内容

正在努力加载...