【京东开源基于国产芯片自研的xLLM大模型推理引擎】京东开源大模型推理引擎xLLM,据悉,xLLM是基于国产芯片自研的一款大模型推理引擎,目前,该技术服务了京东AI助手京言、智能客服、风控、供应链助手、广告等场景,效率提升5倍以上,机器成本降低90%。

发布时间:2025年9月29日 15:37 来源:浪媒 分类:其他
【京东开源基于国产芯片自研的xLLM大模型推理引擎】京东开源大模型推理引擎xLLM,据悉,xLLM是基于国产芯片自研的一款大模型推理引擎,目前,该技术服务了京东AI助手京言、智能客服、风控、供应链助手、广告等场景,效率提升5倍以上,机器成本降低90%。