项目

LMDeploy

LMDeploy 是用于大语言模型压缩、部署和推理服务的工具链,与 InternLM 及上海人工智能实验室生态关联。

起源与背景

InternLM 官方仓库将 LMDeploy 作为上海人工智能实验室研究生态中的模型部署工具链发布。

技术与特征

技术主题

内容来源