开源大语言模型的私有化部署

您的位置：首页 > 任务详情

招标模式开源大语言模型的私有化部署

雇主：mike
发布时间：2023-12-02
分类：程序开发

¥ 3000 元

免责声明该外包需求信息来源于站外平台，本站仅提供公开信息部分字段展示与订阅服务，更多请查看免责声明。

任务详情

在服务器上私有化部署开源的大语言模型，并起一个chat completion的API服务。大模型包括但不限于ChatGLM，LLaMA，Baichuan，Qwen。需要掌握的能力包括：1. 能列出服务器配置需求2. 能按服务器上正确安装大语言模型3. API能支持event stream（一个个字往外蹦的那种）此项目是一个长期合作。我们会有不少客户需要此需求。一个项目一个项目结算。目前没有急需要做的。先达成合作意向。

任务附件 (0)