今天介绍这个工具（OpenLLM），可以很好的屏蔽 LLM 的底层逻辑，实际使用的时候比直接手写 Transformer 要方便太多了。而且集成了远程 API 的访问，同时可以和 LangChain 结合，可以作为生产服务的 LLM 后端使用。
文章内容：
• OpenLLM 介绍
• 安装、运行、本地和远程接口调用和部署（ChatGLM2为例）
• 如何运行 Llama 2
• 部署说明
ChatGLM 架构 支持的模型 ID 如下：
• thudm/chatglm-6b
• thudm/chatglm-6b-int8
• thudm/chatglm-6b-int4
• thudm/chatglm2-6b
• thudm/chatglm2-6b-int4
客服电话
售前咨询
