苏秦(suqin) 语言大模型全工具链 WebUI 整合包

项目简介

本项目目标是实现目前各大语言模型的全流程工具 WebUI 整合包。不用写代码即可拥有自己的定制模型与专属应用！

具体功能模块如下：

开发部署

初次使用建议查阅说明文档进行相关操作

软件需求

本项目已在 Python 3.8 - 3.10，CUDA 11.7/11.8 环境下完成测试。已在 Windows、Linux 系统中完成测试。

安装环境

1. 运行环境

# 拉取仓库$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录$ cd LLM-Kit

# 安装依赖$ pip install -r requirements.txt

依赖也可以直接下载：Windows环境包， Linux环境包。

显卡驱动和cuda自行安装

2. 执行脚本

win环境，双击打开 web-demo-CN.bat 脚本

Linux环境，双击打开 web-demo-CN.sh 脚本

3. 相关演示文件

体验大模型连接数据库功能请先下载相关文件

体验角色扮演功能请先下载相关文件

表情包功能请先下载相关文件放入data/apply/emotion文件夹中

文件目录

env ：集成包环境

utils ：工具代码

modules ：各模块代码

chatdb : 数据库接入相关代码

svc : svc相关代码

vits : vits相关代码

agent ：agent相关代码

apply ：应用demo代码

model ：模型相关代码

data ：数据文件

LLM ：大模型训练数据文件

Embedding ：嵌入模型训练数据文件

audio ：生成的语音文件

emotion ：表情包文件

play ：人设提示词文件

apply ：应用demo相关文件

documents ：知识库数据文件

modeldata ：模型训练数据文件

ui ：ui界面代码

output ：训练中的checkpoints

models ：模型文件

hubert_model ：声音编码器模型文件

svc : svc模型文件

LLM ：语言大模型文件

Embedding ：嵌入模型文件

LoRA ：LoRA模型文件

live2d_models ：live2d模型文件

svc_models ：svc相关文件

vits_pretrained_models : vits模型文件

项目链接

https://github.com/wpydcr/LLM-Kit