详细步骤
详细步骤
1.购买适合的GPU算力服务器
2.下载框架文件到服务器
- git clone https://www.github.com/fuzhen563-bot/Emind
3.下载基础模型到服务器内
- 可以下载Emind作为基模,也可以使用大厂开源模型
4.安装依赖
5.安装蒸馏工具箱
- 配置baseurl和apikey(建议购买tokenplan,量大划算)
6.蒸馏企业数据和领域数据
- 使用工具箱内的sft&dpo蒸馏领域数据,上传企业文档进行转化蒸馏
7.开始训练
1.购买适合的GPU算力服务器
2.下载框架文件到服务器
3.下载基础模型到服务器内
4.安装依赖
5.安装蒸馏工具箱
6.蒸馏企业数据和领域数据
7.开始训练