一、学术资源加速服务说明AutoDL提供学术资源加速服务主要解决GitHub和HuggingFace访问速度慢的问题但仅限学术用途且不承诺稳定性加速地址包含github.com、githubusercontent.com、githubassets.com、huggingface.co等域名终端配置注意事项建议不需要时关闭加速可能影响正常网络关闭命令二、主流微调框架介绍1. Transformer生态地位Hugging Face核心库NLP领域最广泛使用的基础框架技术特点支持全参数微调兼容PEFT库扩展优势生态系统最完善社区活跃与PyTorch/TensorFlow无缝集成模型和教程资源丰富适用场景中小规模模型实验、研究和开发微调入门首选2. PEFT技术定位参数高效微调标准库核心方法LoRAPrefix-tuningAdaLoRAPrompt Tuning突出优势计算和存储成本极低与Transformers完美集成操作简单易用局限性仅支持单卡微调不适合分布式训练适用场景资源受限环境如单卡需高效适配多任务的场景3.LLaMA-Factory产品特色低代码/无代码快速微调框架技术集成多种微调方法含LoRA等集成优化技术用户体验提供友好Web UI界面支持拖拽式参数配置无需深厚代码功底典型应用快速原型验证非技术人员微调本课程主要教学框架4. ModelScope平台定位阿里模型即服务(MaaS)平台技术特点多模态模型支持训练-评估-部署全流程特色优势中文场景优化企业级生产环境支持适用场景需要多模态模型和完整流水线的企业用户5. MS-SWIFT规模支持超大规模模型微调核心技术LoRA/QLoRA分布式训练量化技术模型覆盖支持500LLM200多模态模型适用场景需要微调超大规模模型或追求极致性能的生产部署6. Unsloth技术突破动态量化微调2024年新技术核心优化LoRA/QLoRA底层重构训练速度提升2倍显存占用大幅降低显著特点量化微调几乎无损精度兼容Hugging Face生态当前局限仅支持单卡微调适用场景计算资源严格受限追求训练效率极限20B参数以下模型7. 小结框架选择指南入门实验TransformersPEFT组合快速实现LLaMA-Factory企业多模态ModelScope/MS-SWIFT资源受限Unsloth发展趋势Unsloth若能支持分布式训练可能成为未来主导框架课程选择本课程以LLaMA-Factory作为主要教学框架三、LLaMA-Factory项目介绍项目地址: https://github.com/hiyouga/LLaMA-Factory项目热度: 目前已有57.2k stars287 watching和7k forks从2023年开始人气持续快速增长1. 支持的模型覆盖范围: 支持几乎所有主流大语言模型包括Baichuan 2 (7B/13B)BLOOM/BLOOMZ (560M-176B)DeepSeek系列 (1.5B-671B)Gemma系列 (2B-27B)GLM系列 (9B-355B)GPT系列 (0.1B-120B)最新支持的GPT-OSS (20B/120B)模板支持: 每个模型都有对应的对话模板(chat template)2. 安装要求核心依赖:Python: 3.9(最低)/3.10(推荐)PyTorch: 2.0.0(最低)/2.6.0(推荐)Transformers: 4.49.0(最低)/4.50.0(推荐)可选组件:CUDA: 11.6(最低)/12.2(推荐)Flash-attn: 2.5.6(最低)/2.7.2(推荐)环境适配: 部分功能需要特定架构的显卡支持如V100显卡不支持某些功能3. 硬件要求全精度训练:32位: 7B模型需要120GB显存16位(bf16): 7B模型需要60GB显存高效微调方法:LoRA/Freeze: 7B模型仅需16GB显存QLoRA 8-bit: 7B模型需10GB显存QLoRA 4-bit: 7B模型仅需6GB显存4. 安装先在autodl购买实例在autodl进入jupytelLab-终端下载输入lscd autodl-tmpgit clone --depth 1 https://github.com/hiyouga/LlamaFactory.git进入cd LlamaFactory虚拟环境建议: 本地使用建议创建conda虚拟环境conda create -n llamafactory python3.10安装pip install -e . pip install -r requirements/metrics.txt拓展模块安装flashAttention库----加速pip install flash-attn --no-build-isolation#注意V100不支持该库bitsandbytes库--量化库pip install bitsandbytesdeepspeed库---做分布式微调pip install deepspeed0.12.3accelerate库--加速pip install accelerate四、llama factory项目文件介绍/data文件夹存放数据集的文件夹可以用开源数据集也可以自己写数据集/examples文件夹提供了训练deepspeed,lora,qlora,fsdp)、模型合并、推理等示例代码可以该参数直接用/scripts文件夹存放微调、训练、模型合并、评估等脚本的文件夹/docker文件夹各类显卡的docker部署/evaluation文件夹评估模型性能数据集脚本五、启动llama在终端输入GRADIO_SERVER_PORT6006 llamafactory-cli webui打开powershell密码输入的时候是不显示的直接输入完即可点击那个地址就可以进入六、预训练模型下载1. 模型选择与下载准备目标模型: 本次微调使用的是通义千问3-4B-Base模型模型特点:是Qwen系列最新一代大型语言模型提供密集型和专家混合(MoE)两种架构预训练使用了119种语言的36万亿个标记语言覆盖范围是Qwen2.5的三倍包含编码、STEM、推理等丰富的高质量数据2. 下载方法魔塔社区https://www.modelscope.cn/models在终端新开一个窗口pip install modelscopecdcd autodl-tmp #下载到数据盘modelscope download --model Qwen/Qwen3.5-4B-Base --cache_dir ./