AI小编归纳总结
本课程是一门面向从理论到工程化转型的学习者的企业级大模型实战课程。课程共28个模块，系统覆盖HuggingFace生态、Bert/GPT2定制化、本地私有化部署（Ollama/vLLM/LMDeploy）、高效微调（Llama Factory/QLoRA/分布式）、知识蒸馏、评估（OpenCompass）、RAG（LlamaIndex/Dify/RAGFlow）、Agent（LangGraph/Dify）及多模态应用等全链路技术。特色在于企业级项目驱动（法律助手、情绪对话）、主流框架全覆盖、深度剖析原理（量化、蒸馏、分布式），并融入DeepSeek等2025年前沿技术。学习者将具备独立完成数据准备、模型微调、私有化部署及RAG/Agent系统优化的能力，获得可直接复用的工程经验。
课程介绍
大模型技术日新月异，本课程专为希望从理论走向实战、从算法走向工程化的学习者打造。课程以“企业级应用”为核心，覆盖HuggingFace生态、主流模型微调、RAG检索增强生成、智能体构建、多模态应用等全链路技术，帮助学员在真实业务场景中快速落地大模型解决方案。
课程目录
本课程共28个模块，从基础组件到高级应用，层层递进，全程实战：
基础与核心框架
- HuggingFace核心组件详解（Transformers、Datasets、Tokenizers）
- 基于Bert的中文情感分析（训练+实现）
- GPT2中文生成模型定制化（训练+部署）
本地部署与推理优化
- Ollama、vLLM、LMDeploy私有化部署实战
- 分布式推理与量化部署技术（GGUF转换、vLLM性能调优）
高效微调与分布式训练
- LLama Factory微调Qwen系列（自定义数据集、QLoRA、GGUF转换）
- 微调效果不一致问题排查与解决
- Xtuner分布式微调大模型
- 知识蒸馏压缩训练
评估与测试
- OpenCompass大模型评估框架，量化模型性能
RAG检索增强生成
- LlamaIndex快速构建RAG（Embedding模型、Chroma向量库）
- 文档切分与重排序优化
- Dify实现RAG、RAGFlow企业级RAG平台
- 项目实战：基于RAG的法律条文智能助手（方案设计、实现部署、微调优化）
Agent智能体开发
- Dify构建Agent工作流
- LangGraph构建多智能体协作系统
- DeepSeek原理与应用（结合最新模型特性）
前沿拓展
- 多模态大模型应用（图像、文本融合）
课程特色
- 企业级实战导向：涵盖法律助手、情绪对话等真实项目，从数据工程到部署上线全流程演练。
- 主流框架全覆盖：HuggingFace、LlamaFactory、vLLM、Dify、LangGraph、OpenCompass等，紧跟工业界最佳实践。
- 技术深度与广度兼备：不仅会使用，更深入原理（如知识蒸馏、分布式训练、量化部署），提升问题排查能力。
- 2025年最新技术：融入DeepSeek、多模态等热点，保持课程前沿性。
适合人群
- 希望转型大模型方向的算法工程师、开发人员
- 需要在企业内部落地RAG/Agent应用的技术负责人
- 对微调、部署、优化有深度需求的AI从业者
- 计算机相关专业学生，希望快速进入大模型赛道
学习收益
- 独立完成从数据准备、模型微调到私有化部署的全流程
- 掌握RAG系统优化技巧（切分、重排序、Embedding调优）
- 具备构建多智能体协作系统的能力
- 熟悉大模型评估方法，能客观衡量模型效果
- 获得可复用的项目代码与经验，直接应用于工作场景
001开班典礼
01-HuggingFace核心组件介绍
02-基于Bert的中文评价情感分析（训练篇）
03-基于Bert的中文评价情感分析（实现篇）
04-GPT2-中文生成模型定制化（训练篇）
05-GPT2-中文生成模型定制化
06-本地私有化部署大模型（Ollama&vLLM&LMDeploy
07-大模型微调（使用LLama Factory微调Qwen）
08-大模型微调（LLama Factory自定义微调数据集）
09-大模型微调（QLora微调&GGUF模型转换）
10-大模型微调（LLamaFactory微调效果与vllm部署效果不一致如何解决）
11-大模型微调分布式训练（LLama Factory与Xtuner分布式微调大模型）
12-大模型压缩训练（知识蒸馏）
13-大模型推理部署（分布式推理与量化部署）
14-大模型评估测试（OpenCompass）
15-大模型微调项目实战（情绪对话模型-数据工程篇）
16-大模型微调项目实战（情绪对话模型-最终效果）
17-Llamaindex快速构建RAG
18-Llama_indexRAG进阶_Embedding_model与Chroma
19-Llama_indexRAG进阶_文档切分与重排序
20-Dify实现RAG
21-RAGFlow
22-基于RAG的法律条文智能助手（方案篇）
23-基于RAG的法律条文智能助手-实现与部署
24-基于RAG的法律条文智能助手-微调与部署
25-Dify构建Agent
26-LangGraph构建多智能体
27-DeepSeek原理与应用
28-多模态大模型应用
| 
