AI知学社

开源大模型部署精英课

慧育英才 · 系列三

开源大模型部署精英课

以模为基，以创为翼

深度掌握DeepSeek、Kimi、GLM、MiniMax、Qwen等主流开源大模型，从原理理解到本地部署，从模型微调到AI产品开发

36
总课时
4
学习阶段
14-22
适合年龄（岁）

课程定位

深度掌握DeepSeek、Kimi、GLM、MiniMax、Qwen等主流开源大模型，从原理理解到本地部署，从模型微调到AI产品开发，培养下一代AI技术精英。有一定Python编程基础更佳。

适合人群

  • 年龄14-22岁青少年及青年
  • 有一定Python编程基础
  • 对AI技术有深度探索需求
  • 有志于AI技术研发与创业的精英家庭子女

四阶课程总览

阶段 课程名称 节数 核心目标 标志性产出
第一阶原理·大模型内核解密9节掌握Transformer原理与大模型技术体系从零实现小型Transformer
第二阶览胜·主流模型深度对比9节DeepSeek/Kimi/GLM/MiniMax/Qwen深度解析与对比五大模型对比评测报告
第三阶驭器·本地部署实战9节多模型本地部署、量化优化、推理加速个人AI服务器搭建完成
第四阶开物·AI产品开发9节模型微调、应用开发、开源项目贡献个人AI助手 + 开源项目PR

第一阶：原理 · 大模型内核解密

知其然，更要知其所以然。真正的高手，从原理出发

模块 课程主题 核心内容 学员产出
1AI进化论从感知机到大模型、NLP发展里程碑、GPT进化史AI发展时间轴图谱
2Transformer架构深度解析Attention机制、自注意力、多头注意力、位置编码Attention机制手写实现
3Encoder-Decoder架构Encoder结构、Decoder结构、序列到序列模型小型Transformer编码器
4大模型预训练技术预训练任务设计、数据集构建、训练流程、Scaling Law预训练数据处理Pipeline
5大模型对齐技术SFT监督微调、RLHF人类反馈强化学习、DPO直接偏好优化SFT微调数据集
6向量空间与语义理解Embedding原理、向量数据库、语义检索机制语义搜索引擎原型
7推理加速原理模型量化、KV Cache、推理优化、分布式推理量化推理性能对比报告
8开源大模型生态全景开源模型发展史、主要玩家分析、开源协议解读大模型生态图谱
9从零实现小型Transformer完整实现一个小型Transformer模型并训练自主实现的Transformer模型

第二阶：览胜 · 主流模型深度对比

知己知彼，百战不殆。掌握每一个模型的性格与特长

模块 课程主题 核心内容 学员产出
1DeepSeek深度解析DeepSeek模型家族、技术特点、MoE架构、代码能力评测DeepSeek能力评测报告
2Kimi (Moonshot)深度解析Kimi长文本能力、技术架构、应用场景、性能评测Kimi长文本评测报告
3GLM (智谱)深度解析GLM架构创新、对话模型、多模态能力、开源生态GLM系列对比分析
4MiniMax深度解析MiniMax技术路线、多模态能力、ABAB大模型特色MiniMax应用案例集
5Qwen (通义千问)深度解析Qwen模型家族、技术特性、开源策略、工具调用能力Qwen能力矩阵分析
6五大模型横向评测（上）基准测试设计、通用能力评测、代码能力评测横向评测数据集与脚本
7五大模型横向评测（下）推理能力评测、多语言能力、性价比分析完整横向评测报告
8模型选型方法论场景匹配、成本考量、部署难度、选型决策框架模型选型决策树
9模型选型实战针对具体业务场景，完成模型选型与论证场景化模型选型方案

第三阶：驭器 · 本地部署实战

把大模型装进自己的服务器，把核心能力握在自己手中

模块 课程主题 核心内容 学员产出
1云服务器环境搭建云服务器选型、GPU配置、CUDA环境、Docker基础完整开发环境搭建
2模型下载与基础部署HuggingFace使用、模型格式、基础推理部署本地运行首个大模型
3量化技术实战（GGUF/GPTQ/AWQ）量化原理对比、llama.cpp部署、4bit/8bit量化实操量化部署性能测试
4vLLM高性能推理部署vLLM架构、PagedAttention、高并发推理服务vLLM推理服务部署
5Ollama一站式部署Ollama安装与使用、模型管理、API服务、自定义模型Ollama本地AI服务
6DeepSeek本地部署实战DeepSeek系列部署、MoE模型优化、显存优化技巧DeepSeek本地运行环境
7Qwen/GLM本地部署实战国内开源模型部署、中文优化、多模态模型部署Qwen/GLM本地服务
8模型服务化与API网关FastAPI封装、负载均衡、流式输出、鉴权机制模型API服务
9个人AI服务器构建多模型管理、统一接口、监控告警、自动化运维个人AI服务器系统

第四阶：开物 · AI产品开发

从技术到产品，从模型到价值。真正的精英，创造价值

模块 课程主题 核心内容 学员产出
1LoRA微调实战LoRA原理、数据集制作、微调训练、模型合并领域微调模型
2全参数微调进阶全参数微调、DeepSpeed ZeRO、分布式训练微调训练pipeline
3RAG检索增强生成向量数据库、文档切分、检索优化、RAG评测知识库问答系统
4Agent智能体开发ReAct框架、工具调用、多Agent协作、记忆机制多功能AI Agent
5AI产品设计思维用户需求分析、产品规划、MVP设计、用户体验产品需求文档PRD
6全栈AI应用开发前后端开发、数据库设计、模型集成、部署上线完整AI应用Demo
7开源项目贡献开源社区文化、PR流程、代码贡献、文档贡献首个开源PR提交
8AI创业工作坊商业模式设计、竞品分析、商业计划书、路演训练创业项目BP
9毕业答辩·产品发布会产品展示、技术答辩、专家评审、证书授予个人AI产品 + 认证证书

课程亮点

🤖

高端资源

  • 顶级技术导师
  • GPU云服务器支持
  • 开源社区连接
  • AI公司参访
💎

稀缺体验

  • 1:4超高师生比
  • 真实GPU云服务器实操
  • 一对一项目指导
  • 开源核心开发者指导
🎯

实战导向

  • 五大主流模型深度实操
  • 从部署到微调全流程
  • AI产品从0到1开发
  • 开源社区真实贡献

课程成果

01

个人AI助手产品（完整功能的AI应用，可对外展示）

02

微调专属模型（基于开源模型的领域微调模型）

03

开源项目贡献记录（真实GitHub PR/Merged记录）

04

大模型工程师认证（AI知学社 + 技术社区双认证）

05

五大模型部署能力（DeepSeek/Kimi/GLM/MiniMax/Qwen全掌握）

06

技术精英社群（终身制AI技术精英社群准入资格）

07

实习/深造推荐（优秀学员推荐至顶级AI公司或研究机构）

Scroll to Top