HCIE-AI：大模型微调及安全治理

1.概述

2. 目标

3. 预训练和微调对比

4. 微调与提示工程、RAG对比

ICL（In-Context Learning）

提示工程（Prompt Engineering）

5. 如何让一个英文好，中文不好的模型提高中文能力？

6. 大模型参数敏感性

7. LLM微调数据集构建

7.1 手动构建

7.2 自动构建

8. 微调分类

9. 全参微调

9.1 推理内存评估

9.2 训练内存评估

10. 低参微调

10.1 Freeze微调

10.2 Prompt Tuning

10.3 Prefix-Tuning

10.4 P-Tuning

10.5 P-Tuning v2

10.6 LoRA

10.7 QLoRA

11. 微调框架介绍

12. LLM安全治理

PPO介绍

DPO介绍

13. 总结

本文主要介绍了大模型微调和LLM安全治理的内容，笔试占比12%。