资源简介

理论与实践相结合,深入掌握大模型微调(Fine-tuning)技术
大模型微调技术揭秘:Adapter Tuning,Prompt Tuning,Prefx Tuning,P-Tuning,LoRA,AdaLORA, QLORA
熱练掌握 Hugging Face Transformers & PEFT, Microsoft Deepspeed 等微调工具库。
基于国产硬件(华为昇腾 910)和大模型(ChatGLM-6B)进行微调技术实践。

PS:  配合[SVIP]极客时间 AI 大模型应用开发实战营0期   一起看

彭靖田谷歌开发者专家，LangChain 开发者，谷歌出海创业加速器导师
极客时间《A 大模型应用开发实战营》讲师，开源项目 Kubeflow 维护者，TensorFlow 贡o献者。国内第一本深度剖析 Google Al 框架的畅销书《深入理解 TensorFlow》作者。
华为公司 2012 实验室深度学习团队成员，从零到一参与了华为深度学习平台和华为深度学习云服务的设计与研发工作。2017 年作为技术合伙人加入才云科技，负责 A1Cloud，并为能源、运营商等多个行业提供定制化人工智能平台方案。
。加州大学访问学者，毕业于浙江大学竺可桢学院。

资源目录

——————\天下无鱼15号盘\计算机教程LGXLB\02-极客时间\A018-AI大模型微调训练营（0期）
├─0-开营直播1019
│   ├─0-开营直播-10.19直播答疑部分.mp4            407.54MB
│   ├─0-开营直播1019-RAG、微调、预训练，如何选择适合的大模型优化方式？.mp4            1.13GB
│   └─大厂案例PPT
│         ├─360 大数据平台定制开发之道.pdf            811.72KB
│         ├─DDD 在京东物流的落地效果.pdf            965.99KB
│         ├─Go 并发数据结构和算法实践.pdf            662.06KB
│         ├─Go 语言基础原理深度解析.pdf            479.82KB
│         ├─大疆 Kubernetes 探索与实践之路.pdf            1.92MB
│         ├─如何建设一支能打硬仗的技术团队.pdf            173.88KB
│         ├─微保 Service Mesh 研发实践中的取舍-龙武_compressed.pdf            598.75KB
│         ├─快手 AI 生成式技术实践.pdf            628.98KB
│         ├─技术管理路上的那些事儿.pdf            1.17MB
│         ├─推荐系统特征交互建模：浅层模型、深度模型与 AutoML.pdf            2.46MB
│         ├─构建批流一体化 AI 数据平台的深度探索.pdf            1MB
│         ├─百度文心 (ERNIE) 语义理解技术详解.pdf            1.43MB
│         ├─研发效能建设的“灵魂拷问”与落地实践.pdf.pdf            1.31MB
│         ├─类秒杀场景下的瞬时大流量高并发实践.pdf            526.44KB
│         ├─腾讯万亿级 Elasticsearch 架构实践.pdf            1.32MB
│         └─阿里工程效能微创新.pdf            2.09MB
├─1-开营直播：大语言模型微调的前沿技术与应用
│   ├─代码
│   ├─直播评论
│   │   └─20231129评论区记录.xlsx            16.46KB
│   ├─视频
│   │   └─01-大模型微调的前沿技术与应用.mp4            836.28MB
│   ├─课件
│   │   └─开营直播：大语言模型微调的前沿技术与应用.pdf            9.91MB
│   └─资料
├─10-实战QLoRA微调ChatGLM3-6B
│   ├─代码
│   │   └─github.txt            44B
│   ├─直播评论
│   │   └─20240103评论区记录.xlsx            10.46KB
│   ├─视频
│   │   ├─10-10-实战QLORA微调ChatGLM3-6B 1月3日-更多资料shikey.com.mp4            989.97MB
│   │   └─10-AI 大模型微调训练营第 0 期直播课-6-更多资料shikey.com.mp4            773.99MB
│   ├─课件
│   │   └─9-实战QLoRA 微调 ChatGLM3-6B.pdf            14.08MB
│   └─资料
│         └─GLM论文.zip            8.44MB
├─11-快速入门 LangChain
│   ├─代码
│   ├─直播评论
│   ├─视频
│   │   ├─11-快速入门 LangChain 1月7日-2-更多资料shikey.com.mp4            924.1MB
│   │   └─11-快速入门 LangChain 1月7日-更多资料shikey.com.mp4            291.65MB
│   ├─课件
│   │   └─10-快速入门 LangChain 大模型应用开发框架.pdf            9.68MB
│   └─资料
├─12-实战基于LangChain和ChatGLM私有化部署聊天机器人
│   ├─代码
│   ├─直播评论
│   │   └─20240110评论区记录.xlsx            13.45KB
│   ├─视频
│   │   └─12-实战基于LangChain和ChatGLM私有化部署聊天机器人1月10日-更多资料shikey.com.mp4            1.38GB
│   └─课件
│         └─11-实战基于LangChain和ChatGLM私有化部署聊天机器人.pdf            10.6MB
├─13-实战私有数据微调ChatGLM3
│   ├─代码
│   │   └─代码.txt            44B
│   ├─直播评论
│   │   └─20240118评论区记录.xlsx            14.25KB
│   ├─视频
│   │   └─13-实战私有数据微调ChatGLM31月18日-更多资料shikey.com.mp4            1.43GB
│   ├─课件
│   │   └─12-实战私有数据微调ChatGLM3.pdf            10.02MB
│   └─资料
├─14-ChatGPT大模型训川练技术RLHF
│   ├─代码
│   │   └─代码.txt            44B
│   ├─直播评论
│   │   └─20240121评论区记录.xlsx            13.25KB
│   ├─视频
│   │   └─14-ChatGPT大模型训川练技术RLHF1月21日-更多资料shikey.com.mp4            1.14GB
│   ├─课件
│   │   └─13-ChatGPT大模型训练技术RLHF.pdf            6.45MB
│   └─资料
├─15-混合专家模型（MoEs）技术揭秘
│   ├─直播评论
│   │   └─20240124评论区记录.xlsx            11.35KB
│   ├─视频
│   │   └─15-混合专家模型(MoEs)技术揭秘1月25日-更多资料shikey.com-更多资料shikey.com.mp4            942.75MB
│   ├─课件
│   │   └─14-混合专家模型（MoEs）技术揭秘.pdf            5.37MB
│   └─资料
│         └─MoEs论文.zip            7.67MB
├─16-大模型分布式训练框架 Microsoft DeepSpeed
│   ├─代码
│   │   └─代码.txt            44B
│   ├─直播评论
│   │   └─20240128评论区记录.xlsx            12.74KB
│   ├─视频
│   │   └─16-大模型分布式训练框架 Microsof Deepspeed1月28日-更多资料shikey.com.mp4            1.42GB
│   ├─课件
│   │   └─15-大模型分布式训练框架Microsoft DeepSpeed(1).pdf            7.78MB
│   └─资料
│         └─ZeRO论文.zip            2.84MB
├─17-Meta AI 大模型家族 LLaMA
│   ├─代码
│   ├─直播评论
│   │   └─20240131评论区记录.xlsx            11.75KB
│   ├─视频
│   │   └─17-Meta Al 大模型家族 LLaMA1月31日-更多资料shikey.com.mp4            1.13GB
│   ├─课件
│   │   └─16-Meta AI 大模型家族 LLaMA.pdf            8.6MB
│   └─资料
│         └─LLaMAl论文.zip            15.27MB
├─2-大模型四阶技术总览
│   ├─直播评论
│   │   └─20231203评论区记录.xlsx            17.14KB
│   ├─视频
│   │   └─02-AI大模型四阶技术总览.mp4            1.5GB
│   ├─课件
│   │   ├─1-AI大模型四阶技术总览-新.pdf            18.91MB
│   │   └─1-AI大模型四阶技术总览.pdf            20.74MB
│   └─资料
├─3-大语言模型技术发展与演进
│   ├─直播评论
│   │   └─20231203评论区记录.xlsx            17.14KB
│   ├─视频
│   │   └─03-大模型演进-更多资料shikey.com.mp4            1.77GB
│   ├─课件
│   │   └─2-大语言模型技术发展与演进.pdf            17.79MB
│   └─资料
│         └─论文.zip            9.97MB
├─4-大语言模型微调技术揭秘-PEFT
│   ├─代码
│   ├─直播评论
│   │   └─20231206评论区记录.xlsx            14.27KB
│   ├─视频
│   │   ├─04-大模型微调技术揭秘-PEFT-更多资料shikey.com.mp4            2.11GB
│   │   └─04-新录制1月14日-更多资料shikey.com.mp4            864.71MB
│   ├─课件
│   │   ├─2-大语言模型技术发展与演进.pdf            17.79MB
│   │   └─3-大模型微调技术揭秘-PEFT.pdf            10.05MB
│   └─资料
│         └─Fine-tuning论文.zip            16.51MB
├─5-大语言模型微调技术揭秘-LoRA
│   ├─代码
│   ├─直播评论
│   │   └─20231210评论区记录.xlsx            16.01KB
│   ├─视频
│   │   └─05-大模型低秩适配(LoRA)技术-更多资料shikey.com.mp4            1.51GB
│   ├─课件
│   │   ├─3-大模型微调技术揭秘.pdf            16.2MB
│   │   └─4-大模型微调技术揭秘-LoRA.pdf            7.54MB
│   └─资料
│         └─UniPELT A Unified Framework for Parameter-Efficient Language Model Tuning.pdf            444.46KB
├─6-大模型开发工具库
│   ├─代码
│   ├─直播评论
│   ├─视频
│   │   └─06-大模型开发工具-更多资料shikey.com.mp4            1.5GB
│   └─课件
│         └─5-大模型开发工具库 HF Transformers.pdf            4.44MB
├─7-实战 Transformers 模型微调
│   ├─代码
│   │   └─github.txt            44B
│   ├─直播评论
│   │   └─20231220评论区记录.xlsx            15.78KB
│   ├─视频
│   │   └─07-实战 Transformers 模型微调-12月13日-更多资料shikey.com.mp4            1.49GB
│   └─课件
│         └─6-实战Transformers模型微调.pdf            4.36MB
├─8-实战Transformers模型量化
│   ├─代码
│   │   └─github.txt            44B
│   ├─直播评论
│   │   └─20231224评论区记录.xlsx            12.46KB
│   ├─视频
│   │   └─08-实战Transformers模型量化-更多资料shikey.com.mp4            1.25GB
│   ├─课件
│   │   └─7-实战Transformers模型量化.pdf            6.37MB
│   └─资料
│         └─Quantization论文.zip            5.56MB
├─9-大模型高效微调工具HF PEFT
│   ├─代码
│   │   └─github.txt            44B
│   ├─直播评论
│   │   └─20231227评论区记录.xlsx            12.81KB
│   ├─视频
│   │   └─09-大模型高效微调工具HF PEFT12月27日.mp4            1.33GB
│   └─课件
│         └─8-大模型高效微调工具HF PEFT.pdf            2.77MB
├─目录.txt            -1.#INDB
└─课程大纲.jpg            1.42MB

资源下载