资源内容

手写AILLM大模型训练营2024

课程目录

├───季康部分

││0-课程大纲简要说明_ev.mp4

││1-llm简要概览_ev.mp4

││2-llm的发展历程_part1_ev.mp4

││2-llm的发展历程_part2_ev.mp4

││3-llm的训练流程以及常见的概念_ev.mp4

││4-llm的常见架构_ev.mp4

││5-llm的评价标准_ev.mp4

││6-1.1_llm的幻觉定义_ev.mp4

││6-1.2幻觉的评估方法_ev.mp4

││6-1.3幻觉产生的原因_ev.mp4

││6-1.4_llm幻觉的常见的解决方式_ev.mp4

││6-1.5_llm的知识编辑_ev.mp4

││7-llm自动生成prompts_ev.mp4

││8-1.1_Llama2的rmsnorm_原理_ev.mp4

││8-1.2_Llama2的rmsnorm_代码_ev.mp4

││8-1.3_Llama2的ROPE_原理_ev.mp4

││8-1.4_Llama2的ROPE_代码_ev.mp4

││8-1.5_Llama2的Attention_原理_ev.mp4

││8-1.6_Llama2的Attention_代码.mp4

││8-1.6_Llama2的Attention_代码_ev.mp4

││8-1.7_Llama2的ffn_原理_ev.mp4

││8-1.8_Llama2的ffn_代码_ev.mp4

││8-1.9_llama2模型组装_ev.mp4

││9-1.1pet原理&dataloader_ev.mp4

││9-1.2pet模型和训练验证_ev.mp4

││9-1.3ptuningv1原理以及代码_ev.mp4

││9-1.4ptuningv2原理_ev.mp4

││9-1.5ptuningv2_代码1_ev.mp4

││9-1.6ptuningv2_代码2_ev.mp4

││9-1.7ptuningv2_代码3_ev.mp4

││移动H盘.bat

││10-1.1_llama2任务简介.mp4

││10-1.2_rams数据处理_1.mp4

││10-1.2_rams数据处理_2.mp4

││10-1.3_lora原理部分介绍.mp4

││10-1.4_llama2环境安装以及部分bug排查.mp4

││10-1.5_lora训练.mp4

││10-1.6_lora推理部分_问题生成.mp4

││10-1.7_lora_推理_fewshot回答.mp4

││10-1.8_int8量化原理.mp4

││10.1.10_qlora的代码.mp4

││10.1.9_qlora的nf4_ev.mp4

││10.1.9_qlora的双重量化.mp4

││

│├───1_LLM综述

│├───2_手写llama2源码

│└───3_高效微调

└───布丁部分

│0_课程介绍_ev.mp4

│1_模型文件下载方法1.mp4_ev.mp4

│2_模型文件下载方法2.mp4_ev.mp4

│3_配置服务器jupyter环境.mp4_ev.mp4

│4_vscode远程连接服务器.mp4_ev.mp4

│5_vscode远程debug配置.mp4_ev.mp4

│6_prompt_概述_ev.mp4

│7_prompt_技巧_ev.mp4

│8_prompt_技巧2_ev.mp4

│9_prompt_改写任务1_ev.mp4

│10_prompt_改写任务2_ev.mp4

│11_prompt_抽取任务1_ev.mp4

│12_prompt_抽取任务2_ev.mp4

│13_prompt角色扮演_ev.mp4

│14_prompt_数据制作1_ev.mp4

│15_prompt_数据制作2_ev.mp4

│16_prompt_数据制作3_ev.mp4

│17_prompt_数据制作4_ev.mp4

│18_deepspeed_概述_ev.mp4

│19_deepspeed_配置_ev.mp4

│21_deepspeed_demo实例.mp4

│22_deepspeed_bert_1.mp4

│23_deepspeed_bert_2.mp4

│24_deepspeed_bert_3.mp4

│25_deepspeed_bert_4.mp4

│26_deepspeed_多机多卡配置.mp4

│27_chatglm3_新特性.mp4

│28_chatglm3_新特2.mp4

│29_流式与非流式_chat_generate.mp4

│30_glm2的tokenizer.mp4

│31_推理、训练、量化占用显存.mp4

│32_chatglm全量微调1.mp4

│33_chatglm全量微调2-cpu交换技术.mp4

│34_chatglm全量微调3-.mp4

│35_微调结果评测.mp4

│36_微调模型加载1.mp4

│37_微调结束后-推理.mp4

│38-微调优化.mp4

│39-codegeex微调-数据准备.mp4

│40-codegeex-微调数据处理.mp4

│41-codegeex-微调结果评测.mp4

│42-function-call概述.mp4

│43-function_call概述2.mp4

│44-function-call实例1.mp4

│45-手写function_call-1.mp4

│46-手写function_call-2.mp4

│47-streamlit-debug环境配置.mp4

│48_function-all_官方代码逐行解读.mp4

│49_code-interpreter-概述.mp4

│50_手写code-interpreter.mp4

│51_code-interpreter进阶.mp4

│52_项目演示.mp4

│53_akshare接口.mp4

│54_gradio-界面设计.mp4

│55_手写项目.mp4

│移动H盘.bat

│

├───1_环境

├───2_prompt

├───3_微调

├───4_function_call

└───5_code_interpreter