贪心科技-贪心大模型微调实战营2024

资源目录

01第一周

01第一节2024年1月21日

01开营+大模型介绍、transformer

01开营.mp4

02大模型爆发式发展.mp4

03大模型是如何炼成的.mp4

04transformer的应用.mp4

05self-attention.mp4

02第二周

01第二节2024年1月28日

01transformer、encoder、advanced

01transformerpart1.mp4

02transformerpart2.mp4

03encoder-basedanddecoderbasedllms.mp4

04advancedtopics.mp4

03第三周

01第三节2024年2月25日

01大模型微调概览lora微调

01大模型微调概览.mp4

02lora微调-lora算法.mp4

03lora微调-从零实现lora到roberta.mp4

04第四周

01第四节2024年3月3日

01alpaca、adalora、qlora

01alpaca.mp4

02adalora.mp4

03qlora.mp4

05第五周

01第五节2024年3月17日

01prefixtuning、quantization

01prefixtuning.mp4

02quantization01.mp4

03quantization02.mp4

04quantizationmethosforllm.mp4

06第六周

01助教补充课2024年3月24日

01llama介绍&运行&量化&部署&微调

01llama介绍&运行&量化&部署&微调01.mp4

02llama介绍&运行&量化&部署&微调02.mp4

07第七周

01第六节2024年3月31日

01distributedcomputing、flashattention

01gpu时间计算.mp4

02distributedcomputing.mp4

03zero-123andfsdp.mp4

04flashattention.mp4

08第八周

01第六节补充课

01flashattentioncont、微调mistral7b

01flashattentioncont.mp4

02self-attention的分块计算.mp4

03分块模式中计算o.mp4

04mixtureofexpertmodel.mp4

05微调mistral7b.mp4

09第九周

01第七节2024年4月14日

01强化学习

01rlhf介绍.mp4

02强化学习.mp4

03multi-armedbandit.mp4

04the goal of agent.mp4

10第十周

01第七节补充课2024年4月17日

01optimalpolicy、introtomontecarlo

01optimalpolicy.mp4

02introtomontecarlo.mp4

课件资料.zip

网盘实图