dmz社区

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 122|回复: 30

Llama3大模型原理代码精讲与部署微调评估实战

[复制链接]
  • TA的每日心情

    前天 01:13
  • 签到天数: 25 天

    [LV.4]偶尔看看III

    111

    主题

    138

    帖子

    790

    积分

    荣誉会员

    积分
    790

    发表于 3 天前 | 显示全部楼层 |阅读模式

    本站资源全部免费,回复即可查看下载地址!

    您需要 登录 才可以下载或查看,没有帐号?立即注册

    x
    image.png
    适合人群:
    希望学习llama3大模型原理、代码和部署、微调、评估的学员

    你将会学到:
    学习LLAMA3模型的架构和原理、模型代码实现以及部署、微调、评估实战

    课程简介:
    本课程首先讲述了有关Transformer和大语言模型(LLM)的关键前置知识, 包括注意力机制、多头注意力、编码器-解码器结构等Transformer原理, 以及LLM的文本生成和LLM微调技术原理。

    在此基础上, 重点介绍了Llama 3模型的进化历程、技术原理和代码实现。其中涉及RMSNorm归一化、SwiGLU激活函数、RoPE位置编码、GQA注意力和KVCache等关键技术。通过代码解析, 深入剖析了Llama 3的架构设计和代码实现。

    在实践部分, 课程还介绍了如何在阿里云使用Ollama和vLLM部署Llama 3模型, 以及使用llama_factory工具进行基于LoRA和QLoRA的llama3 8B大模型微调。项目实战环节则提供了从准备数据集到训练、推理、评估的全流程指导, 聚焦中文增强和医疗问答两大应用方向。

    这是一门内容全面、理论实践并重的大模型课程。不仅系统讲解了LLM和Llama 3的技术原理, 还通过代码解析和实战项目深度剖析了相关技术在工程落地中的关键环节, 有助于学员全面掌握大模型相关知识和动手实战能力。

    课程目录:
    01、课程介绍.mp4
    02、注意力机制.mp4
    03、自注意力机制.mp4
    04、Transformer的架构概述.mp4
    05、Transformer Encoder的多头注意力.mp4
    06、Transformer Encoder的位置编码.mp4
    07、Transformer 残差链接、LayerNorm、FFN.mp4
    08、Transformer Decoder.mp4
    09、Transformer 训练及性能.mp4
    10、Transformer机器翻译工作流程.mp4
    11、Transformer的Encoder代码解读.mp4
    12、Transformer的Decoder代码解读.mp4
    13、Transformer的超参设置代码解读.mp4
    14、Transformer的训练示例(人为随机数据)代码解读.mp4
    15、Transformer的训练示例(德语-英语机器翻译)代码解.mp4
    16、结合中文注释代码深入解读1.mp4
    17、结合中文注释代码深入解读2.mp4
    18、LLM推理方式.mp4
    19、文本生成模式.mp4
    20、文本生成策略.mp4
    21、Token和分词器.mp4
    22、文本生成过程.mp4
    23、prefill和解码阶段.mp4
    24、llama3文本生成过程.mp4
    25、文本生成时的QKV含义.mp4
    26、大模型开发阶段划分.mp4
    27、SFT微调.mp4
    28、微调方法(全参、冻结参数、LoRA、QLoRA).mp4
    29、LoRA微调.mp4
    30、QLoRA微调.mp4
    31、llama模型进化史.mp4
    32、llama3模型类型.mp4
    33、llama大模型生态.mp4
    34、llama3模型架构.mp4
    35、RMSNorm归一化.mp4
    36、SwiGLU激活函数.mp4
    37、RoPE旋转位置编码.mp4
    38、GQA分组查询注意力.mp4
    39、KVCache.mp4
    40、各文件功能.mp4
    41、completion和chat应用脚本代码解析.mp4
    42、generation.py代码解析.mp4
    43、model.py代码解析.mp4
    44、tokenizer.py代码解析.mp4
    45、RMSNorm代码解析.mp4
    46、SwiGLU代码解析.mp4
    47、GQA代码解析.mp4
    48、RoPE代码解析.mp4
    49、KVCache代码解析.mp4
    50、阿里云实例创建.mp4
    51、ollama介绍.mp4
    52、ollama安装.mp4
    53、llama3推理.mp4
    54、vLLM部署llama3.mp4
    55、llama_factory介绍.mp4
    56、llama_factory安装及llama3模型下载.mp4
    57、LoRA微调训练.mp4
    58、llama3中文增强大模型推理.mp4
    59、llama3中文增强大模型评估.mp4
    60、lora文件合并.mp4
    61、数据集准备.mp4
    62、lora 微调.mp4
    63、llama3医疗问答大模型推理.mp4
    64、qlora微调 .mp4
    65、qlora微调的医疗问答大模型推理.mp4
    课件资料


    下载地址:

    游客,如果您要查看本帖隐藏内容请回复
    温馨提示:
    1、本站所有内容均为互联网收集或网友分享或网络购买,本站不破解、不翻录任何视频!
    2、如本帖侵犯到任何版权问题,请立即告知本站,本站将及时予与删除并致以最深的歉意!
    3、本站资源仅供本站会员学习参考,不得传播及用于其他用途,学习完后请在24小时内自行删除.
    4、本站资源质量虽均经精心审查,但也难保万无一失,若发现资源有问题影响学习请一定及时点此进行问题反馈,我们会第一时间改正!
    5、若发现链接失效了请联系管理员,管理员会在2小时内修复
    6、如果有任何疑问,请加客服QQ:1300822626 2小时内回复你!
    回复

    使用道具 举报

  • TA的每日心情
    慵懒
    昨天 09:08
  • 签到天数: 6 天

    [LV.2]偶尔看看I

    16

    主题

    63

    帖子

    176

    积分

    心领神会

    Rank: 3Rank: 3

    积分
    176

    发表于 3 天前 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    昨天 00:27
  • 签到天数: 629 天

    [LV.9]以坛为家II

    0

    主题

    1033

    帖子

    4023

    积分

    傲视群雄

    Rank: 8Rank: 8

    积分
    4023

    发表于 3 天前 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情

    昨天 07:30
  • 签到天数: 599 天

    [LV.9]以坛为家II

    0

    主题

    1747

    帖子

    6343

    积分

    深不可测

    Rank: 9Rank: 9Rank: 9

    积分
    6343

    发表于 3 天前 | 显示全部楼层
    这个帖一般般,还可以哦。
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2 小时前
  • 签到天数: 832 天

    [LV.10]以坛为家III

    13

    主题

    2627

    帖子

    7628

    积分

    深不可测

    Rank: 9Rank: 9Rank: 9

    积分
    7628

    发表于 3 天前 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    昨天 10:31
  • 签到天数: 839 天

    [LV.10]以坛为家III

    1

    主题

    1254

    帖子

    5119

    积分

    深不可测

    Rank: 9Rank: 9Rank: 9

    积分
    5119

    发表于 3 天前 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    擦汗
    2 小时前
  • 签到天数: 956 天

    [LV.10]以坛为家III

    4

    主题

    1462

    帖子

    6253

    积分

    深不可测

    Rank: 9Rank: 9Rank: 9

    积分
    6253

    发表于 3 天前 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    昨天 00:05
  • 签到天数: 653 天

    [LV.9]以坛为家II

    1

    主题

    1478

    帖子

    5062

    积分

    深不可测

    Rank: 9Rank: 9Rank: 9

    积分
    5062

    发表于 3 天前 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    前天 08:08
  • 签到天数: 246 天

    [LV.8]以坛为家I

    10

    主题

    513

    帖子

    1799

    积分

    一代宗师

    Rank: 7Rank: 7Rank: 7

    积分
    1799

    发表于 3 天前 | 显示全部楼层
    啥也不说了,感谢楼主分享哇!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    擦汗
    前天 10:36
  • 签到天数: 78 天

    [LV.6]常住居民II

    0

    主题

    333

    帖子

    900

    积分

    技冠群雄

    Rank: 6Rank: 6

    积分
    900

    发表于 3 天前 | 显示全部楼层
    这个帖一般般,还可以哦。
    回复 支持 反对

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|Archiver|小黑屋|本站代理|dmz社区

    GMT+8, 2025-4-1 02:46 , Processed in 1.565935 second(s), 43 queries .

    Powered by Discuz! X3.4 Licensed

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表