课程培训
大模型原理与应用培训课程

大模型原理与应用培训课程

课程目标:

1、掌握大模型环境配置

2、掌握Llama系列模型架构和原理

3、掌握大模型词表扩展,适配中文

4、掌握Qwen模型架构

5、掌握ChatGLM模型架构和原理

6、掌握大语言模型微调

7、掌握大模型推理优化策略

8、掌握大模型部署方案

9、掌握大模型用于文本摘要

10、掌握Text2SQL应用

11、掌握LLM角色扮演应用

12、掌握LLM生成PPT

13、掌握Agent技术

14、掌握RAG应用及优化

 

课程大纲:

时间

主题

内容

第一天

上午

8:30-11:30

大模型环境配置

1、 Cuda安装

l Cuda

l Cudnn

2、 Conda

l Conda安装

l Conda环境创建

3、 Pytorch

l GPU版本安装和测试

4、 Langchain

l 安装Langchain

l 构建简单应用

下午

13:30-16:30

大模型架构和原理

1、 Transformer

2、 Llama

l 模型架构

l 不同版本比对

l 中文适配

3、 Qwen模型

l 模型架构

l 训练数据

4、 ChatGLM模型

5、 Tokenizer方法

第二天

上午

8:30-11:30

大模型微调、部署

1、 LLMs微调

l 不同的微调方法

l 训练加速方法

l 训练框架

2、 LLM推理

l 推理优化方法

3、 LLM部署框架

l Ollama部署

4、 LLM微调框架

l Llamafactory微调

 

下午

13:30-16:30

大模型应用

1、 文档摘要

2、 Text2SQL

3、 角色扮演

4、 PPT生成

5、 Agent

6、 RAG应用及优化




如果您想学习本课程,请预约报名
如果没找到合适的课程或有特殊培训需求,请订制培训
除培训外,同时提供相关技术咨询与技术支持服务,有需求请发需求表到邮箱soft@info-soft.cn,或致电4007991916
技术服务需求表点击在线申请

服务特点:
海量专家资源,精准匹配相关行业,相关项目专家,针对实际需求,顾问式咨询,互动式授课,案例教学,小班授课,实际项目演示,快捷高效,省时省力省钱。

专家力量:
中国科学院软件研究所,计算研究所高级研究人员
oracle,微软,vmware,MSC,Ansys,candence,Altium,达索等大型公司高级工程师,项目经理,技术支持专家
中科信软培训中心,资深专家或讲师
大多名牌大学,硕士以上学历,相关技术专业,理论素养丰富
多年实际项目经历,大型项目实战案例,热情,乐于技术分享
针对客户实际需求,案例教学,互动式沟通,学有所获
报名表下载
联系我们 更多>>

咨询电话010-62883247

                4007991916

咨询邮箱:soft@info-soft.cn  

 

微信号.jpg

  微信咨询

随时听讲课

聚焦技术实践

订制培训 更多>>