实战营第四节笔记

这节课包含四大部分，为finetune简介、xtuner介绍、使用8GB玩转LLM和动手实践环节。
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
LoRA和QLoRA是两种很重要的方法，对微调模型、减少内存使用非常有效。
在这里插入图片描述

在这里插入图片描述

后面是XTuner的介绍。
在这里插入图片描述
在这里插入图片描述
之后是动手实践。可参考https://github.com/InternLM/tutorial/blob/main/xtuner/README.md

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/401628.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

keil5废了怎么卸载干净

keil5废了怎么卸载干净

keil5废了怎么卸载干净 卸载keil5以及其文件卸载注册表 卸载keil5以及其文件 进入控制面板卸载keil5 卸载注册表 在HKEY_CLASSES_ROOT下 把这几个卸了
阅读更多...
开源 - 一款可自定义的在线免杀平台|过x60、wd等

开源 - 一款可自定义的在线免杀平台|过x60、wd等

免责声明：本工具仅供安全研究和教学目的使用，用户须自行承担因使用该工具而引起的一切法律及相关责任。作者概不对任何法律责任承担责任，且保留随时中止、修改或终止本工具的权利。使用者应当遵循当地法律法规，并理解并同意本声明…
阅读更多...
（HAL）STM32F103C6T8——软件模拟I2C驱动0.96寸OLED屏幕

（HAL）STM32F103C6T8——软件模拟I2C驱动0.96寸OLED屏幕

一、电路接法 电路接法参照江科大视频。 二、相关代码及文件 说明：代码采用hal库，通过修改江科大代码实现。仅OLED.c文件关于引脚定义作了hal库修改，并将宏定义OLED_W_SCL(x)、OLED_W_SDA(x)作了相关修改。 1、OLED.c void OLED_I2C_Init(voi…
阅读更多...
306_C++_QT_创建多个tag页面，使用QMdiArea容器控件，每个页面都是一个新的表格[或者其他]页面

306_C++_QT_创建多个tag页面，使用QMdiArea容器控件，每个页面都是一个新的表格[或者其他]页面

程序目的是可以打开多个styles文件（int后缀文件），且是tag样式的（就是可以切多个页面出来，并且能够单独关闭）；其中读取ini文件，将其插入到表格中的操作，也是比较复杂的，因为需要保持RGB字符串和前面的说明字符串对齐 ini文件举例： [MainMenu] Foreground\Selected=&…
阅读更多...
机器学习基本概念（李宏毅课程）

机器学习基本概念（李宏毅课程）

目录 一、概念:1、机器学习概念:2、深度学习概念： 二、深度学习中f(.)的输入和输出：1、输入：2、输出： 三、三种机器学习任务：1、Regression回归任务介绍：2、Classification分类任务介绍：3、Stru…
阅读更多...
【关于深度学习的一些资料】

【关于深度学习的一些资料】

曾梦想执剑走天涯，我是程序猿【AK】 目录 动手学深度学习Awesome Deep LearningTensorFlow Official ModelsPyTorch Image ModelsDeep Reinforcement LearningNeural Style Transfer 动手学深度学习 动手学深度学习 https://zh.d2l.ai/chapter_installation/index.…
阅读更多...
【嵌入式学习】QT-Day2-Qt基础

【嵌入式学习】QT-Day2-Qt基础

1> 思维导图 https://lingjun.life/wiki/EmbeddedNote/20QT 2>登录界面优化 使用手动连接，将登录框中的取消按钮使用qt4版本的连接到自定义的槽函数中，在自定义的槽函数中调用关闭函数 将登录按钮使用qt5版本的连接到自定义的槽函数中&#xff…
阅读更多...
【鼎捷数字化生意经】总说数字化转型？！怎么做才能带来远超你的想象的经济效益呢？他们来告诉你！

【鼎捷数字化生意经】总说数字化转型？！怎么做才能带来远超你的想象的经济效益呢？他们来告诉你！

编者按： 转型一直在提，2018—2023年，实现数字化转型的企业仅占中国企业的10%，其中实现领军重塑的企业仅占2%。数据看起来并没有那么乐观！ 新竞争格局下，企业需要直面挑战，定义新前沿&#xff0…
阅读更多...
Stable Diffusion——常用插件安装与测试（一）

Stable Diffusion——常用插件安装与测试（一）

前言 随着Stable Diffusion不断演进，越来越多的开发者开始涉足插件开发。尽管网络上存在大量教程，但它们通常零散分布，逐个学习和查找非常耗时，使人感觉每天都在劳累思考。这里总结了Stable Diffusion常用的插件安装与测试方法。…
阅读更多...
【管理咨询宝藏资料23】某资产管理公司薪酬体系设计报告

【管理咨询宝藏资料23】某资产管理公司薪酬体系设计报告

本报告首发于公号“管理咨询宝藏”，如需阅读完整版报告内容，请查阅公号“管理咨询宝藏”。 【管理咨询宝藏资料23】某资产管理公司薪酬体系设计报告 【格式】PDF版本 【关键词】薪酬设计、绩效优化、管理咨询 【文件核心观点】 - 为某集团设计合理的薪…
阅读更多...
干货！这份伦敦银操指南请收好

干货！这份伦敦银操指南请收好

伦敦银要操得好，投资者要有纯熟的看k线技巧，找到走势图中的支撑和主力地位是很重要的一环。通常当银价1小时、4小时、日线图出现比较大的阳线，那么大阳线的底部、顶部和中部，都是比较有效的支撑，当中又以日线尤为重要。…
阅读更多...
Linux内核中并发与竞争的处理方法之原子操作

Linux内核中并发与竞争的处理方法之原子操作

一. 简介 上一篇文章简单学习了Linux内核提供的原子操作。文章地址如下： Linux内核中并发与竞争的处理方法之原子操作简介-CSDN博客 本文继续学习Linux内核处理并发与竞争的处理方法之一：原子操作。Linux 内核提供了两组原子操作 API 函数&#xff0…
阅读更多...
windows下采用 nginx配置websocket支持wss流程

windows下采用 nginx配置websocket支持wss流程

第一步、安装OpenSSL （1）下载OpenSSL软件包 地址：https://slproweb.com/products/Win32OpenSSL.html OpenSSL版本说明： Win64 OpenSSL v1.1.1wLight，安装Win64 OpenSSL v1.1.1w最常用的软件包 Win64 OpenSSL v1.1…
阅读更多...
C#_索引器

C#_索引器

索引器的作用：令对象可像数组一般被索引 索引器 internal class TestClass {public int[] arr { 1, 2, 3, 4, 5 };public string this[int index] // 前者为返回类型，后者为索引类型// 返回类型代表get函数的返回值类型、set函数的value类型&#xff0…
阅读更多...
【深度学习：TACO 数据集】探索 TACO 数据集【模型训练】

【深度学习：TACO 数据集】探索 TACO 数据集【模型训练】

【深度学习：TACO 数据集】探索 TACO 数据集【模型训练】 介绍为什么选择以数据为中心的人工智能？上次我们学到了什么？问题关于数据集方法 什么是“对象注释质量”指标？第一次迭代：修复标签错误分析重新贴标签模型再训练…
阅读更多...
c++的一些陌生用法记录

c++的一些陌生用法记录

c的一些陌生用法记录 1. 完美转发std::forward<decltype(PH1)>(PH1)static的用法 1. 完美转发std::forward<decltype(PH1)>(PH1) static的用法 static函数与普通函数的区别&#xff1a; 用static修饰的函数&#xff0c;本限定在本源码文件中&#xff0c;不能被本源…
阅读更多...
MyBatisPlus：PG数组类型自动映射问题

MyBatisPlus：PG数组类型自动映射问题

引言： PostGreSQL数据库提供了丰富的数据类型，通过查看官网文档，我们也可以发现，PG也提供了对数组类型的支持。 但是在实际开发中，我们通常是使用MyBatis/MyBatisPlus这种半自动ORM映射框架来实现数据库/表数据基本的增删改查，以及其它操作。那么，问题来了，如何…
阅读更多...
大蟒蛇（Python）笔记（总结，摘要，概括）——第10章 文件和异常

大蟒蛇（Python）笔记（总结，摘要，概括）——第10章 文件和异常

目录 10.1 读取文件 10.1.1 读取文件的全部内容 10.1.2 相对文件路径和绝对文件路径 10.1.3 访问文件中的各行 10.1.4 使用文件的内容 10.1.5 包含100万位的大型文件 10.1.6 圆周率中包含你的生日吗 10.2 写入文件 10.2.1 写入一行 10.2.2 写入多行 10.3 异常 10.3.1 处理Ze…
阅读更多...
二进制搭建 Kubernetes

二进制搭建 Kubernetes

实验流程 k8s集群master01&#xff1a;192.168.75.10 kube-apiserver kube-controller-manager kube-scheduler etcd k8s集群master02&#xff1a;192.168.80.20 k8s集群node01&#xff1a;192.168.75.20 kubelet kube-proxy docker k8s集群node02&#xff1a;192.168.…
阅读更多...
【Flink经济】Flink 内存管理

【Flink经济】Flink 内存管理

面临的问题 目前&#xff0c; 大数据计算引擎主要用 Java 或是基于 JVM 的编程语言实现的&#xff0c;例如 Apache Hadoop、 Apache Spark、 Apache Drill、 Apache Flink 等。 Java 语言的好处在于程序员不需要太关注底层内存资源的管理&#xff0c;但同样会面临一个问题&…
阅读更多...
最新文章

Copyright @ 2022~2023