使用LLaMA-Factory微调时的问题与解决方案记录

文章目录

    • 如何指定微调使用的显卡
    • 如何解决显卡通信导致的报错
    • 模型微调的实际epoch和step如何计算
    • 如何实现多卡全量微调
    • 模型微调后的结果如何查看
    • 模型测试后的指标如何理解

如何指定微调使用的显卡

启动网页时使用这种执行命令

CUDA_VISIBLE_DEVICES=5,6,7 llamafactory-cli webui

如何解决显卡通信导致的报错

训练时碰到了这种错误

 NotImplementedError: Using RTX 4000 series doesn't support faster communication broadband via P2P or IB. Please set `NCCL_P2P_DISABLE="1"` and `NCCL_IB_DISABLE="1" or use `accelerate launch` which will do this automatically.

启动

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/923331.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

【Linux】认识进程以及进程的状态

【Linux】认识进程以及进程的状态

目录 认识进程 基本概念 查看进程 父子进程 进程的状态 进程排队 运行状态 阻塞状态 挂起状态 僵尸进程 孤儿进程 认识进程 基本概念 有些教材上会说：正在运行的程序就是进程。这并没有错误，但是太过于笼统。现在我们深入到Linux底层来了解…
阅读更多...
vue3项目部署在阿里云轻量应用服务器上

vue3项目部署在阿里云轻量应用服务器上

文章目录 概要整体部署流程技术细节小结 概要 vue3前端项目部署在阿里云轻量服务器 整体部署流程 首先有一个Vue3前端项目和阿里云应用服务器 确保环境准备 如果是新的服务器，在服务器内运行以下命令更新软件包 sudo apt update && sudo apt upgrade -y …
阅读更多...
STM32H7开发笔记（2）——H7外设之多路定时器中断

STM32H7开发笔记（2）——H7外设之多路定时器中断

STM32H7开发笔记（2）——H7外设之多路定时器中断 文章目录 STM32H7开发笔记（2）——H7外设之多路定时器中断0.引言1.CubeMX配置2.软件编写 0.引言 本文PC端采用Win11STM32CubeMX4.1.0.0Keil5.24.2的配置，硬件使用STM32H…
阅读更多...
Web3 游戏周报（11.17 - 11.23）

Web3 游戏周报（11.17 - 11.23）

回顾上周的区块链游戏概况，查看 Footprint Analytics 与 ABGA 最新发布的数据报告。 【11.17 - 11.23】Web3 游戏行业动态： 加密游戏开发商 Gunzilla Games 发推表示，其已与 Coinbase Ventures 达成合作并获得其投资。 国际足联将与 Mythica…
阅读更多...
问题记录-Java后端

问题记录-Java后端

问题记录 目录 问题记录1.多数据源使用事务注意事项？2.mybatis执行MySQL的存储过程？3.springBoot加载不到nacos配置中心的配置问题4.服务器产生大量close_wait情况 1.多数据源使用事务注意事项？ 问题：在springBoot项目中多表处理数…
阅读更多...
微软Ignite 2024：建立一个Agentic世界！

微软Ignite 2024：建立一个Agentic世界！

在今年的Microsoft Ignite 2024上，AI Agent无疑成为本次大会的重点，已经有十万家企业通过Copilot Studio创建智能体了。微软更是宣布：企业可以在智能体中，使用Azure目录中1800个LLM中的任何一个模型了！ 建立一个Agent…
阅读更多...
python画图|无坐标轴自由划线操作fig.add_artist(lines.Line2D()函数

python画图|无坐标轴自由划线操作fig.add_artist(lines.Line2D()函数

【1】引言 新发现了一种自由划线操作函数，和大家共享。 【2】官网教程 点击下述代码，直达官网： https://matplotlib.org/stable/gallery/misc/fig_x.html#sphx-glr-gallery-misc-fig-x-py 官网代码非常简洁，我进行了解读。 …
阅读更多...
基于微信小程序的空巢老人健康管理系统

基于微信小程序的空巢老人健康管理系统

摘 要 随着社会老龄化程度不断加深，空巢老人的健康管理成为一个日益重要的问题。为了更好地关注和管理空巢老人的健康状况，本文利用Spring Boot框架和MySQL数据库，结合微信小程序等技术，设计并实现了一套基于微信小程序的空巢老人…
阅读更多...
【JavaEE】Servlet：表白墙

【JavaEE】Servlet：表白墙

文章目录 一、前端二、前置知识三、代码1、后端2、前端3、总结 四、存入数据库1、引入 mysql 的依赖&#xff0c;mysql 驱动包2、创建数据库数据表3、调整上述后端代码3.1 封装数据库操作&#xff0c;和数据库建立连接3.2 调整后端代码 一、前端 <!DOCTYPE html> <ht…
阅读更多...
小程序-使用 iconfont 图标库报错：Failed to load font

小程序-使用 iconfont 图标库报错：Failed to load font

官方默认可以忽略此错误&#xff0c;在清除缓存后首次刷新会显示此错误&#xff0c;重新渲染错误消失 解决方法&#xff1a; 在 iconfont 图标库选择项目设置 选中 Base64 保存&#xff0c;重新点击链接 -> 复制代码到项目中 操作步骤&#xff1a;
阅读更多...
用CAXA CAD电子图板导入图框、标题栏并导出pdf的方法

用CAXA CAD电子图板导入图框、标题栏并导出pdf的方法

1.导入图框&#xff1a; 点击调入图框->出现读入图框文件 一个一个点击&#xff0c;选择合适的图框 然后点击导入 2.导入标题栏&#xff1a; 调入标题栏->出现读入标题栏文件 一个一个点击&#xff0c;选择合适的标题栏&#xff0c;然后点击导入 3.导出pdf&#x…
阅读更多...
《Shader入门精要》透明效果

《Shader入门精要》透明效果

代码以及实例图可以看github &#xff1a;zaizai77/Shader-Learn: 实现一些书里讲到的shader 在实时渲染中要实现透明效果&#xff0c;通常会在渲染模型时控制它的透明通道&#xff08;Alpha Channel&#xff09;​。当开启透明混合后&#xff0c;当一个物体被渲染到屏幕上时&…
阅读更多...
加速科技精彩亮相中国国际半导体博览会IC China 2024

加速科技精彩亮相中国国际半导体博览会IC China 2024

11月18日—20日&#xff0c;第二十一届中国国际半导体博览会&#xff08;IC China 2024&#xff09;在北京国家会议中心顺利举办&#xff0c;加速科技携重磅产品及全系测试解决方案精彩亮相&#xff0c;加速科技创始人兼董事长邬刚受邀在先进封装创新发展论坛与半导体产业前沿与…
阅读更多...
【JavaEE初阶 — 多线程】线程池

【JavaEE初阶 — 多线程】线程池

目录 1. 线程池的原理 1.1 为什么要有线程池 1.2 线程池的构造方法 1.3 线程池的核心参数 1.4 TimeUnit 1.5 工作队列的类型 1.6 工厂设计模式 1.6.1 工厂模式概念 1.6.2 使用工厂模式的好处 1.6.3 使用工厂模式的典型案例 1.6.4 Thread…
阅读更多...
JSON 性能测试 - WastJson 性能也很快

JSON 性能测试 - WastJson 性能也很快

WAST 是一个高性能 Java 工具集库包&#xff0c;包括 JSON、YAML、CSV、HttpClient、JDBC 和 EL 引擎. WastJson 无论是小中大文本各种数据类型等性能都没有明显的短板&#xff0c;除了推广外可以说是六边形战士&#xff0c;更多测试参考 wast-jmh-test: wast性能测试 (并非所…
阅读更多...
数据库-基础理论

数据库-基础理论

文章目录 前言一、ORM框架二、ACID原则三、事务Transaction四、N1问题五、Normalization三范式六、FMEA方法论&#xff08;Failure Mode and Effects Analysis&#xff09;七、Profiling和PerformanceSchema查询分析 前言 基础理论 ORM框架、ACID原则、事务Transaction、N1问…
阅读更多...
AI赋能电商：构建高效、智能化的新零售生态

AI赋能电商：构建高效、智能化的新零售生态

随着人工智能&#xff08;AI&#xff09;技术的不断进步&#xff0c;其在电商领域的应用日益广泛&#xff0c;从购物推荐到供应链管理&#xff0c;再到商品定价&#xff0c;AI正在全面改变传统电商的运营模式&#xff0c;并推动行业向智能化和精细化方向发展。本文将探讨如何利…
阅读更多...
[极客大挑战 2019]BabySQL--详细解析

[极客大挑战 2019]BabySQL--详细解析

信息搜集 进入界面&#xff1a; 输入用户名为admin&#xff0c;密码随便输一个&#xff1a; 发现是GET传参&#xff0c;有username和password两个传参点。 我们测试一下password点位能不能注入&#xff1a; 单引号闭合报错&#xff0c;根据报错信息&#xff0c;我们可以判断…
阅读更多...
计算机网络socket编程(2)_UDP网络编程实现网络字典

计算机网络socket编程(2)_UDP网络编程实现网络字典

个人主页&#xff1a;C忠实粉丝 欢迎 点赞&#x1f44d; 收藏✨ 留言✉ 加关注&#x1f493;本文由 C忠实粉丝 原创 计算机网络socket编程(2)_UDP网络编程实现网络字典 收录于专栏【计算机网络】 本专栏旨在分享学习计算机网络的一点学习笔记&#xff0c;欢迎大家在评论区交流讨…
阅读更多...
GitLab｜应用部署

GitLab｜应用部署

创建docker-compose.yaml文件 输入docker-compose配置 version: 3.8 services:gitlab:image: gitlab/gitlab-ce:15.11.2-ce.0restart: alwayscontainer_name: gitlab-ceprivileged: truehostname: 192.168.44.235environment:TZ: Asia/ShanghaiGITLAB_OMNIBUS_CONFIG: |exter…
阅读更多...
最新文章

Copyright @ 2022~2023