240330-大模型资源-使用教程-部署方式-部分笔记

A. 大模型资源

  • Models - Hugging Face
  • HF-Mirror - Huggingface 镜像站
  • 模型库首页 · 魔搭社区

在这里插入图片描述

B. 使用教程

HuggingFace

  • HuggingFace 10分钟快速入门（一），利用Transformers，Pipeline探索AI。_哔哩哔哩_bilibili
  • HuggingFace快速入门（二），利用AI模型快速搭建APP。_哔哩哔哩_bilibili
  • HuggingFace 快速入门（三），HF的Agent快速搭建AI Agent_哔哩哔哩_bilibili
  • HuggingFace 快速入门（四），玩转HF上的模型_哔哩哔哩_bilibili

HF-Mirror

  • 如何快速下载huggingface模型——全方法总结 - 知乎
huggingface-cli download --resume-download mistralai/Mistral-7B-Instruct-v0.2 --local-dir Mistral-7B-Instruct-v0.2 --local-dir-use-symlinks False

huggingface-cli download --resume-download google-t5/t5-small --local-dir t5-small --local-dir-use-symlinks False

huggingface-cli download --resume-download openai/whisper-large-v3 --local-dir whisper-large-v3 --local-dir-use-symlinks False

huggingface-cli download --resume-download openai/whisper-large-v3 --local-dir whisper-large-v3 --local-dir-use-symlinks False

huggingface-cli download --resume-download openai/clip-vit-base-patch32 --local-dir clip-vit-base-patch32 --local-dir-use-symlinks False

huggingface-cli download --resume-download openai/clip-vit-large-patch14 --local-dir clip-vit-large-patch14 --local-dir-use-symlinks False

huggingface-cli download --resume-download keremberke/yolov8m-table-extraction --local-dir yolov8m-table-extraction --local-dir-use-symlinks False

huggingface-cli download --resume-download merve/yolov9 --local-dir yolov9 --local-dir-use-symlinks False

huggingface-cli download --resume-download stabilityai/stable-code-instruct-3b --local-dir stable-code-instruct-3b --local-dir-use-symlinks False

huggingface-cli download --resume-download stabilityai/stable-code-3b --local-dir stable-code-3b--local-dir-use-symlinks False

huggingface-cli download --resume-download defog/sqlcoder-7b-2 --local-dir sqlcoder-7b-2 --local-dir-use-symlinks False

魔搭社区

  • ModelScope 魔搭社区初探 - 知乎
  • 魔搭v1.3版本 Release Note (20230216) · 文档中心
from modelscope.hub.snapshot_download import snapshot_download

model_dir = snapshot_download('iic/speech_fsmn_vad_zh-cn-16k-common-pytorch', cache_dir='speech_fsmn_vad_zh-cn-16k-common-pytorch')

model_dir = snapshot_download('qwen/Qwen1.5-MoE-A2.7B', cache_dir='Qwen1.5-MoE-A2.7B')

model_dir = snapshot_download('iic/speech_eres2net_large_sv_zh-cn_cnceleb_16k', cache_dir='speech_eres2net_large_sv_zh-cn_cnceleb_16k')


model_dir = snapshot_download('iic/cv_ddsar_face-detection_iclr23-damofd', cache_dir='cv_ddsar_face-detection_iclr23-damofd')

model_dir = snapshot_download('iic/Whisper-large-v3', cache_dir='Whisper-large-v3-iic')

model_dir = snapshot_download('iic/nlp_bart_text-error-correction_chinese', cache_dir='nlp_bart_text-error-correction_chinese')

model_dir = snapshot_download('iic/nlp_bart_text-error-correction_chinese-law', cache_dir='nlp_bart_text-error-correction_chinese-law')

model_dir = snapshot_download('iic/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch', cache_dir='speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch')

model_dir = snapshot_download('iic/cv_dla34_table-structure-recognition_cycle-centernet', cache_dir='cv_dla34_table-structure-recognition_cycle-centernet')

model_dir = snapshot_download('iic/cv_resnet-transformer_table-structure-recognition_lore', cache_dir='cv_resnet-transformer_table-structure-recognition_lore') 

model_dir = snapshot_download('iic/cv_convnextTiny_ocr-recognition-general_damo', cache_dir='cv_convnextTiny_ocr-recognition-general_damo')

model_dir = snapshot_download('iic/cv_resnet18_ocr-detection-db-line-level_damo', cache_dir='cv_resnet18_ocr-detection-db-line-level_damo')

model_dir = snapshot_download('iic/cv_convnextTiny_ocr-recognition-document_damo', cache_dir='cv_convnextTiny_ocr-recognition-document_damo')

model_dir = snapshot_download('iic/cv_resnet18_ocr-detection-line-level_damo', cache_dir='cv_resnet18_ocr-detection-line-level_damo')

C. 部署方式

  • 一键部署Google开源大模型Gemma，性能远超Mistral、LLama2 | 本地大模型部署，ollama助您轻松完成！_哔哩哔哩_bilibili
  • Windows系统本机运行Gemma最简步骤_哔哩哔哩_bilibili
  • ollama如何把gemma模型部署到D盘_哔哩哔哩_bilibili
  • Ollama如何把Gemma模型部署到D盘_方法二创建目录链接释放C盘空间_哔哩哔哩_bilibili
  • Ollama如何使用现有的GGUF文件_哔哩哔哩_bilibili
  • Ollama导入GGUF文件_哔哩哔哩_bilibili
  • Ollama wsarecv: An existing connection was forcibly closed by the remote host._哔哩哔哩_bilibili
  • OLLAMA_KEEP_ALIVE潜在问题分析_哔哩哔哩_bilibili
  • Ollama 运行 GGUF 模型
  • LangChain 与 ollama 携手python 环境演示 Hello World 构建属于自己的大模型应用
  • 人工智能大模型系列（七）使用 Ollama 和 CodeGPT 在 VSCode 中创建您自己的自定义 Copilot

D. 格式转换

  • 开源大模型GGUF量化(llama.cpp)与本地部署运行(ollama)教程 - 知乎

  • 揭开gguf神秘面纱——大模型CPU部署系列02 - 知乎

E. 代码生成

  • LLM 系列 | 21 : Code Llama实战(上篇) : 模型简介与试用
  • LLM系列 | 22 : Code Llama实战(下篇)：本地部署、量化及GPT-4对比
  • Stability AI开源3B代码生成模型：可补全，还能Debug

F. YOLOV9

  • WongKinYiu/yolov9
  • YOLO v9训练自己数据集_yolov9训练自己的数据集-CSDN博客
  • 手把手教你在自己的数据集上训练YOLOv9！ - 知乎

G. SAM

  • facebookresearch/segment-anything

H. Qwen1.5-MoE

  • Github官方GitHub - QwenLM/Qwen1.5: Qwen1.5 is the improved version of Qwen, the large language model series developed by Qwen team, Alibaba Cloud.
  • GPTQ版本运行失败Qwen1.5-MoE: 1/3的激活参数量达到7B模型的性能_哔哩哔哩_bilibili
  • 对应Chat版本的代码Qwen1.5-MoE: 1/3的激活参数量达到7B模型的性能 - 哔哩哔哩
  • 微信资料开源MOE再添一员：通义团队Qwen1.5 MOE A2.7B大模型
  • 如何选择模型Qwen1.5系列6个模型如何选择？ AWQ还是GPTQ？#小工蚁_哔哩哔哩_bilibili
  • 不同型号显卡在同一台机器上通过vllm加速推理双4090部署qwen72b大模型 每秒150tokens_哔哩哔哩_bilibili
  • Qwen-Agent及浏览器插件GitHub - QwenLM/Qwen-Agent: Agent framework and applications built upon Qwen1.5, featuring Function Calling, Code Interpreter, RAG, and Chrome extension.

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/503761.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

代码学习第32天---动态规划

代码学习第32天---动态规划

随想录日记part32 t i m e ： time： time： 2024.03.30 主要内容：今天开始要学习动态规划的相关知识了，今天的内容主要涉及两个方面： 不同路径 ； 不同路径 II。 62.不同路径 63. 不同路径 II 动态…
阅读更多...
Linux内核之Binder驱动container_of进阶用法(三十四)

Linux内核之Binder驱动container_of进阶用法(三十四)

简介： CSDN博客专家，专注Android/Linux系统，分享多mic语音方案、音视频、编解码等技术，与大家一起成长！ 优质专栏：Audio工程师进阶系列【原创干货持续更新中……】🚀 优质专栏：多媒…
阅读更多...
LeetCode 双指针专题

LeetCode 双指针专题

11.盛最多水的容器 给定一个长度为 n 的整数数组 height 。有 n 条垂线，第 i 条线的两个端点是 (i, 0) 和 (i, height[i]) 。 找出其中的两条线，使得它们与 x 轴共同构成的容器可以容纳最多的水。 返回容器可以储存的最大水量。 说明：你不…
阅读更多...
java数据结构与算法刷题-----LeetCode1091. 二进制矩阵中的最短路径

java数据结构与算法刷题-----LeetCode1091. 二进制矩阵中的最短路径

java数据结构与算法刷题目录（剑指Offer、LeetCode、ACM）-----主目录-----持续更新(进不去说明我没写完)：https://blog.csdn.net/grd_java/article/details/123063846 文章目录 广度优先双分裂蛇 广度优先双分裂蛇 双分裂蛇：是求二…
阅读更多...
HCIA-Datacom实验_04_实验二：IPv4编址及IPv4路由基础实验

HCIA-Datacom实验_04_实验二：IPv4编址及IPv4路由基础实验

一、拓扑 二、改名 R1 R2 R3 三、配置接口IP R1 R2 R3 四、查看路由表 此时每台设备上会有两条直连路由 R1 R2 R3 五、ping测试 R1pingR2接口 R1pingR3接口 R2pingR1接口 R2pingR3接口 R3pingR1接口 R3pingR2接口 六、配置LoopBack地址 R1 R2 R3 七、写路由 R1到R2的Loo…
阅读更多...
吴恩达2022机器学习专项课程(一） 4.1 梯度下降

吴恩达2022机器学习专项课程(一） 4.1 梯度下降

问题预览 梯度下降算法的作用是？梯度下降的过程？梯度下降和最小化成本函数的联系？所有的成本函数都是一个形状吗？在非凸形状中，梯度下降的更新过程是？在非凸形状中，不同的初值对最小化成本函数…
阅读更多...
C++：数据类型—布尔（12）

C++：数据类型—布尔（12）

布尔类型代表就是真和假（bool） 真就是1（true） 假就是0（false） 也可以任务非0即为真 bool 直占用1个字节大小 语法：bool 变量名 (true | false） 提示：bool在后期判断也是…
阅读更多...
扫描体的概念、应用及实现方法

扫描体的概念、应用及实现方法

扫描体（Swept Volume，简称SV），从广义上来说，是指以任一对象（几何模型或曲面集）为扫描母体，沿着空间任一路径（扫描路径），以某种方式运动最终产生的…
阅读更多...
软考高级架构师：安全模型概念和例题

软考高级架构师：安全模型概念和例题

作者：明明如月学长， CSDN 博客专家，大厂高级 Java 工程师，《性能优化方法论》作者、《解锁大厂思维：剖析《阿里巴巴Java开发手册》》、《再学经典：《Effective Java》独家解析》专栏作者。 热门文章推荐&am…
阅读更多...
TC16-161T+ 音频 信号变压器 RF Transformers 600kHz-160MHz 射频集成电路 Mini-Circuits

TC16-161T+ 音频 信号变压器 RF Transformers 600kHz-160MHz 射频集成电路 Mini-Circuits

Mini-Circuits是一家全球领先的射频、微波和毫米波元器件及子系统制造商。TC16-161T是Mini-Circuits出产的一款射频IC（射频集成电路），具有平衡-不平衡转换器功用。制造商: Mini-Circuits 产品品种: 音频变压器/信号变压器 RoHS…
阅读更多...
一篇文章带你了解Java网络原理

一篇文章带你了解Java网络原理

网络发展史 独立模式 独立模式:计算机之间相互独立; ⽹络互连 随着时代的发展，越来越需要计算机之间互相通信，共享软件和数据，即以多个计算机协同⼯作来完成业务，就有了⽹络互连。 ⽹络互连：将多台计算机连接在⼀起…
阅读更多...
初步了解JavaSE

初步了解JavaSE

目录 前言： 一、Java SE主要包含模块： 二、JavaSE的环境搭建 三、JavaSE简单入门 1）文件名称不对，如果有一个叫 helloworld.java，但是class命名为HelloWord. 2）如果希望我们文件名称和类名不一致&…
阅读更多...
习题2-5 求平方根序列前N项和

习题2-5 求平方根序列前N项和

本题要求编写程序，计算平方根序列 的前N项之和。可包含头文件math.h，并调用sqrt函数求平方根。 输入格式: 输入在一行中给出一个正整数N。 输出格式: 在一行中按照“sum S”的格式输出部分和的值S，精确到小数点后两位。题目保证计算结果不…
阅读更多...
docker 共享网络的方式实现容器互联

docker 共享网络的方式实现容器互联

docker 共享网络的方式实现容器互联 本文以nacos连接mysql为例 前提已经在mysql容器中初始化好nacos数据库，库名nacos 创建一个共享网络 docker network create --driver bridge \ --subnt 192.168.0.0/24 \ --gateway 192.168.0.1 mynet此处可以不指定网络模式、…
阅读更多...
【QT+QGIS跨平台编译】045：【netcdf3+Qt跨平台编译】（一套代码、一套框架，跨平台编译）

【QT+QGIS跨平台编译】045：【netcdf3+Qt跨平台编译】（一套代码、一套框架，跨平台编译）

点击查看专栏目录 文章目录 一、NetCDF3介绍二、文件下载三、文件分析四、pro文件五、编译实践一、NetCDF3介绍 NetCDF（Network Common Data Form）是一种用于存储科学数据的文件格式和库。NetCDF3 是 NetCDF 的旧版本，通常指的是 NetCDF 版本 3.x。 以下是 NetCDF3 的一些特…
阅读更多...
速腾聚创上市后首份财报：冲击年销百万台，押注人形机器人

速腾聚创上市后首份财报：冲击年销百万台，押注人形机器人

作者 |老缅 编辑 |德新 港股「激光雷达第一股」速腾聚创，交出了上市后的首份业绩报告。 3月27日，速腾聚创发布了2023年度财报。 报告期内，公司迎来高速的业务增长——2023年总收入达到人民币11.2亿元，同比增长达到111.2%。这主…
阅读更多...
算法学习——LeetCode力扣动态规划篇9

算法学习——LeetCode力扣动态规划篇9

算法学习——LeetCode力扣动态规划篇9 1035. 不相交的线 1035. 不相交的线 - 力扣（LeetCode） 描述 在两条独立的水平线上按给定的顺序写下 nums1 和 nums2 中的整数。 现在，可以绘制一些连接两个数字 nums1[i] 和 nums2[j] 的直线&#x…
阅读更多...
CCPC2020 - 秦皇岛 - G. Good Number （数学）

CCPC2020 - 秦皇岛 - G. Good Number （数学）

亚历克斯喜欢数字。 亚历克斯认为，正整数 x x x 是好数，当且仅当 ⌊ x k ⌋ \lfloor \sqrt[k]{x} \rfloor ⌊kx ​⌋ 整除 x x x 。 你能告诉他不超过 n n n 的正整数的个数吗？ 输入 输入的第一行给出了测试用例的数量 T ( 1 ≤ T ≤…
阅读更多...
Pytorch 下载失败原因

Pytorch 下载失败原因

错误信息： ERROR: Could not find a version that satisfies the requirement torch (from versions: none) ERROR: No matching distribution found for torch 解决方案： 在官网看到，它需要python3.8-3.11的环境。过高和过低的版本都不…
阅读更多...
python学习16：python中的布尔类型和条件语句的学习

python学习16：python中的布尔类型和条件语句的学习

python中的布尔类型和条件语句的学习 1.布尔（bool）类型的定义： 布尔类型的字面量：True表示真（是、肯定） False表示假（否、否定） True本质上是一个数字记作1，False记作0 …
阅读更多...
最新文章

Copyright @ 2022~2023