Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型的简单整理

Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型的简单整理

目录

Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型部署简单整理

一、简单介绍

 二、 Ollama 下载安装

 三、Ollama 下载 LLM 模型,并运行

四、Ollama Web UI Lite 访问 Deepseek

附录:

一、运行 npm run dev 报错 “vite” 不是内部或者外部命令


一、简单介绍

DeepSeek作为一家年轻而富有活力的AI公司,通过开源策略、创新能力与充足的资源支持,在短短时间内成长为全球瞩目的新锐力量。其核心成员兼具深厚的学术功底与实践经验,所攻关的大模型在数学、代码、生物计算以及语言理解等多方面已展示出强大的竞争力。

自成立以来,DeepSeek不断地突破研究瓶颈,先后推出了DeepSeek LLM、DeepSeek V-2和DeepSeek V-3等版本,以极高的性能与成本效益比为业界带来了颠覆性的惊喜。与此同时,DeepSeek在多头延迟注意力(MLA)、混合专家模型(MoE)以及FP8混合精度训练等关键技术上取得的进展,也为后续技术迭代铺平了道路。

在未来的规划中,DeepSeek将在技术创新、行业应用、人才培养和市场合作等方面持续发力,立志以开源共享的方式,为AI技术的普及与应用赋予更加深远的影响。随着团队即将投入更多算力与人才,DeepSeek有望继续书写AI界的新篇章,成为全球新一轮技术创新的引领者。

Ollama 是一个开源的本地大型语言模型(LLM)运行框架,它旨在简化在本地运行大型语言模型的过程。Ollama 提供了一个简洁易用的命令行界面和服务器,让你能够轻松下载、运行和管理各种开源大型语言模型,如 Llama 3、Mistral、Qwen2 等。

Ollama 的一些主要特点包括:

  1. 开源免费:Ollama 及其支持的模型完全开源免费,任何人都可以自由使用、修改和分发。
  2. 简单易用:无需复杂的配置和安装过程,只需几条命令即可启动和运行 Ollama。
  3. 模型丰富:Ollama 支持多种热门开源大型语言模型,并提供一键下载和切换功能。
  4. 资源占用低:相比于商业大型语言模型,Ollama 对硬件要求更低,即使在普通笔记本电脑上也能流畅运行。
  5. 社区活跃:Ollama 拥有庞大且活跃的社区,用户可以轻松获取帮助、分享经验和参与模型开发。

其中还涉及到:Node.js 、Git 等工具的下载与使用

 

二、 Ollama 下载安装

Ollama 官网:https://ollama.com/

1、到官网下载 Ollama ,根据自己的平台选择需要下载的安装包

Ollama 下载地址:https://ollama.com/download

2、下载完之后,双击运行安装即可

3、安装完后,打开 cmd ,输入 ollama 下面表示 Ollama 已经安装号

4、启动了 Ollama ,在 浏览器中输入 指定网址显示 Ollama 正在运行中

网址:http://localhost:11434

 三、Ollama 下载 LLM 模型,并运行

1、在 Ollama Models 搜索需要 LLM 模型

这里是搜索 Deepseek

2、这里选择 deepseek-r1 的 7b 的模型,同时旁边也有 运行的命令

(你可以根据自已的需要和设备可支持运行的版本进行选择下载)

3、在 cmd 中输入上面的命令下载模型并运行,下载成功后,就会可以输入问题进行提问了

命令:ollama run deepseek-r1:7b

四、Ollama Web UI Lite 访问 Deepseek

1、可能需要 安装 Node.js 编程语言工具包(已有可忽略)

安装Node.js编程语言工具包和安装其他软件包一样,下载安装即可:https://nodejs.org

2、安装好后

3、git 下载安装(已有可忽略)

4、git 下载代码 ollama-webui-lite 代码

命令:git clone https://github.com/ollama-webui/ollama-webui-lite

5、下载完后进行代码文件夹中

6、设置 Node.js 工具包镜像源(已有可忽略)

下载 Node.js 的依赖包更加快速:npm config set registry http://mirrors.cloud.tencent.com/npm/

安装 Node.js 依赖的工具包:npm install

7、启动 Web 可视化界面

命令 :npm run dev

8、在浏览器上 输入上面的网址,进入访问

这里使用:localhost:3000

9、选择之前下载的 deepseek 相关模型,进行访问

附录:

一、运行 npm run dev 报错 “vite” 不是内部或者外部命令

这里安装 npm install vite 即可

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/965799.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Excel 融合 deepseek

效果展示 代码实现 Function QhBaiDuYunAIReq(question, _Optional Authorization "your api key", _Optional Qhurl "https://qianfan.baidubce.com/v2/chat/completions")Dim XMLHTTP As ObjectDim url As Stringurl Qhurl 这里替换为你实际的URLDim …

SpringBoot开发(六)SpringBoot整合MyBatis

1. SpringBoot整合MyBatis 1.1. MyBatis介绍 MyBatis 是一款优秀的持久层Dao框架,它支持定制化 SQL、存储过程以及高级映射。MyBatis 避免了几乎所有的 JDBC 代码和手动设置参数以及获取结果集。MyBatis 可以使用简单的 XML 或注解来配置和映射原生信息&#xff0c…

[数据结构] Set的使用与注意事项

目录 Set的说明 常见方法说明 注意事项 TreeSet使用案例 Set的说明 Set与Map主要的不同有两点: Set是继承自Collection的接口类,Set中只存储了Key. 常见方法说明 方法解释boolean add(E e)添加元素,但重复元素不会被添加成功void clear()清空集合boolean contains(Object…

JumpServer堡垒机管理服务器与数据库资产

第一次接触JumpServer是一位老师借给我的,当时想部署oceanbase 企业版V3 ,苦于笔记本内存太小,后来在JumpServer上部署成功了,后来一直对JumpServer比较感兴趣,年后有时间对JumpServer进行了系统的学习 一.使用场景 我…

汽车免拆诊断案例 | 2015款奔驰R320车行驶中偶尔多个故障灯异常点亮

故障现象  一辆2015款奔驰R320车,搭载276 826 发动机,累计行驶里程约为18万km。该车行驶中,组合仪表上的ABS警告灯、防侧滑警告灯、发动机故障灯等多个故障灯偶尔异常点亮(图1),且车速表不指示&#xff0…

实验3 词法分析(二)

实验3 词法分析(二) [实验目的]: 1 . 熟悉给定的词法分析程序; 2 . 改进词法分析程序。 [实验内容]: 1.尝试多方面改进TEST语言的文法,参考教材附录B词法分析程序TESTscan.c,在此词法分析程序的基础上改进程序&#x…

[创业之路-286]:《产品开发管理-方法.流程.工具 》-2- 人的管理是任何组织首要解决的问题 - 企业与研发组织组成、构架、组织分工

目录 一、产品开发的部门组成(系统关键组成要素) 1、产品开发中的市场规划部门与研发内部的市场/产品/技术预研部门的职责区别: 2、研发的分类:技术预研、平台开发、产品开发 相同点 差异点 相互联系 二、研发的组织架构 1…

使用jmeter进行压力测试

使用jmeter进行压力测试 jmeter安装 官网安装包下载,选择二进制文件,解压。 tar -xzvf apache-jmeter-x.tgz依赖jdk安装。 yum install java-1.8.0-openjdk环境变量配置,修改/etc/profile文件,添加以下内容。 export JMETER/…

matlab simulink LNG广义预测控制

1、内容简介 略 matlab simulink 120-LNG广义预测控制 可以交流、咨询、答疑 2、内容说明 略 模型分为2部分,一部分是simulink的结果,用的是pid和模糊pid控制,第二个模型考虑到代码计算的方便性,采用的m文件做仿真&#xff0…

git submodule使用

git submodule 用于关联其他独立的仓库。 它有着几点好处: 代码复用:可以将工具代码放到单独的仓库,再通过 submodule 关联。模块化开发:可以将项目拆分成多个模块,每个模块设置单独仓库独立开发,再通过 su…

python怎么求 一个数是否包含3

python求一个数包含3的方法: 1、使用“for i in 列表名”循环遍历列表中的每一个元素并将每个元素用str()函数转换成字符串格式 2、用“if str(3) in i”判断该元素中是否含有3 完整代码如下: 执行结果如下:

数据库系统概念第六版记录 三

外码约束(Foreign Key Constraint) 外码(Foreign Key, FK)是关系数据库中的一个约束,它用于保证表之间的引用完整性。外码的值必须: 要么存在于被引用表的主键列中,要么为空(NULL&…

修改SSH登录密码,只需要登录SSH,之后输入命令即可,这里登录使用的软件为 MobaXterm1

在登入终端之后输入命令 passwd {用户名} 即可进行修改。需要注意的是,输入的密码不会有星号代替,也不会出现明文。 如果想要修改SSH的登录端口,比如修改为1433,则只需要执行以下命令即可: /usr/sbin/sshd -p 1433…

电商平台的设计与实现(代码+数据库+LW)

摘 要 如今社会上各行各业,都喜欢用自己行业的专属软件工作,互联网发展到这个时候,人们已经发现离不开了互联网。新技术的产生,往往能解决一些老技术的弊端问题。因为传统商品交易信息管理难度大,容错率低&#xff0…

【R语言】plyr包和dplyr包

一、plyr包 plyr扩展包主要是实现数据处理中的“分割-应用-组合”(split-apply-combine)策略。此策略是指将一个问题分割成更容易操作的部分,再对每一部分进行独立的操作,最后将各部分的操作结果组合起来。 plyr扩展包中的主要函…

oscp备考,oscp系列——VulnOSv2靶场,两种方法获取低权限shell

前言 oscp备考,oscp系列——VulnOSv2靶场,两种方法获取低权限shell 难度简单 对于低权限shell获取涉及:drupal 7 getshell漏洞,opendocman sql注入,ssh连接对于提权:内核提权 下载地址: http…

东方财富股吧发帖与评论爬虫

东方财富股吧发帖与评论爬虫 东方财富股吧爬虫 写在开头项目介绍主要功能文件介绍爬取逻辑 a. 爬取帖子信息b. 爬取评论信息 使用步骤 1. 下载代码2. MongoDB 安装3. Webdriver 安装4. 运行 main.py5. 查看数据 踩过的坑附录(运行结果) 东方财富股吧爬…

wxWidgets生成HTML文件,带图片转base64数据

编译环境大家可以看我之前的文章,CodeBlocks + msys2 + wx3.2,win10 这里功能就是生成HTML文件,没用HTML库,因为是自己固定的格式,图片是一个vector,可以动态改变数量的。 效果如下: #include <wx/string.h> #include <wx/file.h> #include <wx/ima…

网络编程 day2

题目 代码 服务器 typedef char DataType[32]; //普通节点数据类型typedef struct NODE {union{DataType data; //普通节点数据域int len; //头节点数据域};struct NODE *next; //指针域 }node,*nodePtr;struct PACK {int size; //告知 通信传输的数据的大小int type; //决定…

【鸿蒙HarmonyOS Next实战开发】实现ArkTS/JS和C/C++的交互-Node-API

一、HarmonyOS Node-API简介 在HarmonyOS应用开发中&#xff0c;通常以ArkTS/JS语言为主&#xff0c;但在一些特殊场景下&#xff0c;例如游戏开发、物理模拟等&#xff0c;由于对性能、效率等有较高要求&#xff0c;需要借助现有的C/C库来实现。为了满足这种需求&#xff0c;…