使用LobeChat打造属于自己的聊天机器人界面——可本地运行部署

        上篇文章我们使用ollama进行本地的部署,其ollama只是一个后台服务,而ollama并没有提供一个可视化的界面。当然我们可以使用cmd终端窗口里面跟llama2大模型进行沟通交流,但是其界面只有一个黑色的框,并不美观。本期我们就介绍一下Lobe Chat,一个漂亮的UI可视化界面

Lobe Chat简介

        现代化设计的开源 ChatGPT/LLMs 聊天应用与开发框架;支持语音合成、多模态、可扩展的(function call)插件系统;一键免费拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用

多模型服务商支持

  • AWS Bedrock:集成了 AWS Bedrock 服务,支持了 Claude / LLama2 等模型,提供了强大的自然语言处理能力。
  • Google AI (Gemini Pro、Gemini Vision):接入了 Google 的 Gemini 系列模型,包括 Gemini 和 Gemini Pro,以支持更高级的语言理解和生成。
  • Anthropic (Claude):接入了 Anthropic 的 Claude 系列模型,包括 Claude 3 和 Claude 2,多模态突破,超长上下文,树立行业新基准。
  • ChatGLM:加入了智谱的 ChatGLM 系列模型(GLM-4/GLM-4-vision/GLM-3-turbo),为用户提供了另一种高效的会话模型选择。
  • Moonshot AI (月之暗面):集成了 Moonshot 系列模型,这是一家来自中国的创新性 AI 创业公司,旨在提供更深层次的会话理解。
  • Together.ai:集成部署了数百种开源模型和向量模型,无需本地部署即可随时访问这些模型。
  • 01.AI (零一万物):集成了零一万物模型,系列 API 具备较快的推理速度,这不仅缩短了处理时间,同时也保持了出色的模型效果。
  • Groq:接入了 Groq 的 AI 模型,高效处理消息序列,生成回应,胜任多轮对话及单次交互任务。
  • OpenRouter:其支持包括 Claude 3,Gemma,Mistral,Llama2和Cohere等模型路由,支持智能路由优化,提升使用效率,开放且灵活。

支持本地大语言模型 (LLM)(我们重点介绍的地方)

为了满足特定用户的需求,LobeChat 还基于 Ollama 支持了本地模型的使用,让用户能够更灵活地使用自己的或第三方的模型。

部署方式

  1. 如果想在 Vercel 或 Zeabur 上部署该服务,可以按照以下步骤进行操作:
    1. 准备好你的 OpenAI API Key 。
    2. 点击下方按钮开始部署: 直接使用 GitHub 账号登录即可,记得在环境变量页填入 OPENAI_API_KEY (必填) and ACCESS_CODE(推荐);
    3. 部署完毕后,即可开始使用;
    4. 绑定自定义域名(可选):Vercel 分配的域名 DNS 在某些区域被污染了,绑定自定义域名即可直连。目前 Zeabur 提供的域名还未被污染,大多数地区都可以直连。
  2. 使用 Docker 部署
    1. 使用 Docker 镜像,供你在自己的私有设备上部署 LobeChat 服务。使用以下命令即可使用一键启动 LobeChat 服务:
    2. 命令行如下:
    3. $ docker run -d -p 3210:3210 \
        -e OPENAI_API_KEY=sk-xxxx \
        -e ACCESS_CODE=lobe66 \
        --name lobe-chat \
        lobehub/lobe-chat
    4. 如果你需要通过代理使用 OpenAI 服务,你可以使用 OPENAI_PROXY_URL 环境变量来配置代理地址:
      $ docker run -d -p 3210:3210 \
        -e OPENAI_API_KEY=sk-xxxx \
        -e OPENAI_PROXY_URL=https://api-proxy.com/v1 \
        -e ACCESS_CODE=lobe66 \
        --name lobe-chat \
        lobehub/lobe-chat

  3. 与 Ollama 集成
    1.  本地启动 Ollama
    2. 首先,你需要安装 Ollama,安装与配置 Ollama 的详细步骤
    3. 本地运行 LobeChat,假设你已经在本地 11434 端口启动了 Ollama 服务。运行以下 Docker 命令行,在本地启动 LobeChat:
      docker run -d -p 3210:3210 -e OLLAMA_PROXY_URL=http://host.docker.internal:11434/v1 lobehub/lobe-chat
    4. 接下来,你就可以使用 LobeChat 与本地 LLM 对话了。
  4. 好玩到飞

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/548231.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

220V转15V300mA非隔离恒压WT5113

220V转15V300mA非隔离恒压WT5113 亲爱的朋友们,你们是否在为如何提高电源方案而烦恼呢?今天我给大家带来了一款芯片,WT5113宽输出范围非隔离交直流转换芯片,它可是电源方案中的得力助手哦! 这款芯片拥有220V降12V、2…

分享一个很好用的代码辅助AI工具CodeGeeX2

CodeGeeX2 是多语言代码生成模型 CodeGeeX (KDD’23) 的第二代模型。不同于一代 CodeGeeX(完全在国产华为昇腾芯片平台训练) ,CodeGeeX2 是基于 ChatGLM2 架构加入代码预训练实现,得益于 ChatGLM2 的更优性能,CodeGeeX…

华源前线供热 | 2024第一“展”·新疆暖通展览会

2024年3月29日-31日,中国能建杭州华源前线能源设备有限公司(以下简称华源前线)作为国家级专精特新“小巨人”企业、热储能领军企业,携“国资委《中央企业科技创新成果推荐目录》-高压电极锅炉、《全球环境基金GEF先进技术目录》超…

JS-29-Promise对象

一、JavaScript的异步操作 在JavaScript的世界中,所有代码都是单线程执行的。 由于这个“缺陷”,导致JavaScript的所有网络操作,浏览器事件,都必须是异步执行。异步执行可以用回调函数实现: function callback() {c…

【系统分析师】系统安全分析与设计

文章目录 1、安全基础技术1.1 密码相关1.1.1对称加密1.1.2非对称加密1.1.3信息摘要1.1.4数字签名1.1.5数字信封 1.2 PKI公钥体系 2、信息系统安全2.1 保障层次2.2 网络安全2.2.1WIFI2.2.2 网络威胁与攻击2.2.3 安全保护等级 2.3计算机病毒与木马2.4安全防范体系 1、安全基础技术…

Composer是什么?

Composer是PHP的一个依赖管理工具,它允许开发者声明项目所依赖的代码库,并在项目中自动安装这些依赖。它使用composer.json文件来定义项目的依赖关系,并使用composer.lock文件来锁定依赖的版本,以确保项目的稳定性和可重复性。 Co…

相机系列——透视投影:针孔相机模型

作者:木一 引言 上文我们提到,三维相机是对真实世界成像的模拟,为了让三维物体在计算机屏幕上呈现出来的图像符合人眼观察效果,通常采用透视投影方式模拟相机成像,为了简化计算,可以用针孔相机模型来描述…

STL —— priority_queue

博主首页: 有趣的中国人 专栏首页: C专栏 本篇文章主要讲解 priority_queue 的相关内容 目录 1. 优先级队列简介 基本操作 2. 模拟实现 2.1 入队操作 2.2 出队操作 2.3 访问队列顶部元素 2.4 判断优先队列是否为空 2.5 获取优先队列的大小 …

2024年管理、经济发展与商务分析国际会议(ICMEDBA2024)

2024年管理、经济发展与商务分析国际会议(ICMEDBA2024) 会议简介 2024年管理、经济发展和商业分析国际会议(ICMEDBA2024)将在中国昆明举行。会议聚焦管理、经济发展和商业分析研究领域,旨在为相关领域的专家、学者、…

保障通信安全的端到端加密技术

随着互联网技术的飞速发展,人们的通信方式也变得日益多样化和便捷化。然而,通信的便捷性背后也隐藏着信息安全的风险。在这样的背景下,端到端加密技术应运而生,成为了保障通信安全的重要手段。本文将对端到端加密技术进行详细介绍…

RocketMQ 02 功能大纲介绍

RocketMQ 02 主流的MQ有很多,比如ActiveMQ、RabbitMQ、RocketMQ、Kafka、ZeroMQ等。 之前阿里巴巴也是使用ActiveMQ,随着业务发展,ActiveMQ IO 模块出现瓶颈,后来阿里巴巴 通过一系列优化但是还是不能很好的解决,之后…

CodeMaid:Visual Studio代码自动整理插件!

推荐一款Visual Studio的扩展插件,可以帮助开发者更高效地管理和维护代码。 01 插件简介 CodeMaid是一款Visual Studio的扩展插件,其主要功能包括代码整理、代码格式化、自动注释、快速导航等,这些功能都可以提高开发者的编程效率和代码质量…

性能测试-数据库优化二(SQL的优化、数据库拆表、分表分区,读写分离、redis、数据库监控)

数据库优化 explain select 重点: type类型,rows行数,extra SQL的优化 在写on语句时,将数据量小的表放左边,大表写右边where后面的条件尽可能用索引字段,复合索引时,最好按复合索引顺序写wh…

5V_6A/4A高性能低EMI同步降压整流器内置8 mΩ NMOS, 31 mΩ PMOS

概述 PCD1500 是一个非常小、高效、低噪音同步 6A 降压直流/直流变换器,从 2.5V 到 5.5V 的输入电源运行。该变换器使用固定开关频率,在 1MHz 到 10MHz 时进行峰值电流模式控制,最小开关时间低至 22ns,通过较小的外部组件实现快速…

第 6 章 URDF、Gazebo与Rviz综合应用(自学二刷笔记)

重要参考: 课程链接:https://www.bilibili.com/video/BV1Ci4y1L7ZZ 讲义链接:Introduction Autolabor-ROS机器人入门课程《ROS理论与实践》零基础教程 6.7.4 kinect信息仿真以及显示 通过 Gazebo 模拟kinect摄像头,并在 Rviz 中显示kinect摄像头数据…

【Linux系统编程】第三弹---基本指令(一)

✨个人主页: 熬夜学编程的小林 💗系列专栏: 【C语言详解】 【数据结构详解】【C详解】【Linux系统编程】 目录 1、touch指令 2、mkdir指令 3、ls 指令 4、pwd命令 3、cd 指令 6、rmdir指令 && rm 指令 7、man指令 7、cp指令 …

南京观海微电子---外电路和内电路的区别和联系、应用和优缺点

什么是外电路和内电路 首先,我们要明白什么是电路。电路是指由导体或其他元件连接起来的闭合路径,能够让电流通过。我们平时见到的灯泡、手机、电脑等都是由不同的电路组成的。 电路一点通 “电路一点通”聚电路技术资源、电子电路、高品质电路图、电路…

【计算机毕业设计】4S店车辆管理系统——后附源码

🎉**欢迎来到我的技术世界!**🎉 📘 博主小档案: 一名来自世界500强的资深程序媛,毕业于国内知名985高校。 🔧 技术专长: 在深度学习任务中展现出卓越的能力,包括但不限于…

vue+springboot实现聊天功能

前言 在我的项目中,突然有种想法,想实现聊天功能,历经一段时间终于做出来了;那么接下来会讲解如何实现,这篇文章只会实现最基础的逻辑,实时获取对方聊天记录,话不多说,我们就开始吧…

脚本开发与自动化运维

shell脚本开发 grep搜索工具 参数&#xff1a; -A<显示行数>&#xff1a;-A NUM, --after-context NUM&#xff0c;除了显示符合范本样式的那一行之 外&#xff0c;并显示该行之后的内容。 -B<显示行数>&#xff1a;--before-context NUM&#xff0c;除了显示…