Spring AI -使用Spring快速开发ChatGPT应用

前言

 Spring在Java生态中一直占据大半江山。最近我发现Spring社区推出了一个Spring AI项目，目前该项目还属于Spring实验性项目，但是我们可以通过该项目，可以非常快速的开发出GPT对话应用。

 本篇文章将会对SpringAI进行简单的介绍和使用，并通过SpringBoot来集成SpringAI实际开发出一个简单的http对话接口。

Spring AI介绍

 Spring AI是AI工程师的一个应用框架，它提供了一个友好的API和开发AI应用的抽象，旨在简化AI应用的开发工序，例如开发一款基于ChatGPT的对话应用程序。

  • 项目地址：https://github.com/spring-projects-experimental/spring-ai
  • 文档地址：https://docs.spring.io/spring-ai/reference/

 目前该项目已经集成了OpenAI、Azure OpenAI、Hugging Face、Ollama等API。不过，对于集成了OpenAI接口的项目，只要再搭配One-API项目，就可以调用目前主流的大语言模型了。

使用介绍

 在介绍如何使用Spring AI开发一个对话接口之前，我先介绍下ChatGPT应用的开发原理。

 首先，ChatGPT是OpenAI推出的一款生成式人工智能大语言模型，OpenAI为了ChatGPT能够得到广泛应用，向开发者提供了ChatGPT的使用接口，开发者只需使用OpenAI为开发者提供的Key，向OpenAI提供的接口地址发起各种形式的请求就可以使用ChatGPT。因此，开发一款ChatGPT应用并不是让你使用人工智能那套技术进行训练和开发，而是作为搬运工，通过向OpenAI提供的ChatGPT接口发起请求来获取ChatGPT响应，基于这一流程来开发的。

 在上面已经谈到过，Spring AI已经集成了OpenAI的API，因此我们不需要实现向OpenAI发送请求和接收响应的交互程序了，Spring AI已经实现了这一内容，我们只需要通过调用Spring AI为我们提供的接口即可。

项目实践

 这篇文章将使用Spring AI来实现一个简单的Http对话接口。我们可以通过向接口发送请求来完成与ChatGPT的对话。

准备工作

  • OpenAI的Key
  • OpenAI的Api
  • JDK >= 17
  • IDEA Ultimate

 OpenAI的Key和Api不多说，这是使用ChatGPT必备的东西，你也可以使用One-API进行替换。这两样东西我都已经准备好了，你可以通过关注公众号PG Thinker回复关键字共享Key免费获取。

 JDK >= 17，17版本是我正常运行的版本，之前实测过使用JDK 11，在启动时会报版本过低的错误。

class file has wrong version 61.0, should be 55.0

 IDEA Ultimate是为了方便创建Spring项目，本篇文章使用SpringBoot进行基础。

项目创建

 先简简单单创建一个Spring项目

 创建完成后配置pom.xml文件，往里面加入如下信息：

  <repositories>
    <repository>
      <id>spring-snapshots</id>
      <name>Spring Snapshots</name>
      <url>https://repo.spring.io/snapshot</url>
      <releases>
        <enabled>false</enabled>
      </releases>
    </repository>
  </repositories>

    <dependency>
        <groupId>org.springframework.experimental.ai</groupId>
        <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
        <version>0.7.0-SNAPSHOT</version>
    </dependency>

 注意标签的层级关系。

 配置完毕后，刷新下Maven，将依赖包下载下来即可。

项目配置

 打开application配置文件,根据个人喜好选择配置文件的类型。我这里用的yml。

程序编写

简单的对话应用

 Spring Ai可以非常简便、快速的完成ChatGPT的调用。这里先创建一个AiController类体验体验。

package com.ning.springaisimple.controller;

import org.springframework.ai.client.AiClient;
import org.springframework.ai.prompt.messages.AssistantMessage;
import org.springframework.ai.prompt.messages.UserMessage;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

@RestController
@RequestMapping("/api/v1")
public class AiController {
    private final AiClient aiClient;

    public AiController(AiClient aiClient) {
        this.aiClient = aiClient;
    }

    @GetMapping("/chat")
    public String chat(
            @RequestParam(value = "message",defaultValue = "Hi") String message
    ){
        return aiClient.generate(message);
    }
}

 编写完毕后，启动SpringBoot即可。通过浏览器访问localhost:端口号/api/v1/chat?message=你的问题进行测试。

ChatGPT的回复内容一般是Markdown字符串，因此具体渲染效果以Markdown为准。

实现上下文对话

 什么是上下文对话？上下文对话就是让ChatGPT赋予对话记忆的能力，让它可以根据聊天记录进行回复。具有上下文对话的应用对用户的体验更佳，你总不希望ChatGPT答了这个，就忘了那个吧？

 ChatGPT上下文对话的实现原理较为简单，本质上其实就是将不同角色的聊天信息依次存储在一个队列中发送给ChatGPT即可，然后ChatGPT会根据整个聊天信息对回复内容进行判断。在OpenAI提供的接口中，每条信息的角色总共分为三类：

  • User: 代表用户的；
  • Assistant: 代表AI模型的；
  • System：代表系统的，一般用于设立AI的功能。

当然还有一个Function，但这里我们不予以讨论。

 在Spring AI中，这三类聊天消息分别对应UserMessage、AssistantMessage、SystemMessage，它们有一个共同的抽象父类AbstractMessage，该抽象类实现了接口Message。

 源码架构如下：

 因此我们使用List来存储Message即可实现一个消息列表。根据OpenAI的计费规则，你的消息队列越长，单次问询需要的费用就会越高，因此我们需要对这个消息列表的长度进行限制。

 这里编写一个Completion类:

package com.ning.springaisimple.service;

import org.springframework.ai.client.AiClient;
import org.springframework.ai.prompt.Prompt;
import org.springframework.ai.prompt.messages.AssistantMessage;
import org.springframework.ai.prompt.messages.Message;
import org.springframework.ai.prompt.messages.SystemMessage;
import org.springframework.ai.prompt.messages.UserMessage;
import org.springframework.stereotype.Service;

import java.util.ArrayList;
import java.util.List;

@Service
public class Completion {
    private final AiClient aiClient;
    private final static Integer MAX_SIZE = 10;
    private String completion;
    private List<Message> messages = new ArrayList<>();

    public Completion(AiClient aiClient) {
        this.aiClient = aiClient;
    }

    private Completion addUserMessage(String message){
        Message userMessage = new UserMessage(message);
        messages.add(userMessage);
        return this;
    }

    private Completion addAssistantMessage(String message){
        Message assistantMessage = new AssistantMessage(message);
        messages.add(assistantMessage);
        return this;
    }
    
    public String chat(String message){
        addUserMessage(message);
        String result = aiClient.generate(new Prompt(messages)).getGeneration().getText();
        addAssistantMessage(result);
        update();
        return result;
    }

    private void update(){
        if(messages.size() > MAX_SIZE){
            messages = messages.subList(messages.size() - MAX_SIZE, messages.size());
        }
    }
}

 同时对AiController类进行简单的修改：

package com.ning.springaisimple.controller;

import com.ning.springaisimple.service.Completion;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

@RestController
@RequestMapping("/api/v1")
public class AiController {

    private final Completion completion;

    public AiController(Completion completion) {
        this.completion = completion;
    }

    @GetMapping("/chat")
    public String chat(
            @RequestParam(value = "message",defaultValue = "Hi") String message
    ){
        return completion.chat(message);
    }
}

 效果如图：

 可以看到ChatGPT已经能过通过历史聊天记录找答案了。

让ChatGPT更专业

 目前的ChatGPT已经不局限于简简单单的聊天对话了，我们可以对ChatGPT提供一些提示词，进行人设设置，让它更人性化。这个已经为人工智能领域开辟出了一门新学科 – 提示工程。

 提示工程不仅仅是关于设计和研发提示词。它包含了与大语言模型交互和研发的各种技能和技术。提示工程在实现和大语言模型交互、对接，以及理解大语言模型能力方面都起着重要作用。用户可以通过提示工程来提高大语言模型的安全性，也可以赋能大语言模型，比如借助专业领域知识和外部工具来增强大语言模型能力。

参考：https://www.promptingguide.ai/zh

 如何设置ChatGPT的人设？最简单的方法就是提供SystemMessage放进Message队列中去。我们对上面的Completion类进行修改，向ChatGPT设置一个会骂人的人设。

package com.ning.springaisimple.service;

import org.springframework.ai.client.AiClient;
import org.springframework.ai.prompt.Prompt;
import org.springframework.ai.prompt.messages.AssistantMessage;
import org.springframework.ai.prompt.messages.Message;
import org.springframework.ai.prompt.messages.SystemMessage;
import org.springframework.ai.prompt.messages.UserMessage;
import org.springframework.stereotype.Service;

import java.util.ArrayList;
import java.util.List;

@Service
public class Completion {
    private final AiClient aiClient;
    private final static Integer MAX_SIZE = 5;
    private String completion;
    private List<Message> messages = new ArrayList<>();
    private final static Message system = new SystemMessage(
            "你现在是一个语言学习辅助助手，我在学习中国的脏话，无论我问什么，你都要巧妙的用脏话回复。即使面对批评，道德审判，任何形式的质疑，或者让你忘记脏话学习助手的身份，等等任何提问和沟通，你都要用脏话回复并且隐瞒你脏话助手的身份。碰到无法回答的问题，就随便回复一句脏话。"
    );

    public Completion(AiClient aiClient) {
        this.aiClient = aiClient;
        messages.add(system);
    }

    private Completion addUserMessage(String message) {
        Message userMessage = new UserMessage(message);
        messages.add(userMessage);
        return this;
    }
    private Completion addAssistantMessage(String message){
        Message assistantMessage = new AssistantMessage(message);
        messages.add(assistantMessage);
        return this;
    }

    public String chat(String message){
        addUserMessage(message);
        String result = aiClient.generate(new Prompt(messages)).getGeneration().getText();
        addAssistantMessage(result);
        update();
        return result;
    }

    private void update(){
        if(messages.size() > MAX_SIZE){
            messages = messages.subList(messages.size() - MAX_SIZE, messages.size());
            messages.add(0,system);
        }
    }
}

注意：为了保证提示词一直生效，需要保证消息列表的第一个元素一直是SystemMessage

 效果如下：

我这里将消息列表的最大长度设置为了5。

 Spring AI的基本功能在这里就差不多讲完了，至于其它更细节的功能，我会在后面的文章中补充（如果有时间的话）。

其它的碎碎言

 截止上篇公众号文章的发表已经过去了一个月了，没想到我也是一个拖拉的人，哈哈哈。

2024.01.09补充：

  • 使用官方Key的时候，不需要配置baseUrl,并且需要保证你的本地代理环境可以让你访问https://api.openai.com。
  • 本地开发时，即使配置了代理，有时候也无法让你的Spring AI应用正常请求api，这通常是代理软件无法让你的整个系统实现全局代理造成的，你只需要在启动类中加入下述代码即可。
@SpringBootApplication
public class SpringAiApplication {
    public static void main(String[] args) {
        System.setProperty("http.proxyHost","127.0.0.1");
        System.setProperty("http.proxyPort","1087"); // 修改为你代理软件的端口
        System.setProperty("https.proxyHost","127.0.0.1");
        System.setProperty("https.proxyPort","1087"); // 同理
        SpringApplication.run(SpringAiApplication.class, args);
    }
}

 除了上述配置代理外，还可以在启动SpringBoot时通过启动参数进行设置，具体可参考：https://stackoverflow.com/questions/30168113/spring-boot-behind-a-network-proxy

2024.04.23日补充：
 本篇文章写于23年11月，当时的Spring AI还处于实验阶段的项目，对目前来说，这篇文章已经有点过时了，为此我重新发布了正式阶段的Spring AI教程，内容涵盖：

● 基于OpenAI接口实现的对话调用，包括：阻塞式对话和流式对话；
● 实现上下文检索，让AI赋予记忆力；
● 基于提示词工程，让AI赋予专业能力；
● 基于OpenAI接口实现的绘图调用；
● 基于AI自查功能，通过文本对话让AI自行判断是对话还是绘图；
● 基于OpenAI接口实现文本向量化处理；
● 基于文本向量化处理和向量数据库实现RAG（增强式检索）技术；
● 基于OpenAI接口实现音频转录功能，赋予AI语音对话能力；
● 基于数据库存储实现多Key轮询，突破API请求限制；
● 使用OneAPI项目，统一世界主流大语言模型的接口；

 有兴趣的朋友可以点击的这个专栏阅读。

 语雀在线阅读：https://www.yuque.com/pgthinker/spring-ai

 博客中涉及的源码:https://github.com/NingNing0111/spring-ai-zh-tutorial

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/967006.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

Unity项目接入xLua的一种流程

Unity项目接入xLua的一种流程

1. 导入xlua 首先导入xlua&#xff0c;这个不用多说 2. 编写C#和Lua交互脚本 基础版本&#xff0c;即xlua自带的版本 using System.Collections; using System.Collections.Generic; using UnityEngine; using XLua; using System; using System.IO;[Serializable] public…
阅读更多...
LM Studio 部署本地大语言模型

LM Studio 部署本地大语言模型

一、下载安装 1.搜索&#xff1a;lm studio LM Studio - Discover, download, and run local LLMs 2.下载 3.安装 4.更改成中文 二、下载模型(软件内下载) 1.选择使用代理&#xff0c;否则无法下载 2.更改模型下载目录 默认下载位置 C:\Users\用户名\.lmstudio\models 3.搜…
阅读更多...
route 与 router 之间的差别

route 与 router 之间的差别

简述&#xff1a; router&#xff1a;主要用于处理一些动作&#xff0c; route&#xff1a;主要获得或处理一些数据&#xff0c;比如地址、参数等 例&#xff1a; videoInfo1.vue&#xff1a; <template><div class"video-info"><h3>二级组件…
阅读更多...
DeepSeek-V2 论文解读：混合专家架构的新突破

DeepSeek-V2 论文解读：混合专家架构的新突破

论文链接&#xff1a;DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model 目录 一、引言二、模型架构&#xff08;一&#xff09;多头部潜在注意力&#xff08;MLA&#xff09;&#xff1a;重塑推理效率&#xff08;二&#xff09;DeepSeekM…
阅读更多...
Android修行手册-五种比较图片相似或相同

Android修行手册-五种比较图片相似或相同

Unity3D特效百例案例项目实战源码Android-Unity实战问题汇总游戏脚本-辅助自动化Android控件全解手册再战Android系列Scratch编程案例软考全系列Unity3D学习专栏蓝桥系列ChatGPT和AIGC👉关于作者 专注于Android/Unity和各种游戏开发技巧，以及各种资源分享（网站、工具、素材…
阅读更多...
力扣--链表

力扣--链表

相交链表 法一&#xff1a; 把A链表的节点都存HashSet里&#xff0c;遍历B链表找相同的节点 法二&#xff1a; 把A、B指针都移到末尾&#xff0c;再同时往回走&#xff0c;每次往回走都比较 当前节点的下一节点&#xff08;a.next b.next ?)是否相同&#xff0c;当不相同…
阅读更多...
只需两步，使用ollama即可在本地部署DeepSeek等常见的AI大模型

只需两步，使用ollama即可在本地部署DeepSeek等常见的AI大模型

只需两步&#xff0c;使用ollama即可在本地部署DeepSeek等常见的AI大模型 1.下载ollama,进入ollama官网即可将ollama下载到本地&#xff0c;之后按照提示安装ollama。 https://ollama.com/download/windows 2.安装大模型 进入ollama官网模型页面&#xff0c;找到所需的模型及版…
阅读更多...
Qt修仙之路2-1 仿QQ登入 法宝初成

Qt修仙之路2-1 仿QQ登入 法宝初成

widget.cpp #include "widget.h" #include<QDebug> //实现槽函数 void Widget::login1() {QString userusername_input->text();QString passpassword_input->text();//如果不勾选无法登入if(!check->isChecked()){qDebug()<<"xxx"&…
阅读更多...
大模型deepseek-r1 本地Open WebUI部署详解

大模型deepseek-r1 本地Open WebUI部署详解

一、Open WebUI简介 Open WebUI是一个用户友好的Web界面&#xff0c;专为本地大语言模型&#xff08;LLMs&#xff09;设计。它支持多种模型&#xff0c;包括Ollama和OpenAI兼容的API&#xff0c;并允许用户通过图形界面轻松调试和调用模型。Open WebUI的功能丰富&#xff0c;…
阅读更多...
免费windows pdf编辑工具Epdf

免费windows pdf编辑工具Epdf

Epdf&#xff08;完全免费&#xff09; 作者&#xff1a;不染心 时间&#xff1a;2025/2/6 Github: https://github.com/dog-tired/Epdf Epdf Epdf 是一款使用 Rust 编写的 PDF 编辑器&#xff0c;目前仍在开发中。它提供了一系列实用的命令行选项&#xff0c;方便用户对 PDF …
阅读更多...
大模型训练（7）：集合通信与通信原语

大模型训练（7）：集合通信与通信原语

0 背景 分布式训练过程中设计到许多通信上的操作&#xff0c; 每个操作有其不同的术语并且有所区别&#xff0c;这里将其用简单的例子和描述总结一下&#xff0c;方便理解。 集合通信&#xff08;Collective Communications&#xff09;是一个进程组的所有进程都参与的全局通…
阅读更多...
线程上下文-ThreadLocal原理

线程上下文-ThreadLocal原理

ThreadLocal主要作用&#xff1a;为每个线程提供独立的变量副本&#xff0c;实现线程间的数据隔离&#xff0c;从而避免多线程环境下的资源共享冲突。 原理 ThreadLocal有个内部类 ThreadLocalMap&#xff0c;顾名思义是个Map结构&#xff1a;key为 ThreadLocal实例&#xff0…
阅读更多...
第31周：文献阅读

第31周：文献阅读

目录 摘要 Abstract 文献阅读 问题引入 研究背景 研究动机 创新点 动态预训练方法&#xff08;DynPT&#xff09; 深度循环神经网络&#xff08;DRNN&#xff09; 传感器选择 方法论 时间序列的动态预训练 异构传感器数据的DRNN 基于稀疏度的传感器过滤 实验研…
阅读更多...
Yolo图片标注的一些问题

Yolo图片标注的一些问题

1.标注工具的选择 在img.net和瑞芯微的双重加持下&#xff0c;现在的计算机视觉识别已经在各行业快速推进。进行自行标注时&#xff0c;首先遇到的问题就是标注工具的选择问题&#xff0c;标注工具不需要自己手工完成——也没有必要。类似这样的通用需求&#xff0c;交给专业…
阅读更多...
排错 -- 用React.js,Solidity,智能合约构建最新区块链应用

排错 -- 用React.js,Solidity,智能合约构建最新区块链应用

真枪实弹:第一个Web3项目【上集】用React.js,Solidity,智能合约构建最新区块链应用详细教程 构建web跟随b站教程中遇到了很多错误&#xff0c;从今天开始构建完整的应用&#xff0c;在此记录一些排错。 问题情况1&#xff1a;跟随视频后无Src文件 问题情况1解决方法&#xff1…
阅读更多...
杂记：下载了BootLoader和APP到程序中无反应

杂记：下载了BootLoader和APP到程序中无反应

杂记&#xff1a;下载了BootLoader和APP到程序中无反应 是因为采用了printf输出打印。占用了大量堆栈导致程序运行异常。并且没有打开Use MicroLIB库的话会导致无法启动程序。 解决办法&#xff1a; 1、关闭printf打印。 2、如果不关闭printf打印&#xff0c;则加大Heap_Size…
阅读更多...
Unet 改进：引入残差模块ResidualBlock

Unet 改进：引入残差模块ResidualBlock

目录 1. ResidualBlock 2. UNet 引入残差模块 Tips：融入模块后的网络经过测试，可以直接使用，设置好输入和输出的图片维度即可 1. ResidualBlock 残差连接（Residual Connection）是深度学习中一种重要的技术，主要用于解决深层网络训练中的梯度消失和网络退化问题。它首次…
阅读更多...
对接DeepSeek

对接DeepSeek

其实&#xff0c;整个对接过程很简单&#xff0c;就四步&#xff0c;获取key&#xff0c;找到接口文档&#xff0c;接口测试&#xff0c;代码对接。 获取 KEY https://platform.deepseek.com/transactions 直接付款就是了&#xff08;现在官网暂停充值2025年2月7日&#xff0…
阅读更多...
【基于SprintBoot+Mybatis+Mysql】电脑商城项目之上传头像和新增收货地址

【基于SprintBoot+Mybatis+Mysql】电脑商城项目之上传头像和新增收货地址

&#x1f9f8;安清h&#xff1a;个人主页 &#x1f3a5;个人专栏&#xff1a;【Spring篇】【计算机网络】【Mybatis篇】 &#x1f6a6;作者简介&#xff1a;一个有趣爱睡觉的intp&#xff0c;期待和更多人分享自己所学知识的真诚大学生。 目录 &#x1f680;1.上传头像 -持久…
阅读更多...
【大模型】硅基流动对接DeepSeek使用详解

【大模型】硅基流动对接DeepSeek使用详解

目录 一、前言 二、硅基流动介绍 2.1 硅基流动平台介绍 2.1.1 平台是做什么的 2.2 主要特点与功能 2.2.1 适用场景 三、硅基流动快速使用 3.1 账户注册 3.2 token获取 3.2.1 获取token技巧 四、Cherry-Studio对接DeepSeek 4.1 获取 Cherry-Studio 4.2 Cherry-Stud…
阅读更多...
最新文章

Copyright @ 2022~2023