Spring Boot + Spring AI快速体验

1 什么是Spring AI

Spring AI是Spring的一个子项目，是Spring专门面向于AI的应用框架。

Spring AI 项目旨在简化整合人工智能功能的应用程序开发，避免不必要的复杂性。
汲取了著名的 Python 项目 LangChain 和 LlamaIndex 的灵感，但 Spring AI 并不是这些项目的直接移植。该项目的成立的信念：下一波生成式人工智能应用程序不仅将面向Python开发人员，而且将在许多编程语言中无处不在。

主要功能

● 跨 AI 供应商的便携式 API：支持聊天、文生图、嵌入模型；支持同步和流式API选项；访问特定模型功能。
● 支持几乎所有的ai模型提供商：如如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama，包括国内的千帆、智谱AI等
● 结构化输出：将AI模型输出映射为POJO；
● 支持所有主要向量数据库。
● 功能调用（Tools/Function Calling）：工具/功能调用-允许模型请求执行客户端工具和功能，从而根据需要访问必要的实时信息。
● 可观测
● springboot自动装配
● 支持聊天对话记忆和检索增强生成（RAG）

2 快速开始

2.1 版本说明

工具	版本
jdk	17
Spring Boot	3.2.x、3.3.x
Spring AI	1.0.0-SNAPSHOT

2.2 配置文件

注意：使用官方直连的api-key、url；或者使用基于转发的api-key、url。主要区别是官方的价格较贵，需要在程序中设置代理连接；转发类的国内可直接使用，价格便宜，适合学习使用。

2.3 pom依赖

2.3.1 spring maven仓库

<repositories>
    <!-- Spring Milestones 仓库 -->
    <repository>
        <id>spring-milestones</id>
        <name>Spring Milestones</name>
        <url>https://repo.spring.io/milestone</url>
        <snapshots>
            <enabled>false</enabled>
        </snapshots>
    </repository>

    <!-- Spring Snapshots 仓库 -->
    <repository>
        <id>spring-snapshots</id>
        <name>Spring Snapshots</name>
        <url>https://repo.spring.io/snapshot</url>
        <releases>
            <enabled>false</enabled>
        </releases>
    </repository>
</repositories>

2.3.2 核心依赖

<!--open ai-->
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>
<!--Spring AI 物料清单（BOM）声明了 Spring AI 发布版本使用的所有依赖项的推荐版本。
    使用应用程序构建脚本中的 BOM 可以避免自行指定和维护依赖项版本的需要。-->
<dependencyManagement>
   <dependencies>
       <dependency>
           <groupId>org.springframework.ai</groupId>
           <artifactId>spring-ai-bom</artifactId>
           <version>1.0.0-SNAPSHOT</version>
           <type>pom</type>
           <scope>import</scope>
       </dependency>
   </dependencies>
</dependencyManagement>

2.4 定义ChatClient

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
class Config {
    @Bean
    ChatClient chatClient(ChatClient.Builder builder) {
        return builder.build();
    }
}

2.5 启动类

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;

@SpringBootApplication
public class SpringAiDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(SpringAiDemoApplication.class, args);
    }
}

2.6 测试

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

@RestController
@RequestMapping("/api")
public class ChatController {

    @Autowired
    private ChatClient chatClient;


    @GetMapping("/chat")
    public String chat(@RequestParam(value = "message", defaultValue = "Hi") String message) {
        return chatClient.prompt()
                .user(message)
                .call()
                .content();
    }
}

文本返回：

流式返回（打字机效果）：

@GetMapping(value = "/chat/flux", produces = MediaType.TEXT_HTML_VALUE + ";charset=UTF-8")
public Flux<String> chatFlux(@RequestParam(value = "message", defaultValue = "Hi") String message) {
    Flux<String> output = chatClient.prompt()
            .user(message)
            .stream()
            .content();
    return output;
}

完整代码可参考：https://github.com/xgxizz/spring-ai-demo

3 参考链接

https://docs.spring.io/spring-ai/reference/

原文地址：https://blog.csdn.net/xu2439645715/article/details/144351808

免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！