大模型应用开发LangChain4j实战 function calling能力支持

itbeien2025年3月3日大约 9 分钟

大模型应用开发LangChain4j实战 function calling能力支持

上一篇文章分享了大模型应用开发LangChain4j实战实现会话记忆和会话隔离今天这篇文章我来分享大模型应用开发LangChain4j实战 function calling能力支持。通过实际代码案例，逐步掌握Java生态下的AI大模型应用产品开发。

完整代码在文章最后，如果觉得本篇文章对你有用，记得点赞、关注、收藏哦。你的支持是我持续更新的动力!

文章最后可以加入免费的Java&AI技术和支付系统沟通社群，一起探讨Java/你的产品如何与AI结合，请按照要求加入。在群中可以聊开发、系统设计、架构、行业趋势、AI等等话题

LangChain4j 是一个用于构建和操作语言模型（LLM）应用的 Java 框架。通过实际的项目功能案例，看LangChain4j如何提高你开发AI应用的工程能力，帮助你逐步掌握该框架的核心概念和高级功能。

AI专栏软件环境

IntelliJ IDEA2024.3.5
JDK 17.0.13
LangChain4j1.0.0-beta1
Spring Boot 3.4.3
Spring 6.2.3
通义千问大模型

我们先看本篇文章对应的项目结构，请看下图

1 什么是function calling

通用基础大模型deepseek，chatgpt，通义千问等等它只是通过公域数据进行训练，只具备解决通用公域相关问题，比如你向它提出一些特定行业问题让它去完成，它是没有这个能力完成的。比如你让他完成预定景区门票或者购买一张电影票，这时必须基于企业内部的业务系统完成。那么实现这个需求就可以使用function calling完成，当提出购买景区门票就可以使用function calling调用票务系统下单接口，总结一句话就是Function Calling 常用于大模型回调企业私有 API、数据库等，实现与业务系统的深度结合。

在大型语言模型中，Function Calling 是一种允许模型在与用户交互的过程中调用外部函数或服务的功能。模型本身不执行函数/接口，而是生成包含函数/接口名称和执行函数/接口所需的参数的 JSON 对象，开发者可以根据这个 JSON 对象来调用实际的API。

上图中的流程有三个地方很重要

如何让大模型知道输入退票提示词需要进行function calling
智能客服系统如何拿到提示词中的订单号
用户只输入了退票，如何让大模型提示用户需要输入退票接口必须传入的订单号等参数

先带着上面三个问题思考一下，然后再看下面的代码实现

2 项目搭建

2.1 pom依赖

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <parent>
        <groupId>cn.itbeien.ai</groupId>
        <artifactId>langchain4j-labs</artifactId>
        <version>1.0-SNAPSHOT</version>
    </parent>

    <artifactId>langchain4j-lab07</artifactId>

    <properties>
        <maven.compiler.source>17</maven.compiler.source>
        <maven.compiler.target>17</maven.compiler.target>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <langchain4j.version>1.0.0-beta1</langchain4j.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j-community-dashscope-spring-boot-starter</artifactId>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j</artifactId>
            <version>${langchain4j.version}</version>
        </dependency>
    </dependencies>

</project>

2.2 配置信息

#百炼大模型开发及应用平台
langchain4j.community.dashscope.chatmodel.model-name=deepseek-v3
langchain4j.community.dashscope.chat-model.api-key=${DASHSCOPE_API_KEY}

2.3 function calling

使用 @Tool("退票")注解告诉大模型，用户输入退票提示词后需要进行function calling。通过@P("订单号")注解获取提示词中的订单号

package cn.itbeien.lab07.tool;

import dev.langchain4j.agent.tool.P;
import dev.langchain4j.agent.tool.Tool;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Service;

/**
 * @author itbeien
 * 项目网站：https://www.itbeien.cn
 * 公众号：贝恩聊架构
 * 全网同名，欢迎小伙伴们关注
 * Java/AI学习社群
 * Copyright© 2025 itbeien
 */
@Service
@Slf4j
public class FunctionCall {

    /**
     * 告诉大模型什么对话可以调用该函数
     * @param
     * @return
     */
    @Tool("退票")
    public String call(@P("订单号")String orderId){
        log.info("收到退票请求，订单号：{}",orderId);
        return "退票成功";
    }
}

2.4 让大模型提示用户输入必要参数

使用@SystemMessage注解设置角色和场景，当用户需要退票时，需要输入订单号等信息

package cn.itbeien.lab07.service;

import dev.langchain4j.service.MemoryId;
import dev.langchain4j.service.SystemMessage;
import dev.langchain4j.service.UserMessage;

/**
 * @author itbeien
 * 项目网站：https://www.itbeien.cn
 * 公众号：贝恩聊架构
 * 全网同名，欢迎小伙伴们关注
 * Java/AI学习社群
 * Copyright© 2025 itbeien
 */
public interface AIAssistant {
    @SystemMessage("你是景区智能客服，当遇到景区相关问题时，你需要回答景区相关问题。当遇到退票问题时，需要客户提供订单号，然后你需要回答退票相关问题。")
    public String chat(String question);
    public String chat(@MemoryId String memoryId, @UserMessage String question);
}

3 流程测试

3.1 测试脚本

### function calling
GET http://localhost:8080/chat/systemMessage
    ?question=退票


### function calling 退票
GET http://localhost:8080/chat/assistant
    ?memoryId=1&question=退票


### function calling 退票并输入订单号
GET http://localhost:8080/chat/assistant
    ?memoryId=1&question=退票,订单号=112345578