Spring boot集成通義千問大模型
背景
我在用idea進行java開發時發現了通義靈碼這款免費的智能代碼補全插件，用了一段時間了，感覺很不錯。就想著在自己的項目中也能集成通義千問大模型實現智能回答，畢竟對接openai需要解決網絡問題，這個問題是真煩。
開通阿里云賬號
訪問阿里云官網，如果沒注冊就注冊登錄進去，然后搜索通義千問。
如果你之前還沒有開通，就點擊立即開通，開通是免費的，無腦操作就行。開通之后，進入產品控制臺
可以看到，每期都有一定的免費額度，對于個人來說肯定是夠了。當然對于第一次進來的人，是看不到這個信息，你還需要申請api_key，操作過程如下
再之后，我們可以點擊文檔中心，查看具體集成過程了。
我們進入操作指南下的模型體驗中心，進入頁面點擊通義千問API詳情，這里就有具體的api和java代碼的操作方式。
代碼實操
引入maven依賴
java無論用什么第三方功能，第一步就是引入依賴。
<!-- 對接通義千問大模型 --><dependency><groupId>com.alibaba</groupId><artifactId>dashscope-sdk-java</artifactId><version>2.14.4</version></dependency>
配置api_key
把key配置到yml中，按官方的意思，key應該放環境變量中，我這只是演示，就直接放這里了，要是生產環境使用，要放環境變量中，或者在配置中加密保存。
# 通義千問的apikey
ai:api_key: sk-************
代碼實現
我就在controller層實現對話功能，代碼如下
package org.syx.dts.controller;import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.syx.dts.dto.Dto;import java.util.Arrays;@RestController
@RequestMapping("chat")
@Slf4j
public class ChatController {@Value("${ai.api_key}")private String apiKey;@PostMapping("ask")public String ask(@RequestBody Dto dto) throws Exception {Generation generation = new Generation();Message userMessage = Message.builder().role(Role.USER.getValue()).content(dto.getAsk()).build();GenerationParam param = GenerationParam.builder().model("qwen-turbo").messages(Arrays.asList(userMessage)).resultFormat(GenerationParam.ResultFormat.MESSAGE).topP(0.8).apiKey(apiKey).enableSearch(true).build();GenerationResult generationResult =generation.call(param);;return generationResult.getOutput().getChoices().get(0).getMessage().getContent();}}前端代碼
<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/TR/html4/loose.dtd">
<html xmlns:th="http://www.thymeleaf.org"><head><title>aaaaa</title><meta http-equiv="Content-Type" content="text/html; charset=UTF-8"><link rel="stylesheet" type="text/css"th:href="@{/css/style.css}" /><script src="https://apps.bdimg.com/libs/jquery/2.1.4/jquery.min.js"></script></head><body><div id="wrap"><div id="top_content"><div id="header"><div id="rightheader"><p>2024/07/20<br /></p></div><div id="topheader"><h1 id="title"><a href="#">aaaa</a></h1></div><div id="navigation"></div></div><div id="content"><p id="whereami"></p><h1>大模型:</h1>條件: <input id="query_name" type="text" name="ask" /><input type="button" class="button" id="query_submit" value="查詢" /><br><textarea rows="20" cols="100" id="response" name="response" readonly="readonly"></textarea><p><a href="employee/lists">返回列表</a></p><script>$(function(){$('#query_submit').click(function(){var ask = $('#query_name').val();$.ajax({url: '[[@{/chat/ask}]]',type: 'POST',contentType: 'application/json',data: JSON.stringify({ask:ask}),success: function(data) {$('#response').val(data);},error: function(data) {$('#response').val(data);}});});});</script></div></div><div id="footer"><div id="footer_bg">aaaaa.com</div></div></div></body>
</html>效果展示
總結
總體集成過程還是比較簡單的，官方文檔也是很充實的，更多高級功能，后面再探索吧。
