一.實驗背景
當前文心一言和deepseek都開源了,二者都可以作為大模型應用開發的模型基礎了,我們都可以編寫springboot項目來集成deepseek和文心一言了
二.實驗目標
本文基于實際操作,通過實際操作來對比文心一言和deepseek在集成到springboot項目中的異同,并通過其各自的能力來對比分析二者的異同點,為便新手開發者集成大模型開發具體應用并提供實際的開發建議.
注:鑒于模型部署非同一臺硬件資源能力,故本文不對模型自身性能進行對比,只對比其集成到開發能力方便的便捷程度等
三.實驗環境
3.1 開發環境規劃
? 基于springboot 2.6.13,jdk11,maven 3.3.3
3.2 文心一言規劃
? A.版本:4.5系列。本文使用的具體版本是文心一言4.5 Turbo VL即ERNIE 4.5 Turbo VL
? B.調用方式:本文不做本地環境搭建,使用文心一言開發者賬號下官方部署的模型,通過賬號+sdk完成功能調用
? C.開發者平臺:文心一言開發者平臺
? ? ? https://console.bce.baidu.com/qianfan/modelcenter/model/buildIn/list
3.3 deepseek規劃
? A.版本:同樣
? B.調用方式:不做本地環境搭建,使用DeepSeek的官方網站(https://www.deepseek.com)提供的API密鑰或訪問令牌來調用其能力,使用okhttp調api方式
? C.開發者平臺?deepseek開發者平臺
3.4 實驗功能規劃
主要從開發流程,文檔完整度,開發sdk獲取便利度,開發方式,開發過程踩坑度,開發支持的功能,功能實現的表現等幾方面進行評估
四.環境準備
4.1.文心一言
版本:ERNIE 4.5 Turbo VL
? 創建文心一言開發者賬號,并注冊訪問令牌,并下載sdk(sdk可以使用maven,本文以maven為例)
先注冊登錄
??
進入頁面之后,選擇文心一言大模型4.5系列,本文按照ERNIE4.5 Turbo VL為例?
選中后,進入api文檔,連接:文心一言4.5 api?
?
可以看到調用api的接口文檔都在這里了。
我們調用api前需要進行安全認證,或者accesskey等。
創建apikey(子用戶底下進行創建)
參考:https://cloud.baidu.com/doc/qianfan-api/s/ym9chdsy5
這個訪問也是sdk方式訪問的憑證,所以先生成,sdk直接使用maven進行下載后配置使用即可
?選擇中間下面的藍色按鈕:創建子賬戶,通過子賬戶訪問文心一言4.5官方模型
按步驟操作后獲取訪問的key,并下載到本地。供后續項目中配置使用?。
有了訪問key,還需要域名:
https://qianfan.baidubce.com
?就可以到springboot中配置sdk了
創建應用appid
操作連接:https://console.bce.baidu.com/ai-engine/speech/overview/index
文心一言的環境準備到此告一段落,下面開始準備deepseek的。?
具體文檔參考地址:https://cloud.baidu.com/doc/qianfan-api/s/ym9chdsy5
4.2. deepseek
版本:DeepSeek-R1?
創建deepseek賬號,并注冊訪問令牌,并下載sdk(sdk可以使用maven,本文以maven為例)
登錄注冊,地址:deepseek開發平臺
需要進行驗證郵箱,提供郵箱,點擊驗證碼之后,在郵箱獲取驗證碼后再進行校驗
獲取訪問accesskey
?將此key拷貝,備用,這個就是項目中配置的訪問key。對應的訪問域名使用
獲取對應的域名:https://platform.deepseek.com/?
到此步驟,deepseek的環境準備基本結束,可以在項目里配置api域名,訪問key了。
五.實驗步驟
5.1.創建springboot項目
? ?項目使用maven進行包管理。為了方便,本文簡述步驟。通過簡單的頁面訪問
選擇模塊
初始項目??
對項目jdk,maven環境進行配置,本文略過
保證可正常打包
項目正常啟動
?
5.2 集成文心一言?ERNIE 4.5 Turbo VL
版本:ERNIE 4.5 Turbo VL
5.2.1? pom文件增加依賴
<!-- 文心一言 SDK --><dependency><groupId>com.baidu.aip</groupId><artifactId>java-sdk</artifactId><version>4.16.1</version> <!-- 使用最新版本 --></dependency>
5.2.2 創建類,配置文件,controller,service類,并編寫代碼;創建html文件用來演示操作
config文件
package globalfairy.top.wenxinyiyandeepseekdemo.demos.web.config;import com.baidu.aip.imageclassify.AipImageClassify;
import com.baidu.aip.imagesearch.AipImageSearch;
import com.baidu.aip.nlp.AipNlp;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;@Configuration
public class ErnieConfig {@Value("${ernie.app-id}")private String APP_ID;@Value("${ernie.api-key}")private String API_KEY;@Value("${ernie.secret-key}")private String SECRET_KEY;@Beanpublic AipImageClassify ernieClient() {return new AipImageClassify(APP_ID,API_KEY, SECRET_KEY);}@Beanpublic AipNlp ernieNlpClient() {return new AipNlp(APP_ID,API_KEY, SECRET_KEY);}@Beanpublic AipImageSearch AipImageSearchClient() {AipImageSearch client = new AipImageSearch(APP_ID,API_KEY, SECRET_KEY);return client;}}
處理文本的核心客戶端類:
@Bean
? ? public AipNlp ernieNlpClient() {
? ? ? ? return new AipNlp(APP_ID,API_KEY, SECRET_KEY);
? ? }
?處理圖片的核心客戶端類
@Bean
? ? public AipImageSearch AipImageSearchClient() {
? ? ? ? AipImageSearch client = new AipImageSearch(APP_ID,API_KEY, SECRET_KEY);
? ? ? ? return client;
? ? }
?controller
package globalfairy.top.wenxinyiyandeepseekdemo.demos.web.controller;import globalfairy.top.wenxinyiyandeepseekdemo.demos.web.service.ErnieService;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;import javax.annotation.Resource;
import java.util.Collections;
import java.util.Map;@RestController
@RequestMapping("/api/ernie")
public class ErnieController {@Resourceprivate ErnieService ernieServiceImpl;@PostMapping("/generate")public Map<String, String> generateText(@RequestBody Map<String, String> request) {String prompt = request.get("prompt");String result = ernieServiceImpl.generateText(prompt);return Collections.singletonMap("result", result);}
}
?serviceimpl
package globalfairy.top.wenxinyiyandeepseekdemo.demos.web.service.impl;import com.baidu.aip.imageclassify.AipImageClassify;
import com.baidu.aip.nlp.AipNlp;
import globalfairy.top.wenxinyiyandeepseekdemo.demos.web.service.ErnieService;
import org.json.JSONObject;
import org.springframework.stereotype.Service;import javax.annotation.Resource;
import java.util.HashMap;@Service
public class ErnieServiceImpl implements ErnieService {@Resourceprivate AipNlp client;@Overridepublic String generateText(String prompt) {try {// 文心一言文本生成調用JSONObject response = client.dnnlmCn(prompt, new HashMap<>());return response.toString(2); // 返回格式化JSON} catch (Exception e) {throw new RuntimeException("文心一言調用失敗", e);}}
}
service接口:?
package globalfairy.top.wenxinyiyandeepseekdemo.demos.web.service;public interface ErnieService {String generateText(String prompt);
}
頁面:?
<!DOCTYPE html>
<html lang="zh">
<head><meta charset="UTF-8"><meta name="viewport" content="width=device-width, initial-scale=1.0"><title>DeepSeek 聊天</title><style>body {font-family: Arial, sans-serif;margin: 20px;background-color: #f9f9f9;}h1 {text-align: center;color: #333;}.chat-container {display: flex;flex-direction: column;align-items: center;border: 1px solid #ccc;border-radius: 8px;padding: 20px;background-color: #ffffff;box-shadow: 0 2px 10px rgba(0, 0, 0, 0.1);}#messages {margin-top: 20px;border: 1px solid #ccc;border-radius: 5px;padding: 10px;max-height: 400px;overflow-y: auto;width: 100%;background-color: #f1f1f1;box-shadow: inset 0 1px 3px rgba(0, 0, 0, 0.1);display: flex;flex-direction: column;gap: 10px; /* 使用 gap 來增加消息之間的間距 */}.message {padding: 10px;border-radius: 5px;max-width: 80%;white-space: normal; /* 允許正常換行 */word-wrap: break-word; /* 長單詞換行 */overflow-wrap: break-word; /* 長單詞換行 */background: #c8e6c9; /* 默認背景色 */display: inline-block; /* 使用 inline-block 以保持其流動性 */}.user-message {background-color: #e1f5fe;align-self: flex-end;text-align: right;border: 1px solid #b3e5fc;}.response-message {align-self: flex-start;text-align: left;border: 1px solid #a5d6a7;}input[type="text"] {padding: 10px;width: 70%;border-radius: 5px;border: 1px solid #ccc;margin-right: 10px;}button {padding: 10px 15px;border-radius: 5px;border: none;background-color: #007bff;color: white;cursor: pointer;transition: background-color 0.3s;}button:hover {background-color: #0056b3;}.loading {color: #ff9800;font-weight: bold;text-align: center;}</style>
</head>
<body>
<div class="chat-container"><h1>聊天流</h1><div><input type="text" id="prompt" placeholder="輸入您的消息" /><button id="start">開始聊天</button></div><div id="messages"></div>
</div><script>let eventSource;document.getElementById('start').addEventListener('click', function() {const prompt = document.getElementById('prompt').value;if (!prompt) {alert("請輸入消息。");return;}if (eventSource) {eventSource.close(); // 關閉之前的連接}// 清空輸入框document.getElementById('prompt').value = '';// 添加加載狀態const messageDiv = document.getElementById('messages');messageDiv.innerHTML += '<span class="loading">加載中...</span>';eventSource = new EventSource(`/api/events?prompt=${encodeURIComponent(prompt)}`);eventSource.onmessage = function(event) {const data = JSON.parse(event.data); // 假設返回的是 JSON 格式const messageDiv = document.getElementById('messages');const responseMessage = document.createElement('span'); // 使用 span 而非 divresponseMessage.classList.add('message', 'response-message');responseMessage.textContent = data.response;messageDiv.appendChild(responseMessage);messageDiv.scrollTop = messageDiv.scrollHeight; // 滾動到最新消息};eventSource.onerror = function(err) {// 僅在連接意外關閉時顯示錯誤if (eventSource.readyState === EventSource.OPEN) {console.error("EventSource 連接失敗:", err);const messageDiv = document.getElementById('messages');const errorMessage = document.createElement('span'); // 使用 span 而非 diverrorMessage.classList.add('message', 'error-message');errorMessage.textContent = '連接時出現錯誤。';messageDiv.appendChild(errorMessage);}eventSource.close(); // 關閉連接};// 監聽連接關閉事件eventSource.onclose = function() {console.log("EventSource 連接已關閉");};});
</script>
</body>
</html>
?訪問并測試:
https://localhost:8443/
經調試 改為文本調用之后:
package globalfairy.top.wenxinyiyandeepseekdemo.demos.web.service.impl;import com.baidu.aip.imageclassify.AipImageClassify;
import com.baidu.aip.nlp.AipNlp;
import globalfairy.top.wenxinyiyandeepseekdemo.demos.web.service.ErnieService;
import org.json.JSONObject;
import org.springframework.stereotype.Service;import javax.annotation.Resource;
import java.util.HashMap;@Service
public class ErnieServiceImpl implements ErnieService {@Resourceprivate AipNlp client;@Overridepublic String generateText(String prompt) {try {// 文心一言文本生成調用JSONObject response = client.dnnlmCn(prompt, new HashMap<>());return response.toString(2); // 返回格式化JSON} catch (Exception e) {throw new RuntimeException("文心一言調用失敗", e);}}
}
仍然報錯:
可以看到提示非常清楚,針對性進行優化。
5.3 集成 deepseek?
5.3.1pom
<dependency><groupId>com.squareup.okhttp3</groupId><artifactId>okhttp</artifactId><version>3.14.9</version></dependency>
5.3.2
package com.globalfairy.dsweb.demos.web.config;import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.http.HttpHeaders;
import org.springframework.http.MediaType;
import org.springframework.http.client.reactive.ReactorClientHttpConnector;
import org.springframework.web.reactive.function.client.WebClient;
import reactor.netty.http.client.HttpClient;import java.time.Duration;@Configuration
public class AIClientConfig {// 讀取配置參數@Value("${deepseek.api.url:http://localhost:11434/api/generate}")private String apiUrl;@Value("${deepseek.api.key:}")private String apiKey;@Beanpublic WebClient deepseekWebClient() {return WebClient.builder().baseUrl(apiUrl).defaultHeader(HttpHeaders.CONTENT_TYPE, MediaType.APPLICATION_JSON_VALUE).defaultHeader("Authorization", "Bearer " + apiKey) // 認證頭.clientConnector(new ReactorClientHttpConnector(HttpClient.create().responseTimeout(Duration.ofSeconds(60)) // 模型響應需要較長時間)).build();}
}
5.3.3
package com.globalfairy.dsweb.demos.web.config;import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.http.client.SimpleClientHttpRequestFactory;
import org.springframework.web.client.RestTemplate;@Configuration
public class RestTemplateConfig {@Beanpublic RestTemplate restTemplate() {SimpleClientHttpRequestFactory factory = new SimpleClientHttpRequestFactory();factory.setConnectTimeout(5000); // 5秒連接超時factory.setReadTimeout(60000); // 60秒讀取超時return new RestTemplate(factory);}
}
5.3.3
package com.globalfairy.dsweb.demos.web.service;import com.globalfairy.dsweb.demos.web.bean.CompletionRequest;
import com.globalfairy.dsweb.demos.web.bean.CompletionResponse;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Service;
import org.springframework.web.reactive.function.client.WebClient;
import reactor.core.publisher.Flux;import java.time.Duration;@Service
@Slf4j
public class DeepSeekService {private final WebClient webClient;public DeepSeekService(WebClient deepseekWebClient) {this.webClient = deepseekWebClient;}// 普通請求public CompletionResponse generateSync(String prompt) {return webClient.post().bodyValue(CompletionRequest.builder().model("deepseek").prompt(prompt).temperature(0.7).max_tokens(2000).build()).retrieve().bodyToMono(CompletionResponse.class).block();}// 流式響應處理public Flux<String> generateStream(String prompt) {return webClient.post().bodyValue(CompletionRequest.builder().model("deepseek-r1:1.5B").prompt(prompt).stream(true).max_tokens(50).build()).retrieve().bodyToFlux(String.class).timeout(Duration.ofMinutes(5)) // 長時對話場景.onErrorResume(e -> {log.error("API調用異常", e);return Flux.just("服務暫時不可用");});}
}
?5.3.5頁面
<!DOCTYPE html>
<html lang="zh">
<head><meta charset="UTF-8"><meta name="viewport" content="width=device-width, initial-scale=1.0"><title>DeepSeek 聊天</title><style>body {font-family: Arial, sans-serif;margin: 20px;background-color: #f9f9f9;}h1 {text-align: center;color: #333;}.chat-container {display: flex;flex-direction: column;align-items: center;border: 1px solid #ccc;border-radius: 8px;padding: 20px;background-color: #ffffff;box-shadow: 0 2px 10px rgba(0, 0, 0, 0.1);}#messages {margin-top: 20px;border: 1px solid #ccc;border-radius: 5px;padding: 10px;max-height: 400px;overflow-y: auto;width: 100%;background-color: #f1f1f1;box-shadow: inset 0 1px 3px rgba(0, 0, 0, 0.1);display: flex;flex-direction: column;gap: 10px; /* 使用 gap 來增加消息之間的間距 */}.message {padding: 10px;border-radius: 5px;max-width: 80%;white-space: normal; /* 允許正常換行 */word-wrap: break-word; /* 長單詞換行 */overflow-wrap: break-word; /* 長單詞換行 */background: #c8e6c9; /* 默認背景色 */display: inline-block; /* 使用 inline-block 以保持其流動性 */}.user-message {background-color: #e1f5fe;align-self: flex-end;text-align: right;border: 1px solid #b3e5fc;}.response-message {align-self: flex-start;text-align: left;border: 1px solid #a5d6a7;}input[type="text"] {padding: 10px;width: 70%;border-radius: 5px;border: 1px solid #ccc;margin-right: 10px;}button {padding: 10px 15px;border-radius: 5px;border: none;background-color: #007bff;color: white;cursor: pointer;transition: background-color 0.3s;}button:hover {background-color: #0056b3;}.loading {color: #ff9800;font-weight: bold;text-align: center;}</style>
</head>
<body>
<div class="chat-container"><h1>聊天流</h1><div><input type="text" id="prompt" placeholder="輸入您的消息" /><button id="start">開始聊天</button></div><div id="messages"></div>
</div><script>let eventSource;document.getElementById('start').addEventListener('click', function() {const prompt = document.getElementById('prompt').value;if (!prompt) {alert("請輸入消息。");return;}if (eventSource) {eventSource.close(); // 關閉之前的連接}// 清空輸入框document.getElementById('prompt').value = '';// 添加加載狀態const messageDiv = document.getElementById('messages');messageDiv.innerHTML += '<span class="loading">加載中...</span>';eventSource = new EventSource(`/api/events?prompt=${encodeURIComponent(prompt)}`);eventSource.onmessage = function(event) {const data = JSON.parse(event.data); // 假設返回的是 JSON 格式const messageDiv = document.getElementById('messages');const responseMessage = document.createElement('span'); // 使用 span 而非 divresponseMessage.classList.add('message', 'response-message');responseMessage.textContent = data.response;messageDiv.appendChild(responseMessage);messageDiv.scrollTop = messageDiv.scrollHeight; // 滾動到最新消息};eventSource.onerror = function(err) {// 僅在連接意外關閉時顯示錯誤if (eventSource.readyState === EventSource.OPEN) {console.error("EventSource 連接失敗:", err);const messageDiv = document.getElementById('messages');const errorMessage = document.createElement('span'); // 使用 span 而非 diverrorMessage.classList.add('message', 'error-message');errorMessage.textContent = '連接時出現錯誤。';messageDiv.appendChild(errorMessage);}eventSource.close(); // 關閉連接};// 監聽連接關閉事件eventSource.onclose = function() {console.log("EventSource 連接已關閉");};});
</script>
</body>
</html>
六.結論
兩者在開發流程,文檔完整度,開發sdk獲取便利度,開發方式上基本上區別不大。
不過文心一言開發過程在驗權上要復雜不少,如果能更簡潔就更好了?
起來輕松玩轉文心大模型吧一文心大模型免費下載地址:https://ai.gitcode.com/theme/1939325484087291906