【AI】聯網模式
文章目錄
- 【AI】聯網模式
- 1. 簡介
- 2. 接入步驟
- 2.1 引入依賴
- 2.2 方法構建
- 2.3 接口構建
1. 簡介
在使用聯網模式之前,我們如果問起ai一些最近網絡上流傳的一些東西,它可能并不能準確的給你描述出來,因為它的知識庫更新時間可能停留在之前,比如我問它一個比較新鮮的話題如下:
它給我的回答是并不知道這部具體的電影及其票房,接下來是開啟聯網模式后的回應:
可以看到開啟聯網模式后AI的回答很詳細,包括它具體的上下架時間與票房金額。
對此,如果我們需要AI的回答結合上互聯網最近的一些信息或者參考資料來作為補充,我們就需要開啟聯網模式~
2. 接入步驟
2.1 引入依賴
目前聯網模式java并不支持直接調用,需要通過SDK進行調用,所以需要引入依賴如下:
<dependency><groupId>com.alibaba</groupId><artifactId>dashscope-sdk-java</artifactId><version>2.20.8</version>
</dependency>
注:這里的版本建議在2.18以上,后續引入的其它技術需要這個版本以上才能支持
2.2 方法構建
【官網鏈接】:大模型服務平臺百煉控制臺
開啟聯網模式主要是開啟一個字段:enable_search
,官網的講解如下:
我們通過java代碼將其封裝成一個方法,通過用戶傳入prompt提問并將回復直接返回:
private String searchModel(String message) throws NoApiKeyException, InputRequiredException {Generation gen = new GenerationMessage userMsg = Message.builder().role(Role.USER.getValue()).content(message).build();GenerationParam param = GenerationParam.builder()// 若沒有配置環境變量,請用百煉API Key將下行替換為:.apiKey("sk-xxx").apiKey(System.getenv("DASH_SCOPE_API_KEY")) // 這里替換為自己部署的api-key變量// 此處以qwen-plus為例,可按需更換模型名稱。// 模型列表:https://help.aliyun.com/zh/model-studio/getting-started/models.model("qwen-plus").messages(Arrays.asList(userMsg)).resultFormat(GenerationParam.ResultFormat.MESSAGE).enableSearch(true) // 關鍵在此,開啟聯網模式.build( // 將AI回復內容提取出來return gen.call(param).getOutput().getChoices().get(0).getMessage().getContent();
}
2.3 接口構建
構建接口如下:
@GetMapping("/chat")
public String model(@RequestParam(value = "message", defaultValue = "Hello") String message) throws NoApiKeyException, InputRequiredException {String chat = searchModel(message);return chat;
}
執行結果如下:
完成上述步驟聯網模式就能正式被啟用了!!
以上便是對聯網模式的介紹與使用了,如果上述內容對大家有幫助的話請給一個三連關注吧💕( ?? ω ?? )??