環境說明
springboot 應用使用dashscope-sdk-java對接阿里百練 deepseek v3模型
問題表現
已經指定了輸出json格式,但指令不明確,輸出JSON格式的寫法如下
注:提示詞一開始是能正常功能的,但過了幾天就出現了異常,原因是在線大模型在不斷的升級與進化
5. 輸出內容的模式如下(json格式輸出)
com.fasterxml.jackson.core.JsonParseException: Unexpected character ('`' (code 96)): expected a valid value (JSON String, Number, Array, Object or token 'null', 'true' or 'false')
解析響應的數據出現異常:
LLM返回的數據,JSON字符中前后加了```
問題原因
解決方案
1、跟大模型交互的代碼做兼容處理,代碼層面去掉 ```
2、調整跟大模型的提示詞,明確提示輸出純JSON結構,不需要加“戲”
如下為調試成功的效果
目前平臺,阿里云百練 deepseek v3模式:
以純 JSON 格式返回,不要輸出 ```json```代碼段