聊天模型和嵌入模型使用不同的供应商

This commit is contained in:
thinkgem
2025-10-16 10:56:29 +08:00
parent 45482a9ae7
commit 317294ed64

View File

@@ -13,23 +13,41 @@ spring:
# 在线大模型【请在 pom.xml 中打开 openai 的注释,并注释上其它模型】 # 在线大模型【请在 pom.xml 中打开 openai 的注释,并注释上其它模型】
openai: openai:
# 硅基流动 # 聊天对话模型使用阿里百炼
base-url: https://api.siliconflow.cn
api-key: ${SFLOW_APP_KEY}
# 聊天对话模型
chat: chat:
base-url: https://dashscope.aliyuncs.com/compatible-mode
api-key: ${BAILIAN_APP_KEY}
options: options:
model: deepseek-ai/DeepSeek-R1-Distill-Qwen-7B model: deepseek-r1-distill-llama-8b
max-tokens: 1024 max-tokens: 1024
temperature: 0.6 temperature: 0.6
top-p: 0.9 top-p: 0.7
frequency-penalty: 0 frequency-penalty: 0
# 向量库知识库模型(注意:不同的模型维度不同) # 嵌入向量模型使用硅基流动
embedding: embedding:
base-url: https://api.siliconflow.cn
api-key: ${SFLOW_APP_KEY}
options: options:
model: BAAI/bge-m3 model: BAAI/bge-m3
dimensions: 512 dimensions: 512
# # 硅基流动
# base-url: https://api.siliconflow.cn
# api-key: ${SFLOW_APP_KEY}
# # 聊天对话模型
# chat:
# options:
# model: deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
# max-tokens: 1024
# temperature: 0.6
# top-p: 0.9
# frequency-penalty: 0
# # 向量库知识库模型(注意:不同的模型维度不同)
# embedding:
# options:
# model: BAAI/bge-m3
# dimensions: 512
# # 模力方舟 # # 模力方舟
# base-url: https://ai.gitee.com # base-url: https://ai.gitee.com
# api-key: ${GITEE_APP_KEY} # api-key: ${GITEE_APP_KEY}
@@ -41,7 +59,6 @@ spring:
# temperature: 0.6 # temperature: 0.6
# top-p: 0.9 # top-p: 0.9
# frequency-penalty: 0 # frequency-penalty: 0
# #logprobs: true
# # 向量库知识库模型(注意:不同的模型维度不同) # # 向量库知识库模型(注意:不同的模型维度不同)
# embedding: # embedding:
# options: # options:
@@ -59,7 +76,6 @@ spring:
# temperature: 0.6 # temperature: 0.6
# top-p: 0.9 # top-p: 0.9
# frequency-penalty: 0 # frequency-penalty: 0
# #logprobs: true
# # 向量库知识库模型(注意:不同的模型维度不同) # # 向量库知识库模型(注意:不同的模型维度不同)
# embedding: # embedding:
# options: # options: