Skip to content

面向外部系统集成的语言模型服务,提供基于用户查询生成相关回答的能力。

License

Notifications You must be signed in to change notification settings

Yuuine/rag-inference

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

4 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

RAG 推理服务

面向外部系统集成的语言模型服务,提供基于用户查询生成相关回答的能力。

核心功能

  • 推理服务:基于用户查询生成相关回答
  • 灵活配置:支持自定义模型参数和超时设置

环境要求

配置说明

在 application.yaml 中配置 DeepSeek 参数:

deepseek: api-key: base-url: https://api.deepseek.com/v1  model: deepseek-chat  temperature: 0.7 max-tokens: 1024 timeout-seconds: 120

接口文档

完整 API 说明请参阅:API 文档

致谢

About

面向外部系统集成的语言模型服务,提供基于用户查询生成相关回答的能力。

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages