LLMs API Gateway Docs
AI Relay Station: Unified API Development Guide for Large Language Models
快速接入BurnCloud API（必看）
本文涉及到接入Burncloud API用到的两个关键变量，接入端点 $Burncloud_API_BaseUrl 和密钥 $Burncloud_API_KEY ，请务必花1分钟过一眼，看看如...
聊天 Chat
OpenAI 对话格式 （Chat Completions）
官方文档 OpenAI Chat 📝 简介 给定一组包含对话的消息列表，模型将返回一个响应。相关指南可参阅OpenAI官网：Chat Completions 💡 请求示例 基础文本对话 ✅ ...
OpenAI 响应格式（Responses）
官方文档 OpenAI Responses 📝 简介 OpenAI 最先进的模型响应接口。支持文本和图像输入，以及文本输出。创建与模型的有状态交互，将先前响应的输出用作输入。通过文件搜索、网...
Anthropic 对话格式（Messages）
官方文档 Anthropic Messages Anthropic Streaming Messages 📝 简介 给定一组包含文本和/或图像内容的结构化输入消息列表，模型将生成对话中的下一...
Deepseek reasoning 对话格式（Reasoning Content）
官方文档 推理模型 (deepseek-reasoner) 📝 简介 Deepseek-reasoner 是 DeepSeek 推出的推理模型。在输出最终回答之前，模型会先输出一段思维链内容...
Google Gemini 对话格式（Generate Content）
官方文档 Google Gemini Generating content API 📝 简介 Google Gemini API 支持使用图片、音频、代码、工具等生成内容。给定输入 Gene...
嵌入 Embeddings
重排序 Rerank
Jina AI 重排序格式（Rerank）
官方文档 Jina AI Rerank 标准格式 在New API中，Jina AI的rerank格式被采用为标准格式。所有其他供应商（如Xinference、Cohere等）的rerank...
Cohere 重排序格式（Rerank）
重要提示 cohere 的 Rerank 模型接口和 Jina的Rerank模型接口格式 是一样的。 官方文档 Cohere Rerank 📝 简介 给定查询和文本列表，重排序API将根据与...
Xinference 重排序格式（Rerank）
重要提示 在New API中，Xinference的rerank响应结构将被格式化为Jina的rerank响应结构，使用方式和Jina的rerank相同。对于Dify等客户端用户：在配置时请选择...