Generators (生成器) - Haystack 文档

生成器	描述	流式支持
AmazonBedrockChatGenerator	通过 Amazon Bedrock 服务启用使用模型的聊天补全。	✅
AmazonBedrockGenerator	通过 Amazon Bedrock 服务启用使用模型的文本生成。	✅
AnthropicChatGenerator	此组件支持使用 Anthropic 大型语言模型 (LLM) 进行聊天补全。	✅
AnthropicVertexChatGenerator	此组件支持使用 AnthropicVertex API 进行聊天补全。	✅
AnthropicGenerator	此组件支持使用 Anthropic 大型语言模型 (LLM) 进行文本补全。	✅
AzureOpenAIChatGenerator	通过 Azure 服务启用使用 OpenAI 的 LLM 进行聊天补全。	✅
AzureOpenAIGenerator	通过 Azure 服务启用使用 OpenAI 的 LLM 进行文本生成。	✅
CohereChatGenerator	启用使用 Cohere 的 LLM 进行聊天补全。	✅
CohereGenerator	使用 Cohere API 查询 LLM。	✅
GoogleAIGeminiChatGenerator	启用使用 Google Gemini 模型进行聊天补全。*此集成即将弃用。我们建议改用 GoogleGenAIChatGenerator 集成。*	✅
GoogleAIGeminiGenerator	启用使用 Google Gemini 模型进行文本生成。*此集成即将弃用。我们建议改用 GoogleGenAIChatGenerator 集成。*	✅
GoogleGenAIChatGenerator	通过 Google Gen AI SDK 启用使用 Google Gemini 模型进行聊天补全。	✅
HuggingFaceAPIChatGenerator	通过各种 Hugging Face API 启用使用文本生成。	✅
HuggingFaceAPIGenerator	通过各种 Hugging Face API 启用使用文本生成。	✅
HuggingFaceLocalChatGenerator	提供一个接口，用于使用在本地运行的 Hugging Face 模型进行聊天补全。	✅
HuggingFaceLocalGenerator	提供一个接口，用于使用在本地运行的 Hugging Face 模型生成文本。	✅
LlamaCppChatGenerator	启用使用 Llama.cpp 上运行的 LLM 进行聊天补全。	❌
LlamaCppGenerator	使用 Llama.cpp 运行的 LLM 生成文本。	❌
LlamaStackChatGenerator	启用使用 Llama Stack 服务器提供的 LLM 进行聊天补全	✅
MetaLlamaChatGenerator	启用使用 Meta Llama API 提供的任何托管模型进行聊天补全。	✅
MistralChatGenerator	启用使用 Mistral 的文本生成模型进行聊天补全。	✅
NvidiaChatGenerator	启用使用 Nvidia 托管模型进行聊天补全。	✅
NvidiaGenerator	提供一个接口，用于使用通过 NVIDIA NIM 自行托管的 LLM 或 NVIDIA API catalog 上托管的模型进行文本生成。	❌
OllamaChatGenerator	启用使用 Ollama 上运行的 LLM 进行聊天补全。	✅
OllamaGenerator	提供一个接口，用于使用 Ollama 上运行的 LLM 生成文本。	✅
OpenAIChatGenerator	启用使用 OpenAI 的大型语言模型 (LLM) 进行聊天补全。	✅
OpenAIGenerator	启用使用 OpenAI 的大型语言模型 (LLM) 进行文本生成。	✅
OpenRouterChatGenerator	启用使用 OpenRouter 上托管的任何模型进行聊天补全。	✅
SagemakerGenerator	启用使用部署在 Amazon Sagemaker 上的 LLM 进行文本生成。	❌
STACKITChatGenerator	启用使用 STACKIT API 进行聊天补全。	✅
VertexAICodeGenerator	启用使用 Google Vertex AI 生成模型进行代码生成。	❌
VertexAIGeminiChatGenerator	通过 GCP Vertex AI 使用 Google Gemini 模型进行聊天补全。*此集成即将弃用。我们建议改用 GoogleGenAIChatGenerator 集成。*	✅
VertexAIGeminiGenerator	通过 GCP Vertex AI 使用 Google Gemini 模型进行文本生成。*此集成即将弃用。我们建议改用 GoogleGenAIChatGenerator 集成。*	✅
VertexAIImageCaptioner	通过 Google Vertex AI 进行文本生成`imagetext` 生成模型。	❌
VertexAIImageGenerator	启用使用 Google Vertex AI 生成模型进行图像生成。	❌
VertexAIImageQA	启用使用 Google Vertex AI 生成模型进行文本生成（图像字幕）。	❌
VertexAITextGenerator	启用使用 Google Vertex AI 生成模型进行文本生成。	❌
WatsonxGenerator	启用使用 IBM Watsonx 模型进行文本生成。	✅
WatsonxChatGenerator	启用使用 IBM Watsonx 模型进行聊天补全。	✅