AzureOpenAIDocumentEmbedder
此组件计算文档列表的 embedding,并将获得的向量存储在每个文档的 embedding 字段中。它使用 Azure 认知服务对部署在 Azure 上的模型进行文本和文档 embedding。
| pipeline 中的最常见位置 | 在 DocumentWriter 之前 |
| 必需的初始化变量 | "api_key": Azure OpenAI API 密钥。可以通过以下方式设置环境变量 AZURE_OPENAI_API_KEY。"azure_endpoint": 部署在 Azure 上的模型的端点。 |
| 强制运行变量 | "documents": 文档列表 |
| 输出变量 | "documents": 文档列表(已添加 embedding) "meta": 元数据字典 |
| API 参考 | Embedders (嵌入器) |
| GitHub 链接 | https://github.com/deepset-ai/haystack/blob/main/haystack/components/embedders/azure_document_embedder.py |
概述
此组件计算的向量对于对文档集合执行 embedding 检索是必需的。在检索时,代表查询的向量将与文档的向量进行比较,以找到最相似或最相关的文档。
要查看兼容的 embedding 模型列表,请前往 Azure 文档。的默认模型AzureOpenAITextEmbedder 是text-embedding-ada-002.
此组件应用于 embedding 文档列表。要 embedding 一个字符串,您应该使用 AzureOpenAITextEmbedder。
要使用 Azure 组件,您将需要一个 Azure OpenAI API 密钥以及一个 Azure OpenAI 端点。您可以在 Azure 文档 中了解有关它们的更多信息。
该组件使用默认情况下使用 AZURE_OPENAI_API_KEY 或 AZURE_OPENAI_AD_TOKEN 环境变量。否则,您可以在初始化时传递api_key 或 azure_ad_token。
client = AzureOpenAIDocumentEmbedder(azure_endpoint="<Your Azure endpoint e.g. `https://your-company.azure.openai.com/>",
api_key=Secret.from_token("<your-api-key>"),
azure_deployment="<a model name>")
我们建议使用环境变量而不是初始化参数。
Embedding 元数据
文本文档通常附带一组元数据。如果它们具有辨识度和语义意义,您可以将它们与文档文本一起 embedding,以提高检索效果。
您可以通过使用 Document Embedder 轻松做到这一点
from haystack import Document
from haystack.components.embedders import AzureOpenAIDocumentEmbedder
doc = Document(content="some text",meta={"title": "relevant title", "page number": 18})
embedder = AzureOpenAIDocumentEmbedder(meta_fields_to_embed=["title"])
docs_w_embeddings = embedder.run(documents=[doc])["documents"]
用法
单独使用
from haystack import Document
from haystack.components.embedders import AzureOpenAIDocumentEmbedder
doc = Document(content="I love pizza!")
document_embedder = AzureOpenAIDocumentEmbedder()
result = document_embedder.run([doc])
print(result['documents'][0].embedding)
# [0.017020374536514282, -0.023255806416273117, ...]
在 pipeline 中
from haystack import Pipeline
from haystack.document_stores.in_memory import InMemoryDocumentStore
from haystack.components.embedders import AzureOpenAITextEmbedder, AzureOpenAIDocumentEmbedder
from haystack.components.writers import DocumentWriter
from haystack.components.retrievers.in_memory import InMemoryEmbeddingRetriever
document_store = InMemoryDocumentStore(embedding_similarity_function="cosine")
documents = [Document(content="My name is Wolfgang and I live in Berlin"),
Document(content="I saw a black horse running"),
Document(content="Germany has many big cities")]
indexing_pipeline = Pipeline()
indexing_pipeline.add_component("embedder", AzureOpenAIDocumentEmbedder())
indexing_pipeline.add_component("writer", DocumentWriter(document_store=document_store))
indexing_pipeline.connect("embedder", "writer")
indexing_pipeline.run({"embedder": {"documents": documents}})
query_pipeline = Pipeline()
query_pipeline.add_component("text_embedder", AzureOpenAITextEmbedder())
query_pipeline.add_component("retriever", InMemoryEmbeddingRetriever(document_store=document_store))
query_pipeline.connect("text_embedder.embedding", "retriever.query_embedding")
query = "Who lives in Berlin?"
result = query_pipeline.run({"text_embedder":{"text": query}})
print(result['retriever']['documents'][0])
# Document(id=..., mimetype: 'text/plain',
# text: 'My name is Wolfgang and I live in Berlin')
更新于 9 个月前
