connectors.haystack_llm_connector

Haystack LLM 连接器模块 - 提供与Haystack框架集成的LLM接口 此模块保持向后兼容性，但建议使用新的LLMFactory

Classes

ConnectorChatGenerator(*args, **kwargs)	Expose the existing provider-neutral generate contract to Haystack.
HaystackLLMConnector(api_key[, model, ...])	Haystack LLM 连接器
HaystackLLMFactory()	Haystack LLM工厂类，创建Haystack LLM连接器

class connectors.haystack_llm_connector.HaystackLLMConnector(api_key, model='gpt-3.5-turbo', api_base_url='https://api.openai.com/v1', timeout=60, streaming_callback=None, parameters=None)

Bases: BaseLLMConnector

Haystack LLM 连接器

__init__(api_key, model='gpt-3.5-turbo', api_base_url='https://api.openai.com/v1', timeout=60, streaming_callback=None, parameters=None)

初始化Haystack LLM连接器 (向后兼容)

Parameters:

• api_key (str) – OpenAI API密钥

• model (str) – 模型名称，默认为”gpt-3.5-turbo”

• api_base_url (str) – API基础URL，默认为``https://api.openai.com/v1``

• timeout (int) – 请求超时时间(秒)，默认为60

• streaming_callback (callable, optional) – 用于流式响应的回调函数

• parameters (dict, optional) – LLM参数，如temperature、max_tokens等

generate(messages, generation_kwargs=None)

生成对话响应

Parameters:

• messages (list) – 消息列表，格式为[{“role”: “user”, “content”: “消息内容”}]

• generation_kwargs (dict, optional) – 生成参数，覆盖默认参数

Returns:

生成结果

Return type:

dict

update_parameters(parameters)

更新LLM参数

Parameters:

parameters (dict) – 新的LLM参数

set_model(model)

设置模型

Parameters:

model (str) – 模型名称

class connectors.haystack_llm_connector.HaystackLLMFactory

Bases: object

Haystack LLM工厂类，创建Haystack LLM连接器

static create_connector(config, streaming_callback=None)

创建Haystack LLM连接器

Parameters:

• config (dict) – LLM配置

• streaming_callback (callable, optional) – 用于流式响应的回调函数

Returns:

Haystack LLM连接器实例

Return type:

HaystackLLMConnector

class connectors.haystack_llm_connector.ConnectorChatGenerator(*args, **kwargs)

Bases: object

Expose the existing provider-neutral generate contract to Haystack.

__init__(connector)

run(messages, generation_kwargs=None)