LLMConfig
LLMConfig 类定义 LLM 调用和记忆管理的配置参数。
属性
require_tools(bool):默认False。是否强制每次调用至少使用一个工具memory_length_limit(int):默认50。记忆上下文中的最大消息数max_tokens(int):默认1000。单次响应中生成的最大 token 数tokens_count_mode(Literal["word", "bpe", "char"]):默认"bpe"。token 计数模式enable_tokens_limit(bool):默认True。是否启用上下文长度限制session_tokens_windows(int):默认5000。会话 token 窗口大小llm_timeout(int):默认60。API 请求超时时间(秒)auto_retry(bool):默认True。请求失败时自动重试max_retries(int):默认3。最大重试次数max_fallbacks(int):默认5。最大预设回退次数enable_memory_abstract(bool):默认True。是否启用上下文记忆摘要memory_abstract_proportion(float):默认0.5。上下文摘要比例(0.5 = 50%)enable_multi_modal(bool):默认True。是否启用多模态支持
示例
python
from amrita_core.config import LLMConfig
llm_config = LLMConfig(
enable_memory_abstract=True,
memory_abstract_proportion=0.15,
)