AI代理的
上下文工程

from langchain.chat_models import ChatOpenAI
from langchain.memory import ConversationBufferMemory
from langchain.prompts import PromptTemplate, ChatPromptTemplate, MessagesPlaceholder
from langchain.schema import SystemMessage, HumanMessage, AIMessage

# 初始化LLM，保持配置稳定以优化KV缓存
llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0)

# 初始化记忆模块，用于存储对话历史
memory = ConversationBufferMemory(memory_key="chat_history", return_messages=True)

# 定义稳定的系统提示，提高缓存命中率
system_prompt = SystemMessage(content="你是一个AI助手，负责在企业内部知识库中查找并回答员工的问题。")

# 定义主提示模板，包含系统消息、对话历史和用户问题
prompt = ChatPromptTemplate.from_messages([
    system_prompt,
    MessagesPlaceholder(variable_name="chat_history"), # 对话历史将动态注入
    HumanMessage(content="{user_input}"), # 用户输入将动态注入
    # 可以在这里加入更多动态内容，如检索到的知识片段、todo列表等
])

from langchain.agents import Tool, AgentExecutor, create_openai_tools_agent
from langchain.tools import tool

# 知识库搜索工具，连接到Elasticsearch
@tool
def search_knowledge_base(query: str) -> str:
    """Searches the internal knowledge base for relevant information."""
    print(f"Searching knowledge base for: {query}")
    # 实际应用中应连接到Elasticsearch进行检索
    if "请假政策" in query:
        return "公司的请假政策规定，员工每年享有15天带薪年假。"
    elif "报销流程" in query:
        return "员工报销需先在系统中提交报销单，然后打印出来由部门经理签字，最后交至财务部。"
    else:
        return "未找到相关信息。"

# 将工具封装成LangChain的Tool对象
tools = [Tool(name="KnowledgeBaseSearch", func=search_knowledge_base, 
             description="Useful for searching internal company policies and procedures.")]

# 创建代理，实现上下文感知的工具调用
agent = create_openai_tools_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, memory=memory, verbose=True)

# 模拟用户交互，实现多轮对话
def chat_with_agent(user_input):
    response = agent_executor.invoke({"user_input": user_input})
    return response["output"]

# 示例对话
print(chat_with_agent("请问公司的年假政策是怎样的？"))
# 预期代理会调用KnowledgeBaseSearch工具，并返回相关信息

print(chat_with_agent("那病假呢？"))
# 预期代理能根据上下文理解"病假"是上一个关于"假期"话题的延续

# 可以加入更复杂的逻辑，如更新todo列表、处理错误等
# 例如，如果工具调用失败，可以将错误信息记录并反馈给模型
# 或者，根据任务复杂度，动态调整prompt中的指令