LangChain 专题3 使用提示模板

提示模板

提示模板（PromptTemplate）有助于将用户的输入和参数转换为语言模型的指令。这可以用来指导模型的响应，帮助其理解上下文并生成相关且连贯的语言输出。

提示模板以字典形式作为输入，其中每个键代表提示模板中的变量，需要填充内容。

提示模板会输出一个 PromptValue。这个 PromptValue 可以传递给 LLM 或 ChatModel，也可以被转换为一串字符串或一系列消息。 存在这个 PromptValue 的原因是使其在字符串和消息之间轻松切换。

有几种不同的提示模板类型：String PromptTemplates、ChatPromptTemplates 和 MessagesPlaceholder。下面分别介绍这三种类型的提示模版。

String PromptTemplates

这些提示模板用于格式化一个字符串，一般用于更简单的输入。例如，构建和使用 String PromptTemplate 的常见方法如下：

1
2
3
4
5
6
7
8
9

from langchain_core.prompts import PromptTemplate

prompt_template = PromptTemplate.from_template("Tell me a joke about {topic}")

output = prompt_template.invoke({"topic": "cats"})
print(type(output))
# <class 'langchain_core.prompt_values.StringPromptValue'>
print(output)
# text='Tell me a joke about cats'

ChatPromptTemplates

这些提示模板用于格式化信息列表。这些“模板”由模板本身组成的列表。例如，构建和使用 ChatPromptTemplate 的常见方式如下：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

from langchain_core.prompts import ChatPromptTemplate

prompt_template = ChatPromptTemplate([
    ("system", "You are a helpful assistant"),
    ("user", "Tell me a joke about {topic}")
])

output = prompt_template.invoke({"topic": "cats"})
print(type(output))
# <class 'langchain_core.prompt_values.ChatPromptValue'>
print(output)
# messages=[SystemMessage(content='You are a helpful assistant', additional_kwargs={}, response_metadata={}), HumanMessage(content='Tell me a joke about cats', additional_kwargs={}, response_metadata={})]

MessagesPlaceholder

这个提示模板负责在一个特定的地方添加一条消息列表。在上面的 ChatPromptTemplate 中，我们看到了如何格式化两个消息，每个消息都是一个字符串。 但是，如果我们希望用户提供一个消息列表，我们将把这些消息放入特定的位置呢？这就是如何使用消息占位符。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13

from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.messages import HumanMessage

prompt_template = ChatPromptTemplate([
    ("system", "You are a helpful assistant"),
    MessagesPlaceholder("msgs")
])

output = prompt_template.invoke({"msgs": [HumanMessage(content="hi!")]})
print(type(output))
# <class 'langchain_core.prompt_values.ChatPromptValue'>
print(output)
# messages=[SystemMessage(content='You are a helpful assistant', additional_kwargs={}, response_metadata={}), HumanMessage(content='hi!', additional_kwargs={}, response_metadata={})]

上面的 prompt_template 还可以使用以下的形式，两者是等价的：

1
2
3
4

prompt_template = ChatPromptTemplate([
    ("system", "You are a helpful assistant"),
    ("placeholder", "{msgs}") # <-- This is the changed part
])

大模型和提示词模板结合使用示例

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate

api_key = '<your_openai_api_key>'
model_name = 'gpt-4o-mini'

# api key 也可以通过环境变量 OPENAI_API_KEY 获取
model = ChatOpenAI(model=model_name, api_key=api_key)

prompt_template = ChatPromptTemplate([
    ("system", "Translate the following from {language_from} into {language_into}"),
    ("user", "{translate_content}")
])

output = model.invoke(
    prompt_template.invoke({"language_from": "English", "language_into": "Italian", "translate_content": "hi!"}))
print(type(output))
# <class 'langchain_core.messages.ai.AIMessage'>
print(output)
# content='Ciao!' additional_kwargs={'refusal': None} response_metadata={'token_usage': {'completion_tokens': 4, 'prompt_tokens': 22, 'total_tokens': 26, 'completion_tokens_details': None, 'prompt_tokens_details': None}, 'model_name': 'gpt-4o-mini', 'system_fingerprint': None, 'finish_reason': 'stop', 'logprobs': None} id='run-c2a819ff-b249-4fad-985c-994daabd9ab1-0' usage_metadata={'input_tokens': 22, 'output_tokens': 4, 'total_tokens': 26, 'input_token_details': {}, 'output_token_details': {}}```