在 AI Toolkit 中构建代理和提示

AI Toolkit 中的 Agent Builder 简化了构建代理的工程工作流，包括提示工程以及与 MCP 服务器等工具的集成。它有助于完成常见的提示工程任务

• 生成初始提示
• 每次运行后进行迭代和完善
• 通过提示链和结构化输出分解复杂任务
• 提供对代码的便捷访问，通过 API 无缝集成大型语言模型 (LLM)

Agent Builder 还通过工具使用增强了智能应用程序的功能

• 连接到现有 MCP 服务器
• 从脚手架构建新的 MCP 服务器
• 使用函数调用连接到外部 API 和服务

创建、编辑和测试提示

要访问 Agent Builder，请使用以下任一选项

• 在 AI Toolkit 视图中，选择 Agent (Prompt) Builder
• 从模型目录中的模型卡片中选择 在 Agent (Prompt) Builder 中尝试

要在 Agent Builder 中测试提示，请按照以下步骤操作

1. 在 Models 中，从下拉列表中选择一个模型，或选择 Browse models 以从模型目录中添加另一个模型。

   

2. 输入 User prompt，并可选择输入 System prompt。

   用户提示是您要发送给模型的输入。可选的系统提示用于提供带有相关上下文的说明，以指导模型响应。

   提示

   使用自然语言描述您的项目想法，以自动生成提示。

3. 选择 Run 将提示发送到模型。

4. （可选）选择 Add Prompt 添加更多提示，或选择 Add to Prompts 构建对话历史。

5. 重复上述步骤，通过观察模型响应并更改提示来迭代您的提示。

使用 MCP 服务器

MCP 服务器是一种工具，允许您连接到外部 API 和服务，使您的代理能够执行超越生成文本的操作。例如，您可以使用 MCP 服务器访问数据库、调用 Web 服务或与其他应用程序交互。

您可以使用代理构建器发现和配置特色 MCP 服务器，连接到现有 MCP 服务器或从脚手架构建新的 MCP 服务器。

配置特色 MCP 服务器

AI Toolkit 提供了一系列特色 MCP 服务器，您可以使用它们连接到外部 API 和服务。

要从特色选择中配置 MCP 服务器，请按照以下步骤操作

1. 在 Tools 部分，选择 + MCP Server，然后在快速选择中选择 + Add server。
2. 从下拉列表中选择 Use Featured MCP Servers。
3. 选择一个满足您需求的 MCP 服务器。
4. 输入服务器名称。
5. 选择您要使用的工具。

使用现有 MCP 服务器

要使用现有 MCP 服务器，请按照以下步骤操作

1. 在 Tools 部分，选择 + MCP Server，然后在快速选择中选择 + Add server。
2. 选择 Connect to an Existing MCP Server
3. 从下拉列表中选择一个选项，指定您希望如何连接到 MCP 服务器
   • Command (stdio)：运行实现 MCP 协议的本地命令
   • HTTP (server-sent events)：连接到实现 MCP 协议的远程服务器
4. 如果存在多个工具，请从 MCP 服务器中选择工具。
5. 输入您的提示并选择 Run 以测试连接。

以下是在 AI Toolkit 中配置 文件系统 服务器的示例

1. 在 Tools 部分，选择 + MCP Server，然后在快速选择中选择 + Add server。
2. 选择 Connect to an Existing MCP Server
3. 选择 Command (stdio)
   注意

   有些服务器使用 Python 运行时和 uvx 命令。此过程与使用 npx 命令相同。

4. 导航到 服务器说明 并找到 npx 部分。
5. 将 command 和 args 复制到 AI Toolkit 的输入框中。对于文件系统服务器示例，它将是 npx -y @modelcontextprotocol/server-filesystem /Users/<username>/.aitk/examples
6. 输入服务器名称。
7. （可选）输入其他环境变量。某些服务器可能需要额外的环境变量，例如 API 密钥。在这种情况下，AI Toolkit 将在添加工具阶段失败，并会打开一个 mcp.json 文件，您可以在其中按照每个服务器提供的说明输入所需的服务器详细信息。 完成配置后
   1. 返回到 Tools 部分并选择 + MCP Server
   2. 从下拉列表中选择您刚刚配置的服务器
   3. 选择您要使用的工具。
8. 选择您要使用的工具。

AI Toolkit 还提供了一个脚手架，可帮助您构建新的 MCP 服务器。该脚手架包含 MCP 协议的基本实现，您可以根据需要进行自定义。

构建新的 MCP 服务器

要构建新的 MCP 服务器，请按照以下步骤操作

1. 在 Tools 部分，选择 + MCP Server，然后在快速选择中选择 + Add server。
2. 选择 Create a New MCP Server
3. 从下拉列表中选择一种编程语言：Python 或 TypeScript
4. 选择一个文件夹来创建新的 MCP 服务器项目。
5. 输入 MCP 服务器项目名称。

创建 MCP 服务器项目后，您可以根据需要自定义实现。脚手架包含 MCP 协议的基本实现，您可以对其进行修改以添加自己的功能。

您还可以使用代理构建器测试 MCP 服务器。代理构建器会将提示发送到 MCP 服务器并显示响应。

请按照以下步骤测试 MCP 服务器

1. 打开 VS Code 调试面板。选择 Debug in Agent Builder 或按 F5 开始调试 MCP 服务器。
2. 使用 AI Toolkit Agent Builder 测试服务器，使用以下提示
   1. 系统提示：您是一名天气预报专业人员，可以根据给定地点提供天气信息。
3. 服务器将自动连接到 Agent Builder。
4. 选择 Run 以使用提示测试服务器。

使用函数调用

函数调用将您的代理连接到外部 API 和服务。

1. 在 Tools 中，选择 Add Tool，然后选择 Custom Tool。
2. 选择如何添加工具
   • By Example：从 JSON Schema 示例添加
   • Upload Existing Schema：上传 JSON Schema 文件
3. 输入工具名称和描述，然后选择 Add。
4. 在工具卡片中提供模拟响应。

5. 使用函数调用工具运行代理。

在 Evaluation 选项卡中，通过为测试用例输入模拟响应来使用函数调用工具。

结构化输出

结构化输出支持可帮助您设计提示，以结构化、可预测的格式提供输出。

要在 Agent Builder 中测试使用结构化输出，请按照以下步骤操作

1. 从左侧区域选择 Structure output，然后选择 json_schema。

2. 选择 Prepare schema，然后选择 Select local file 以使用您自己的 Schema，或选择 Use an example 以使用预定义 Schema。

   如果您继续使用示例，可以从下拉列表中选择 Schema。

3. 选择 Run 将提示发送到选定的模型。

4. 您还可以通过选择 Schema 名称来编辑 Schema。

   

将提示工程集成到您的应用程序中

在尝试模型和提示后，您可以立即使用自动生成的 Python 代码进行编码。

要查看 Python 代码，请按照以下步骤操作

1. 选择 View Code。

2. 对于托管在 GitHub 上的模型，选择您要使用的推理 SDK。

   AI Toolkit 使用提供商的客户端 SDK 为您选择的模型生成代码。对于由 GitHub 托管的模型，您可以选择要使用的推理 SDK：Azure AI 推理 SDK 或来自模型提供商的 SDK，例如 OpenAI SDK 或 Mistral API。

3. 生成的代码片段显示在一个新编辑器中，您可以将其复制到您的应用程序中。

   要与模型进行身份验证，您通常需要提供商提供的 API 密钥。要访问 GitHub 托管的模型，请在您的 GitHub 设置中生成个人访问令牌 (PAT)。

后续步骤

• 为常用的评估器运行评估作业