在 AI Toolkit 中构建 Agent 和提示

AI Toolkit 中的 Agent Builder 简化了构建 agent 的工程工作流程，包括提示工程以及与工具（例如 MCP 服务器）的集成。它有助于完成常见的提示工程任务

• 生成起始提示
• 通过每次运行进行迭代和优化
• 通过提示链和结构化输出分解复杂任务
• 通过 API 轻松访问代码，实现大型语言模型 (LLM) 的无缝集成

Agent Builder 还通过工具使用增强了智能应用的功能

• 连接到现有 MCP 服务器
• 从 Scaffold 构建新的 MCP 服务器并在 Agent Builder 中测试

创建、编辑和测试提示

要访问 Agent Builder，请使用以下任一选项

• 在 AI Toolkit 视图中，选择 Agent (Prompt) Builder
• 从模型目录中的模型卡片中选择 在 Agent (Prompt) Builder 中试用

要在 Agent Builder 中测试提示，请按照以下步骤操作

1. 在模型中，从下拉列表中选择一个模型，或选择浏览模型以从模型目录中添加另一个模型。

   

2. 输入用户提示，并可选择输入系统提示。

   用户提示是您想要发送给模型的输入。可选的系统提示用于提供包含相关上下文的指令，以指导模型的响应。

   提示

   您可以使用自然语言描述您的项目想法，并让 AI 驱动的功能为您生成提示以进行实验。

3. 选择运行将提示发送到所选模型。

4. 您可以选择添加提示以向对话添加更多用户和助手提示，或选择添加到提示作为您发送给模型的历史记录和上下文，以进一步指导模型的行为。

5. 重复上一步骤，通过观察模型的响应并修改提示来迭代您的提示。

使用 MCP 服务器

MCP 服务器是一种工具，允许您连接到外部 API 和服务，使您的 agent 能够执行生成文本以外的操作。例如，您可以使用 MCP 服务器访问数据库、调用 Web 服务或与其他应用程序交互。

您可以使用 Agent Builder 发现和配置特色 MCP 服务器，连接到现有 MCP 服务器，或从 Scaffold 构建新的 MCP 服务器。

配置特色 MCP 服务器

AI Toolkit 提供了一个特色 MCP 服务器列表，您可以使用它们连接到外部 API 和服务。

要从特色选项配置 MCP 服务器，请按照以下步骤操作

1. 在工具部分，选择 + MCP Server，然后在 Quick Pick 中选择 + 添加服务器。
2. 从下拉列表中选择使用特色 MCP 服务器。
3. 选择一个满足您需求的 MCP 服务器。
4. 输入服务器名称。
5. 选择您要使用的工具。

使用现有 MCP 服务器

要使用现有 MCP 服务器，请按照以下步骤操作

1. 在工具部分，选择 + MCP Server，然后在快速选择中选择 + 添加服务器。
2. 选择连接到现有 MCP 服务器
3. 从下拉列表中选择一个选项，指定如何连接到 MCP 服务器
   • 命令 (stdio)：运行实现 MCP 协议的本地命令
   • HTTP (服务器发送事件)：连接到实现 MCP 协议的远程服务器
4. 如果 MCP 服务器提供多个工具，请从中选择工具。
5. 输入您的提示并选择运行来测试连接。

以下是在 AI Toolkit 中配置 Filesystem 服务器的示例

1. 在工具部分，选择 + MCP Server，然后在 Quick Pick 中选择 + 添加服务器。
2. 选择连接到现有 MCP 服务器
3. 选择命令 (stdio)
   注意

   一些服务器使用 Python 运行时和 uvx 命令。过程与使用 npx 命令相同。

4. 导航到服务器说明并找到 npx 部分。
5. 将 command 和 args 复制到 AI Toolkit 中的输入框。对于 Filesystem 服务器示例，它将是 npx -y @modelcontextprotocol/server-filesystem /Users/<username>/.aitk/examples
6. 输入服务器名称。
7. 您可以选择输入其他环境变量。有些服务器可能需要其他环境变量，例如 API 密钥。在这种情况下，AI Toolkit 在添加工具阶段将失败，并且会打开一个 mcp.json 文件，您可以在其中按照每个服务器提供的说明输入所需的服务器详细信息。完成配置后
   1. 导航回工具部分并选择 + MCP Server
   2. 从下拉列表中选择您刚刚配置的服务器
   3. 选择您要使用的工具。
8. 选择您要使用的工具。

AI Toolkit 还提供一个 Scaffold，帮助您构建新的 MCP 服务器。该 Scaffold 包含 MCP 协议的基本实现，您可以根据需要进行自定义。

构建新的 MCP 服务器

要构建新的 MCP 服务器，请按照以下步骤操作

1. 在工具部分，选择 + MCP Server，然后在快速选择中选择 + 添加服务器。
2. 选择创建新的 MCP 服务器
3. 从下拉列表中选择一种编程语言：Python 或 TypeScript
4. 选择要在其中创建新的 MCP 服务器项目的文件夹。
5. 输入 MCP 服务器项目的名称。

创建 MCP 服务器项目后，您可以根据需要自定义实现。该 Scaffold 包含 MCP 协议的基本实现，您可以修改它以添加自己的功能。

您还可以使用 Agent Builder 测试 MCP 服务器。Agent Builder 会将提示发送到 MCP 服务器并显示响应。

按照以下步骤测试 MCP 服务器

1. 打开 VS Code 调试面板。选择在 Agent Builder 中调试或按 F5 开始调试 MCP 服务器。
2. 使用 AI Toolkit Agent Builder 通过以下提示测试服务器
   1. 系统提示：您是一位天气预报专家，可以根据给定位置提供天气信息。
3. 服务器将自动连接到 Agent Builder。
4. 选择运行以使用提示测试服务器。

结构化输出

结构化输出支持帮助您设计提示，以结构化、可预测的格式提供输出。

要在 Agent Builder 中测试结构化输出，请按照以下步骤操作

1. 从左侧区域选择结构化输出，然后选择 json_schema。

2. 选择准备架构，然后选择选择本地文件以使用您自己的架构，或选择使用示例以使用预定义的架构。

   如果您选择使用示例，可以从下拉列表中选择一个架构。

3. 选择运行将提示发送到所选模型。

4. 您还可以通过选择架构名称来编辑架构。

   

将提示工程集成到应用程序中

在对模型和提示进行实验后，您可以使用自动生成的 Python 代码立即开始编码。

要查看 Python 代码，请按照以下步骤操作

1. 选择查看代码。

2. 对于托管在 GitHub 上的模型，选择您想要使用的推理 SDK。

   AI Toolkit 使用提供商的客户端 SDK 生成您所选模型的代码。对于 GitHub 托管的模型，您可以选择要使用的推理 SDK：Azure AI 推理 SDK 或模型提供商的 SDK，例如 OpenAI SDK 或 Mistral API。

3. 生成的代码片段会显示在一个新的编辑器中，您可以将其复制到您的应用程序中。

   要与模型进行身份验证，通常需要提供商提供的 API 密钥。要访问 GitHub 托管的模型，请在您的 GitHub 设置中生成个人访问令牌 (PAT)。

后续步骤

• 针对常用评估器运行评估作业