面向 Visual Studio Code 的 Foundry Toolkit

面向 Visual Studio Code 的 Foundry Toolkit 旨在帮助开发人员和 AI 工程师使用生成式 AI 模型构建、测试并部署 AI 应用。你可以在本地或云端使用它，在一个平台上管理整个 AI 应用工作流。

Foundry Toolkit 与 OpenAI、Anthropic、Google 和 GitHub 等主流 AI 模型提供商无缝集成，同时通过 ONNX 和 Ollama 支持本地模型。从模型发现与实验，到提示词工程（Prompt Engineering）与部署，Foundry Toolkit 简化了你在 VS Code 中的 AI 开发工作流。

主要功能

功能	描述	截图
创建智能体 (Agents)	使用不同的技术创建智能体：利用工具和向量创建“提示词智能体 (Prompt Agents)”，或通过自定义代码创建“托管智能体 (Hosted Agents)”。
模型目录 (Model Catalog)	发现并访问来自多个来源的 AI 模型，包括 Microsoft Foundry、Foundry Local、GitHub、ONNX、Ollama、OpenAI、Anthropic 和 Google。对模型进行并排比较，找到最适合你用例的模型。
训练场	交互式聊天环境，用于实时模型测试。尝试不同的提示词、参数以及包括图像和附件在内的多模态输入。
代理构建器	精简的提示词工程和智能体开发工作流。创建复杂的提示词，集成 MCP 工具，并生成带有结构化输出的生产级代码。
代理检查器 (Agent Inspector)	直接在 VS Code 中调试、可视化并迭代 AI 智能体。
模型评估	使用数据集和标准指标对模型进行全面评估。通过内置的评估器（F1 分数、相关性、相似度、连贯性）衡量性能，或创建自定义评估标准。
工具目录	使用 Visual Studio Code 中的工具目录连接 Foundry 工具和本地 MCP 服务器工具，并使用智能体构建器 (Agent Builder) 将它们添加到智能体中。
微调 (Fine-tuning)	针对特定领域和需求自定义并适配模型。在支持 GPU 的本地环境训练模型，或使用 Azure Container Apps 进行云端微调。
模型转换	转换、量化并优化机器学习模型以进行本地部署。转换来自 Hugging Face 及其他来源的模型，使其在配备 CPU、GPU 或 NPU 加速的 Windows 设备上高效运行。
追踪	监控并分析 AI 应用的性能。收集并可视化跟踪数据，深入了解模型的行为和表现。
性能分析 (Windows ML)	诊断进程的 CPU、GPU、NPU 资源使用情况，分析不同执行提供程序上的 ONNX 模型以及 Windows 机器学习事件。

Foundry Toolkit 的目标用户是谁？

Foundry Toolkit 专为所有生成式 AI 从业者设计，无论是初学者还是专家。

开发者

• 应用开发人员：构建 AI 驱动的应用程序，需要集成语言模型。
• 全栈开发人员：希望为 Web 和桌面应用程序添加智能功能。
• 移动端开发人员：在生产部署前对 AI 功能进行原型设计。

AI 工程师与数据科学家

• AI 工程师：针对特定领域微调模型并进行生产部署。
• 数据科学家：评估模型性能并比较不同的开发路径。
• 机器学习工程师：转换并优化模型以实现高效的本地部署。

研究人员与教育工作者

• AI 研究人员：实验不同的模型和提示词工程技术。
• 教育工作者：教授 AI 概念并演示模型功能。
• 学生：学习生成式 AI 并进行模型交互实践。

核心用例

• 探索并评估来自 Anthropic、OpenAI 和 GitHub 等提供商的模型。
• 使用 ONNX 和 Ollama 在本地运行模型，以实现隐私和成本控制。
• 通过提示词生成和 MCP 工具集成来构建并测试智能体。
• 转换并优化模型，以便在不同的硬件配置上进行部署。

安装与设置

快速安装

必须安装 .NET Runtime，因为 Foundry Toolkit 依赖于它。

最快的上手方式是通过 Visual Studio Marketplace 安装扩展。

安装 Foundry Toolkit for VS Code

安装成功后，活动栏中会出现 Foundry Toolkit 图标。

手动安装

你也可以从 Visual Studio Code Marketplace 手动安装 Foundry Toolkit 扩展。请遵循 安装扩展 中的详细步骤。

• 搜索 Foundry Toolkit for Visual Studio Code 并从搜索结果中选择 安装。

  

• 安装成功后，活动栏中会出现 Foundry Toolkit 图标。

验证并安装 Foundry Toolkit 前置条件（本地模型）

Foundry Toolkit 通过 Foundry Local 提供本地 LLM 运行能力，请通过执行 Foundry Toolkit: Install environment prerequisites 命令完成 Foundry Local 设置，以使用这些功能。

你可以使用 Foundry Toolkit: Validate environment prerequisites 命令验证前置条件的安装状态。

探索 Foundry Toolkit

Foundry Toolkit 直接集成了 Foundry 侧边栏，因此你可以在一个地方管理你的 Microsoft Foundry 资源和 Foundry Toolkit 功能。

Foundry Toolkit 在其自己的视图中打开，VS Code 活动栏上会显示 Foundry Toolkit 图标。该扩展包含三个主要部分：我的资源、开发工具，以及帮助与反馈。

• 我的资源 (My Resources)：此部分包含你在 Foundry Toolkit 中有权访问的资源。我的资源是与你的 Azure AI 资源交互的主要视图，包含以下子部分：
  • 本地资源 (Local Resources)：此部分包含你本地机器上的 AI 资源，例如本地模型、智能体和工具。
  • 你的 Foundry 项目 (Your Foundry Project)：此部分显示连接到 Foundry Toolkit 的 Microsoft Foundry 项目。使用你的 Foundry 项目来管理和部署 AI 资源，如已部署的模型、提示词智能体、托管智能体、连接、工具、向量存储和经典智能体。
    • 模型：查看项目中部署的模型，包括目标 URI 和身份验证密钥等端点信息。
    • 提示词智能体 (Prompt Agents)：查看项目中部署的提示词智能体（包括先前版本），以便通过操场（playground）进行测试、查看对话并设置评估。
    • 工作流 (Workflows)：在可视化构建器中查看并创建新的声明式、预定义的动作序列，用于编排智能体和业务逻辑。
    • 托管智能体 (Hosted Agents - Preview)：查看项目中部署的托管智能体。
    • 工具：浏览、发现并配置来自 Microsoft Foundry 的模型上下文协议 (MCP) 服务器，或创建自定义 MCP 服务器。
    • 知识 (Knowledge)：查看并添加智能体使用的向量存储及其他数据源。
    • 经典 (Classic)：查看在“经典”Foundry 中创建的智能体和线程。
  • 已连接资源 (Connected Resources)：此部分包含从 GitHub 模型等提供商连接到 Foundry Toolkit 的资源。
• 开发工具 (Developer Tools)：此部分包含可用于构建和部署 AI 应用的工具。开发工具视图是你查找部署工具以及处理已部署模型和智能体的地方，包含以下子部分：
  • 发现 (Discover)：此部分包含用于帮助你发现和管理 AI 模型及工具的工具，包含以下子部分：
    • 模型目录 (Model Catalog)：模型目录允许你发现并访问来自多个来源的 AI 模型，包括 GitHub、ONNX、Ollama、OpenAI、Anthropic 和 Google。对比模型并找到适合你用例的选择。
    • 工具目录 (Tool Catalog)：浏览并管理 Foundry Toolkit 中可用的工具。
• 构建 (Build)：这是你查找用于在 Foundry Toolkit 中部署并处理已部署智能体的工具的地方，包含以下子部分：
  • 创建智能体 (Create Agent)：轻松创建并部署智能体。
  • 智能体检查器 (Agent Inspector)：直接在 VS Code 中调试、可视化并迭代 AI 智能体。
  • 部署到 Microsoft Foundry：将你的本地智能体作为托管智能体部署到 Microsoft Foundry。
  • 托管智能体操场 (Hosted Agent Playground)：托管智能体操场提供了一个交互式环境，用于试验你的托管智能体。
  • 模型操场 (Model Playground)：模型操场提供了一个交互式环境，用于试验生成式 AI 模型。
  • 模型转换 (Model Conversion)：模型转换工具可帮助你在本地 Windows 平台上转换、量化、优化并评估预构建的机器学习模型。
  • 微调 (Fine-tuning)：此工具允许你使用自定义数据集，在配备 GPU 的本地计算环境或云端（Azure Container Apps）中对预训练模型执行微调任务。
• 监控 (Monitor)：这是你监控并分析 AI 应用性能的地方，包含以下子部分：
  • 跟踪 (Tracing)：跟踪功能可帮助你监控并分析 AI 应用的性能。
  • 评估 (Evaluation)：通过将模型、提示词和智能体的输出与事实数据进行比较并计算评估指标，来对其进行评估。
  • 模型性能分析 (Model Profiling - Windows ML)(预览版)：此工具允许你诊断进程的 CPU、GPU、NPU 资源使用情况，分析不同执行提供程序上的 ONNX 模型以及 Windows 机器学习事件。
• 帮助与反馈 (Help and Feedback)：此部分包含 Foundry Toolkit 文档、反馈、支持以及 Microsoft 隐私声明的链接，包含以下子部分：
  • 查看文档 (View Documentation)：指向 Foundry Toolkit 文档的链接。
  • 新功能 (What's New)：指向 Foundry Toolkit 发行说明的链接。
  • 报告问题 (Report Issues)：指向 Foundry Toolkit GitHub 仓库问题页面的链接。
  • 加入社区 (Join Community)：加入 Foundry Toolkit 社区以分享反馈，并与其他用户及 Foundry Toolkit 团队建立联系。

后续步骤

• 获取有关 在 Foundry Toolkit 中添加生成式 AI 模型 的更多信息。
• 使用 模型操场 (Model Playground) 与模型交互。
• 使用 智能体构建器 (Agent Builder) 开发智能体，并使用 智能体检查器 (Agent Inspector) 进行调试。