尝试以扩展 VS Code 中的代理模式!

AI Toolkit for Visual Studio Code

AI Toolkit for Visual Studio Code 是一个全面的扩展,使开发人员和 AI 工程师能够使用生成式 AI 模型来构建、测试和部署智能应用程序。无论您是在本地还是在云端工作,AI Toolkit 都为完整的 AI 应用程序生命周期提供了一个集成的开发环境。

AI Toolkit 提供了与来自 OpenAI、Anthropic、Google 和 GitHub 等提供商的流行 AI 模型的无缝集成,同时还通过 ONNX 和 Ollama 支持本地模型。从模型发现和实验到提示工程和部署,AI Toolkit 简化了您在 VS Code 中的 AI 开发工作流程。

主要功能

功能 描述 屏幕截图
模型目录 发现并访问来自多个来源的 AI 模型,包括 GitHub、ONNX、Ollama、OpenAI、Anthropic 和 Google。并排比较模型,为您的用例找到最合适的模型。 Screenshot showing the AI Toolkit Model Catalog interface with various AI model options
训练场 用于实时模型测试的交互式聊天环境。试验不同的提示、参数和多模态输入,包括图像和附件。 Screenshot showing the AI Toolkit Playground interface with chat messaging and model parameter controls
代理构建器 简化的提示工程和代理开发工作流程。创建复杂的提示,集成 MCP 工具,并生成具有结构化输出的生产就绪代码。 Screenshot showing the Agent Builder interface for creating and managing AI agents
批量运行 同时跨多个模型执行批量提示测试。非常适合比较模型性能和在各种输入场景下进行大规模测试。 Screenshot showing the Bulk Run interface for batch testing prompts across multiple AI models
模型评估 使用数据集和标准指标进行全面的模型评估。使用内置评估器(F1 分数、相关性、相似性、连贯性)衡量性能或创建自定义评估标准。 Screenshot showing the Model Evaluation interface with metrics and performance analysis tools
微调 为特定领域和需求定制和调整模型。支持在本地使用 GPU 训练模型,或利用 Azure 容器应用进行基于云的微调。 Screenshot showing the Fine-tuning interface with model adaptation and training controls
模型转换 转换、量化和优化机器学习模型以进行本地部署。转换来自 Hugging Face 和其他来源的模型,以便在 Windows 上通过 CPU、GPU 或 NPU 加速高效运行。 Screenshot showing the Model Conversion interface with tools for optimizing and transforming AI models
跟踪 监控和分析您的 AI 应用程序的性能。收集和可视化跟踪数据,以深入了解模型行为和性能。 Screenshot showing the Tracing interface with tools for monitoring AI applications

AI Toolkit 适用于哪些人?

AI Toolkit 专为任何使用生成式 AI 的人而设计,从初学者到专家

开发人员

  • 需要集成语言模型来构建 AI 驱动应用程序的应用开发人员
  • 希望为 Web 和桌面应用程序添加智能功能的全栈开发人员
  • 在生产部署前进行 AI 功能原型设计的移动开发人员

AI 工程师和数据科学家

  • 为特定领域微调模型并部署到生产环境的 AI 工程师
  • 评估模型性能并比较不同方法的数据科学家
  • 转换和优化模型以实现高效本地部署的 ML 工程师

研究人员和教育工作者

  • 试验不同模型和提示工程技术的 AI 研究人员
  • 教授 AI 概念和演示模型功能的教育工作者
  • 学习生成式 AI 并进行模型实践互动的学生

主要用例

  • 探索和评估来自 Anthropic、OpenAI 和 GitHub 等提供商的模型
  • 使用 ONNX 和 Ollama 在本地运行模型,以实现隐私和成本控制
  • 通过提示生成和 MCP 工具集成来构建和测试代理
  • 转换和优化模型以部署在不同的硬件配置上

安装和设置

快速安装

最快的入门方法是通过 Visual Studio Marketplace 安装扩展

安装 AI Toolkit for VS Code

安装成功后,AI Toolkit 图标会出现在活动栏中。

手动安装

您也可以从 Visual Studio Code Marketplace 手动安装 AI Toolkit 扩展。请按照安装扩展中的详细步骤进行操作。

提示

或者,选择活动栏中的“扩展”图标。

  • 搜索 AI Toolkit for Visual Studio Code,然后从搜索结果中选择安装

    Screenshot showing the AI Toolkit extension in the VS Code Marketplace with the install button

提示

安装后查看新增功能页面,以查看每个版本的详细功能。

  • 安装成功后,AI Toolkit 图标会出现在活动栏中。

    Screenshot showing the AI Toolkit icon in the VS Code Activity Bar after installation

开始使用 AI Toolkit

AI Toolkit 有一个入门演练,您可以用它来学习 AI Toolkit 的基础知识。该演练将带您了解 Playground,您可以在其中使用聊天与 AI 模型进行交互。

  1. 在活动栏中选择 AI Toolkit 视图

  2. 帮助和反馈部分,选择开始使用以打开演练

    Screenshot showing the AI Toolkit view in the Side Bar, and the getting started walkthrough.

后续步骤