在 Visual Studio Code 中使用 Microsoft Fabric 进行数据科学

您可以在 VS Code 中为 Microsoft Fabric 构建和开发数据科学和数据工程解决方案。适用于 VS Code 的 Microsoft Fabric 扩展为使用 Fabric 工件、Lakehouse、笔记本和用户数据函数提供了集成的开发体验。

什么是 Microsoft Fabric？

Microsoft Fabric 是一个企业就绪的端到端分析平台。它统一了数据移动、数据处理、摄取、转换、实时事件路由和报表构建。它通过数据工程、Data Factory、数据科学、实时智能、数据仓库和数据库等集成服务来支持这些功能。免费注册即可探索 Microsoft Fabric 60 天 - 无需信用卡。

先决条件

在开始使用适用于 VS Code 的 Microsoft Fabric 扩展之前，您需要

• Visual Studio Code：安装最新的 VS Code 版本。
• Microsoft Fabric 帐户：您需要访问 Microsoft Fabric 工作区。您可以注册免费试用版以开始使用。
• Python：安装 Python 3.8 或更高版本，以便在 VS Code 中使用 笔记本和 用户数据函数。

安装与设置

您可以从 Visual Studio Marketplace 或直接在 VS Code 中查找并安装扩展。选择扩展视图（⇧⌘X (Windows、Linux Ctrl+Shift+X)）并搜索 Microsoft Fabric。

要使用的扩展

入门

安装扩展并登录后，您可以开始使用 Fabric 工作区和项目。在命令面板（⇧⌘P (Windows、Linux Ctrl+Shift+P)）中，键入 Fabric 以列出 Microsoft Fabric 特定的命令。

Fabric 工作区和项目资源管理器

Fabric 扩展提供了一种无缝的方式来处理远程和本地 Fabric 项目。

• 在 Fabric 扩展中，Fabric 工作区部分列出了远程工作区中的所有项目，按类型（Lakehouse、笔记本、管道等）进行组织。
• 在 Fabric 扩展中，本地文件夹部分显示在 VS Code 中打开的 Fabric 项目文件夹。它反映了在 VS Code 中打开的每种类型的 Fabric 项目定义的结构。这使您能够在本地进行开发，并将更改发布到当前或新的工作区。

使用用户数据函数进行数据科学

1. 在命令面板（⇧⌘P (Windows、Linux Ctrl+Shift+P)）中，键入 Fabric: 创建项目。

2. 选择您的工作区并选择用户数据函数。提供一个名称并选择 Python 语言。

3. 系统会通知您设置 Python 虚拟环境并继续在本地设置它。

4. 使用 pip install 安装库，或在 Fabric 扩展中选择用户数据函数项目以添加库。更新 requirements.txt 文件以指定依赖项

   fabric-user-data-functions ~= 1.0
   pandas == 2.3.1
   numpy == 2.3.2
   requests == 2.32.5
   scikit-learn=1.2.0
   joblib=1.2.0
   

5. 打开 functions_app.py。这是一个使用 scikit-learn 开发用于数据科学的用户数据函数的示例

   import datetime
   import fabric.functions as fn
   import logging
   
   # Import additional libraries
   import pandas as pd
   from sklearn.ensemble import RandomForestClassifier
   from sklearn.preprocessing import StandardScaler
   from sklearn.model_selection import train_test_split
   from sklearn.metrics import accuracy_score
   import joblib
   
   udf = fn.UserDataFunctions()
   @udf.function()
   def train_churn_model(data: list, targetColumn: str) -> dict:
       '''
       Description: Train a Random Forest model to predict customer churn using pandas and scikit-learn.
   
       Args:
       - data (list): List of dictionaries containing customer features and churn target
       Example: [{"Age": 25, "Income": 50000, "Churn": 0}, {"Age": 45, "Income": 75000, "Churn": 1}]
       - targetColumn (str): Name of the target column for churn prediction
       Example: "Churn"
   
       Returns: dict: Model training results including accuracy and feature information
       '''
       # Convert data to DataFrame
       df = pd.DataFrame(data)
   
       # Prepare features and target
       numeric_features = df.select_dtypes(include=['number']).columns.tolist()
       numeric_features.remove(targetColumn)
   
       X = df[numeric_features]
       y = df[targetColumn]
   
       # Split and scale data
       X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
       scaler = StandardScaler()
       X_train_scaled = scaler.fit_transform(X_train)
       X_test_scaled = scaler.transform(X_test)
   
       # Train model
       model = RandomForestClassifier(n_estimators=100, random_state=42)
       model.fit(X_train_scaled, y_train)
   
       # Evaluate and save
       accuracy = accuracy_score(y_test, model.predict(X_test_scaled))
       joblib.dump(model, 'churn_model.pkl')
       joblib.dump(scaler, 'scaler.pkl')
   
       return {
           'accuracy': float(accuracy),
           'features': numeric_features,
           'message': f'Model trained with {len(X_train)} samples and {accuracy:.2%} accuracy'
       }
   
   @udf.function()
   def predict_churn(customer_data: list) -> list:
       '''
       Description: Predict customer churn using trained Random Forest model.
   
       Args:
       - customer_data (list): List of dictionaries containing customer features for prediction
       Example: [{"Age": 30, "Income": 60000}, {"Age": 55, "Income": 80000}]
   
       Returns: list: Customer data with churn predictions and probability scores
       '''
       # Load saved model and scaler
       model = joblib.load('churn_model.pkl')
       scaler = joblib.load('scaler.pkl')
   
       # Convert to DataFrame and scale features
       df = pd.DataFrame(customer_data)
       X_scaled = scaler.transform(df)
   
       # Make predictions
       predictions = model.predict(X_scaled)
       probabilities = model.predict_proba(X_scaled)[:, 1]
   
       # Add predictions to original data
       results = customer_data.copy()
       for i, (pred, prob) in enumerate(zip(predictions, probabilities)):
           results[i]['churn_prediction'] = int(pred)
           results[i]['churn_probability'] = float(prob)
   
       return results
   

6. 按 F5 在本地测试您的函数。

7. 在 Fabric 扩展的本地文件夹中，选择函数并发布到您的工作区。

   

了解有关从以下位置调用函数的更多信息

• Fabric 数据管道
• Fabric 笔记本
• 外部应用程序

使用 Fabric 笔记本进行数据科学

Fabric 笔记本是 Microsoft Fabric 中的一种交互式工作簿，用于并行编写和运行代码、可视化和 Markdown。笔记本支持多种语言（Python、Spark、SQL、Scala 等），是利用 OneLake 中现有数据进行数据探索、转换和模型开发的理想选择。

示例

下面的单元格使用 Spark 读取 CSV，将其转换为 pandas，并使用 scikit-learn 训练逻辑回归模型。将列名和路径替换为您的数据集值。

def train_logistic_from_spark(spark, csv_path):
    # Read CSV with Spark, convert to pandas
    sdf = spark.read.option("header", "true").option("inferSchema", "true").csv(csv_path)
    df = sdf.toPandas().dropna()

    # Adjust these to match your dataset
    X = df[['feature1', 'feature2']]
    y = df['label']

    from sklearn.model_selection import train_test_split
    from sklearn.linear_model import LogisticRegression
    from sklearn.metrics import accuracy_score

    X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
    model = LogisticRegression(max_iter=200)
    model.fit(X_train, y_train)

    preds = model.predict(X_test)
    return {'accuracy': float(accuracy_score(y_test, preds))}

# Example usage in a Fabric notebook cell
# train_logistic_from_spark(spark, '/path/to/data.csv')

请参阅 Microsoft Fabric 笔记本文档以了解更多信息。

Git 集成

Microsoft Fabric 支持 Git 集成，可在数据和分析项目中实现版本控制和协作。您可以将 Fabric 工作区连接到 Git 存储库（主要是 Azure DevOps 或 GitHub），并且仅同步受支持的项目。此集成还支持 CI/CD 工作流，使团队能够有效地管理发布并维护高质量的分析环境。

后续步骤

既然您已在 VS Code 中设置了 Microsoft Fabric 扩展，请探索这些资源以加深您的知识

• 了解 Microsoft Fabric 数据科学.
• 设置您的 Fabric 试用容量
• Microsoft Fabric 基础知识

与社区互动并获得支持

• Microsoft Fabric 社区论坛
• Fabric 示例和模板
• Visual Studio Marketplace 评论和反馈