適用於機器學習的 Databricks Runtime 11.3 LTS

適用於機器學習的 Databricks Runtime 11.3 LTS 提供以 Databricks Runtime 11.3 LTS 為基礎的機器學習和資料科學現成環境。 Databricks Runtime ML 含有許多熱門的機器學習程式庫，包括 TensorFlow、PyTorch 和 XGBoost。 Databricks Runtime ML 包含 AutoML，這是可自動訓練機器學習管線的工具。 Databricks Runtime ML 也支援使用 Horovod 的分散式深度學習訓練。

如需詳細資訊，包括建立 Databricks Runtime ML 叢集的指示，請參閱 Databricks 上的 AI 和機器學習 (英文)。

新功能和改進

Databricks Runtime 11.3 LTS ML 是以 Databricks Runtime 11.3 LTS 為基礎而建置。 如需 Databricks Runtime 11.3 LTS 新增功能的相關資訊，包括 Apache Spark MLlib 和 SparkR，請參閱 Databricks Runtime 11.3 LTS 版本資訊。

AutoML 的增強功能

AutoML 現在支援在 AutoML 實驗中整合現有的 Feature Store 特徵表。 如需詳細資訊，請參閱 AutoML 功能存放區整合。

AutoML 所產生的試用筆記本現已包括程式碼片段，可讓使用者重新執行超參數微調。

AutoML 現已支援 DecimalType 功能。

錯誤修正

Databricks Runtime 11.3 LTS ML 包括升級版本的 sparkdl.xgboost。 舊版 sparkdl.xgboost 包括此版本中已修正的 Bug，因此 Databricks 建議程式庫的使用者升級至 Databricks Runtime 11.3 LTS ML。

準備迎接未來的發佈版本

即將推出的 Databricks Runtime ML 版本將包括 sklearn 1.0 版。 請造訪 sklearn文件 取得有關如何準備此一變動的詳細資訊。

Databricks Runtime ML 包括兩個 openblas 套件。 該 /opt/OpenBLAS 套件在 Databricks Runtime 11.3 LTS ML 中已遭取代，並且即將推出的版本也將予以移除。

系統環境

Databricks Runtime 11.3 LTS ML 中的系統環境與 Databricks Runtime 11.3 LTS 有所不同，如下所示：

• DBUtils：Databricks Runtime ML 不包括程式庫公用程式 (dbutils.library) (舊版)。 請改用 %pip 命令。 請參閱限於筆記本的 Python 程式庫。
• 針對 GPU 叢集，Databricks Runtime ML 包括下列 NVIDIA GPU 程式庫：
  • CUDA 11.3
  • cuDNN 8.0.5.39
  • NCCL 2.9.9
  • TensorRT 7.2.2

Databricks Runtime 11.3 LTS ML 包含 XGBoost 1.6.1，其不支援具有計算功能 5.2 及以下的 GPU 叢集。

圖書館

下列各節列出 Databricks Runtime 11.3 LTS ML 中包含的連結庫，與 Databricks Runtime 11.3 LTS 中包含的連結庫不同。

本節內容：

• 頂層程式庫
• Python 程式庫
• R 程式庫
• Java 和 Scala 程式庫 (Scala 2.12 叢集)

頂層程式庫

Databricks Runtime 11.3 LTS ML 包括下列頂層程式庫：

• GraphFrames
• Horovod 及 HorovodRunner
• MLflow
• PyTorch
• spark-tensorflow-connector
• TensorFlow
• TensorBoard
• Scikit-learn

Python 程式庫

Databricks Runtime 11.3 LTS ML 使用 Virtualenv 進行 Python 套件管理，且包括許多熱門 ML 套件。

除了下列各章節中指定的套件之外，Databricks Runtime 11.3 LTS ML 也包括下列套件：

• hyperopt 0.2.7.db1
• sparkdl 2.3.0-db3
• feature_store 0.7.0
• automl 1.13.2

若要在本機 Python 虛擬環境中重現 Databricks Runtime ML Python 環境，請下載 requirements-11.3.txt 檔案並執行 pip install -r requirements-11.3.txt。 此命令會安裝 Databricks Runtime ML 使用的所有開放原始碼程式庫，但不會安裝 Databricks 所開發的程式庫，例如 databricks-automl、 databricks-feature-store或 hyperopt 的 Databricks 派生。

CPU 叢集的 Python 程式庫

GPU 叢集上的 Python 程式庫

R 程式庫

R 程式庫與 Databricks Runtime 11.3 LTS 中的 R 程式庫相同。

Java 和 Scala 程式庫 (Scala 2.12 叢集)

除了 Databricks Runtime 11.3 LTS 中的 JAVA 和 Scala 程式庫之外，Databricks Runtime 11.3 LTS ML 還包括下列 JAR：

CPU 叢集

GPU 群集