Databricks Runtime 11.1 (EoS)

Catatan rilis berikut memberikan informasi tentang Databricks Runtime 11.1, didukung oleh Apache Spark 3.3.0. Databricks merilis versi ini pada Juli 2022.

Fitur dan peningkatan baru

• Photon berstatus GA
• Foton: Jenis instans yang didukung
• Umpan data perubahan sekarang dapat secara otomatis menangani tanda waktu di luar rentang
• Menjelaskan dan memperlihatkan fungsi SQL sekarang menampilkan nama Katalog Unity dalam outputnya (Pratinjau Umum)
• Inferensi dan evolusi skema untuk file Parquet di Auto Loader (Pratinjau Umum)
• Auto Loader sekarang mendukung evolusi skema untuk Avro (GA)
• Dukungan Delta Lake untuk penimpaan partisi dinamis
• Dukungan skema informasi untuk objek yang dibuat di Katalog Unity
• Batasan informasi pada tabel Delta Lake dengan Unity Catalog (Pratinjau Umum)
• Unity Catalog adalah GA
• Delta Sharing adalah GA

Photon adalah GA

Photon sekarang tersedia secara umum, dimulai dengan Databricks Runtime 11.1. Photon adalah mesin kueri vektor asli di Azure Databricks, ditulis agar kompatibel langsung dengan API Apache Spark sehingga berfungsi dengan kode yang ada. Photon dikembangkan di C++ untuk memanfaatkan perangkat keras modern, dan menggunakan teknik terbaru dalam pemrosesan kueri vektorisasi untuk memanfaatkan paralelisme tingkat data dan instruksi dalam CPU, meningkatkan performa pada data dan aplikasi dunia nyata—semuanya secara asli di data lake Anda.

Photon adalah bagian dari runtime dengan performa tinggi yang menjalankan panggilan SQL dan DataFrame API yang ada lebih cepat dan mengurangi total biaya per beban kerja Anda. Photon digunakan secara default di gudang SQL Databricks.

Fitur dan peningkatan baru meliputi:

• Operator pengurutan vektorisasi baru
• Fungsi jendela baru yang di vektorisasi
• Jenis dan ukuran instans baru di semua cloud

Batasan:

• UDF Scala/Python tidak didukung oleh Photon
• RDD tidak didukung oleh Photon
• Streaming Terstruktur tidak didukung oleh Photon

Untuk informasi selengkapnya, lihat pengumuman Photon berikut ini.

Foton: Operator pengurutan vektor baru

Photon sekarang mendukung pengurutan vektor untuk saat kueri berisi SORT_BY, CLUSTER_BY, atau fungsi jendela dengan ORDER BY.

Batasan: Photon tidak mendukung klausa global ORDER BY . Mengurutkan untuk evaluasi jendela akan difoto, tetapi pengurutan global akan terus berjalan di Spark.

Foton: Fungsi jendela baru yang di-vektorisasi

Photon sekarang mendukung evaluasi fungsi jendela vektor untuk banyak jenis bingkai dan fungsi. Fungsi jendela baru meliputi: row_number, , rank, dense_rank, laglead, percent_rank, ntile, dan nth_value. Jenis bingkai jendela yang didukung: menjalankan (UNBOUNDED PRECEDING AND CURRENT ROW), unbounded (UNBOUNDED PRECEDING AND UNBOUNDED FOLLOWING), growing (UNBOUNDED PRECEDING AND <OFFSET> FOLLOWING), dan shrinking (<OFFSET> PRECEDING AND UNBOUNDED FOLLOWING).

Batasan:

• Photon hanya ROWS mendukung versi semua jenis bingkai.
• Photon belum mendukung jenis bingkai geser (<OFFSET> PRECEDING AND <OFFSET> FOLLOWING).

Foton: Jenis instans yang didukung

• dds_v5
• ds_v5
• eas_v4
• eds_v4
• eds_v5
• es_v5
• las_v3
• ls_v3

Umpan data perubahan sekarang dapat secara otomatis menangani tanda waktu di luar rentang

Ubah umpan data (CDF) sekarang memiliki mode baru bagi Anda untuk memberikan tanda waktu atau versi melewati versi penerapan terbaru tanpa melemparkan kesalahan. Mode ini dinonaktifkan secara default. Anda dapat mengaktifkannya dengan mengatur konfigurasi spark.databricks.delta.changeDataFeed.timestampOutOfRange.enabled ke true.

Menjelaskan dan memperlihatkan fungsi SQL sekarang menampilkan nama Katalog Unity dalam outputnya (Pratinjau Umum)

Perintah DESC TABLE, , DESC DATABASE, DESC SCHEMADESC NAMESPACE, DESC FUNCTION, EXPLAIN, , dan SHOW CREATE TABLE sekarang selalu menampilkan nama katalog dalam outputnya.

Inferensi dan evolusi skema untuk file Parquet di Auto Loader (Pratinjau Umum)

Auto Loader sekarang mendukung inferensi dan evolusi skema untuk file Parquet. Sama seperti format JSON, CSV, dan Avro, Anda sekarang dapat menggunakan kolom data yang diselamatkan untuk menyelamatkan data tak terduga yang mungkin muncul di file Parquet Anda. Ini termasuk data yang tidak dapat diurai dalam jenis data yang diharapkan, kolom yang memiliki casing yang berbeda, atau kolom tambahan yang bukan bagian dari skema yang diharapkan. Anda dapat mengonfigurasi Auto Loader untuk mengembangkan skema secara otomatis saat menemukan penambahan kolom baru dalam data masuk. Lihat Mengonfigurasi inferensi dan evolusi skema di Pemuat Otomatis.

Auto Loader sekarang mendukung evolusi skema untuk Avro (GA)

Lihat Mengonfigurasi inferensi dan evolusi skema di Pemuat Otomatis.

Dukungan Delta Lake untuk penimpaan partisi dinamis

Delta Lake sekarang memungkinkan mode timpa partisi dinamis untuk menimpa semua data yang ada di setiap partisi logis yang penulisannya akan menerapkan data baru. Lihat Menimpa data secara selektif dengan Delta Lake.

Dukungan skema informasi untuk objek yang dibuat di Katalog Unity

Skema informasi menyediakan API berbasis SQL yang menjelaskan sendiri ke metadata berbagai objek database, termasuk tabel dan tampilan, batasan, dan rutinitas. Dalam skema informasi, Anda menemukan sekumpulan tampilan yang menjelaskan objek yang diketahui oleh katalog skema bahwa Anda memiliki hak istimewa untuk melihat. Skema SYSTEM informasi katalog mengembalikan informasi tentang objek di semua katalog dalam metastore. Lihat Skema informasi.

Batasan informasi pada tabel Delta Lake dengan Unity Catalog (Pratinjau Umum)

Anda sekarang dapat menentukan kunci primer informasi dan batasan kunci asing pada tabel Delta Lake dengan Katalog Unity. Batasan informasi tidak diberlakukan. Lihat klausa CONSTRAINT.

Unity Catalog adalah GA

Unity Catalog sekarang tersedia secara umum dimulai dengan Databricks Runtime 11.1. Lihat Apakah itu Katalog Unity?.

Delta Sharing adalah GA

Berbagi Delta sekarang tersedia secara umum dimulai dengan Databricks Runtime 11.1.

Databricks ke Databricks Delta Sharing dikelola sepenuhnya tanpa perlu bertukar token. Anda dapat membuat dan mengelola penyedia, penerima, dan berbagi di UI atau dengan SQL dan REST API.

Beberapa fitur termasuk membatasi akses penerima, mengkueri data dengan daftar akses IP dan pembatasan wilayah, dan mendelegasikan manajemen Berbagi Delta ke non-admin. Anda juga dapat mengkueri perubahan pada data atau berbagi versi tambahan dengan Ubah Umpan Data. Lihat Apa itu Berbagi Delta?.

Perubahan perilaku

Penghapusan properti sensitif untuk DESCRIBE TABLE dan tampilkan properti TABLE.

Properti sensitif diredaksi dalam DataFrames dan output perintah DESCRIBE TABLE dan SHOW TABLE PROPERTIES .

Kluster pekerjaan default ke mode akses pengguna tunggal dengan Databricks Runtime 11.1 dan yang lebih tinggi

Agar mampu Unity Catalog, kluster pekerjaan menggunakan Databricks Runtime 11.1 dan yang lebih tinggi yang dibuat melalui antarmuka pengguna pekerjaan atau API pekerjaan akan default ke mode akses pengguna tunggal. Mode akses Pengguna Tunggal mendukung sebagian besar bahasa pemrograman, fitur kluster, dan fitur tata kelola data. Anda masih dapat mengonfigurasi mode akses bersama melalui UI atau API, tetapi bahasa atau fitur mungkin terbatas.

Peningkatan pustaka

• Pustaka Python yang ditingkatkan:
  • filelock dari 3.6.0 hingga 3.7.1
  • plotly dari 5.6.0 ke 5.8.2
  • protobuf dari 3.20.1 ke 4.21.2
• Pustaka R yang ditingkatkan:
  • chron dari 2,3-56 ke 2,3-57
  • DBI dari 1.1.2 hingga 1.1.3
  • dbplyr dari 2.1.1 ke 2.2.0
  • e1071 dari 1,7-9 ke 1,7-11
  • dari 1.25.0 ke 1.26.1
  • global dari 0,14,0 ke 0,15,1
  • hardhat dari 0.2.0 hingga 1.1.0
  • ipred dari 0,9-12 ke 0,9-13
  • openssl dari 2.0.0 hingga 2.0.2
  • secara paralel dari 1.31.1 hingga 1.32.0
  • processx dari 3.5.3 hingga 3.6.1
  • progressr dari 0.10.0 ke 0.10.1
  • proxy dari 0,4-26 ke 0,4-27
  • ps dari 1.7.0 ke 1.7.1
  • randomForest dari 4,7-1 hingga 4,7-1,1
  • roxygen2 dari 7.1.2 ke 7.2.0
  • Rserve dari 1,8-10 ke 1,8-11
  • RSQLite dari 2.2.13 ke 2.2.14
  • sparklyr dari 1.7.5 ke 1.7.7
  • tinytex dari 0,38 hingga 0,40
  • usethis dari 2.1.5 hingga 2.1.6
  • xfun dari 0,30 hingga 0,31
• Pustaka Java yang ditingkatkan:
  • io.delta.delta-sharing-spark_2.12 dari 0.4.0 hingga 0.5.0

Apache Spark

Databricks Runtime 11.2 mencakup Apache Spark 3.3.0. Rilis ini mencakup semua perbaikan dan peningkatan Spark yang disertakan dalam Databricks Runtime 11.1 (EoS), serta perbaikan bug tambahan dan peningkatan berikut yang dilakukan pada Spark:

• [SPARK-40054] [SQL] Memulihkan sintaks penanganan kesalahan try_cast()
• [SPARK-39489] [CORE] Meningkatkan performa JsonProtocol pengelogan peristiwa dengan menggunakan Jackson alih-alih Json4s
• [SPARK-39319] [CORE][SQL] Membuat konteks kueri sebagai bagian dari SparkThrowable
• [SPARK-40085] [SQL] Gunakan kelas kesalahan INTERNAL_ERROR alih-alih IllegalStateException untuk menunjukkan bug
• [SPARK-40001] [SQL] Buat penulisan NULL ke kolom DEFAULT JSON menulis 'null' ke penyimpanan
• [SPARK-39635] [SQL] Mendukung metrik driver di API metrik kustom DS v2
• [SPARK-39184] [SQL] Menangani array hasil berukuran kurang dalam urutan tanggal dan tanda waktu
• [SPARK-40019] [SQL] Komentar refaktor arrayType berisiNull dan refaktor logika kesalahpahaman dalam ekspresi collectionOperator tentang containsNull
• [SPARK-39989] [SQL] Mendukung perkiraan statistik kolom jika ekspresi dapat dilipat
• [SPARK-39926] [SQL] Memperbaiki bug dalam kolom dukungan DEFAULT untuk pemindaian Parquet non-vektorisasi
• [SPARK-40052] [SQL] Menangani buffer byte langsung di VectorizedDeltaBinaryPackedReader
• [SPARK-40044] [SQL] Memperbaiki jenis interval target dalam kesalahan cast overflow
• [SPARK-39835] [SQL] Perbaiki EliminateSorts hapus pengurutan global di bawah pengurutan lokal
• [SPARK-40002] [SQL] Jangan mendorong batas bawah melalui jendela menggunakan ntile
• [SPARK-39976] [SQL] ArrayIntersect harus menangani null dalam ekspresi kiri dengan benar
• [SPARK-39985] [SQL] Mengaktifkan nilai kolom DEFAULT implisit dalam sisipan dari DataFrames
• [SPARK-39776] [SQL] JOIN string verbose harus menambahkan tipe join
• [SPARK-38901] [SQL] DS V2 mendukung fungsi push down misc
• [SPARK-40028] [SQL][Tindak Lanjut] Meningkatkan contoh fungsi string
• [SPARK-39983] [CORE][SQL] Jangan menyimpan relasi siaran yang tidak diserialisasi pada driver
• [SPARK-39812] [SQL] Menyederhanakan kode yang dibangun AggregateExpression dengan toAggregateExpression
• [SPARK-40028] [SQL] Menambahkan contoh biner untuk ekspresi string
• [SPARK-39981] [SQL] Lempar pengecualian QueryExecutionErrors.castingCauseOverflowErrorInTableInsert di Cast
• [SPARK-40007] [PyTHON][SQL] Menambahkan 'mode' ke fungsi
• [SPARK-40008] [SQL] Mendukung transmisi integral ke interval ANSI
• [SPARK-40003] [PyTHON][SQL] Menambahkan 'median' ke fungsi
• [SPARK-39952] [SQL] SaveIntoDataSourceCommand harus mencache ulang hubungan hasil
• [SPARK-39951] [SQL] Perbarui pemeriksaan kolom Parquet V2 untuk bidang berlapis
• [SPARK-39775] [CORE][AVRO] Menonaktifkan validasi nilai default saat mengurai skema Avro
• [SPARK-33236] [Acak] Backport ke DBR 11.x: Aktifkan layanan acak berbasis Push untuk menyimpan status di tingkat NM DB untuk pekerjaan yang mempertahankan hidupkan ulang
• [SPARK-39836] [SQL] Sederhanakan V2ExpressionBuilder dengan mengekstrak metode umum.
• [SPARK-39867] [SQL] Batas global tidak boleh mewarisi OrderPreservingUnaryNode
• [SPARK-39873] [SQL] Hapus OptimizeLimitZero dan gabungkan ke dalam EliminateLimits
• [SPARK-39961] [SQL] DS V2 push-down menerjemahkan Cast jika cast aman
• [SPARK-39872] [SQL] Ubah untuk digunakan BytePackerForLong#unpack8Values dengan api input Array di VectorizedDeltaBinaryPackedReader
• [SPARK-39858] [SQL] Menghapus aturan yang tidak perlu AliasHelper atau PredicateHelper untuk beberapa aturan
• [SPARK-39962] [WARMFIX][ES-393486][PyTHON][SQL] Terapkan proyeksi saat atribut grup kosong
• [SPARK-39900] [SQL] Mengatasi kondisi parsial atau dinegasikan dalam pushdown predikat format biner
• [SPARK-39904] [SQL] Ganti nama inferDate untuk memilihDate dan mengklarifikasi semantik opsi di sumber data CSV
• [SPARK-39958] [SQL] Menambahkan log peringatan ketika tidak dapat memuat objek metrik kustom
• [SPARK-39936] [SQL] Menyimpan skema di properti untuk Tampilan Spark
• [SPARK-39932] [SQL] WindowExec harus menghapus buffer partisi akhir
• [SPARK-37194] [SQL] Hindari pengurutan yang tidak perlu dalam penulisan v1 jika bukan partisi dinamis
• [SPARK-39902] [SQL] Menambahkan detail Pemindaian ke simpul pemindaian paket spark di SparkUI
• [SPARK-39865] [SQL] Perlihatkan pesan kesalahan yang tepat pada kesalahan luapan sisipan tabel
• [SPARK-39940] [SS] Refresh tabel katalog pada kueri streaming dengan sink DSv1
• [SPARK-39827] [SQL] Gunakan kelas ARITHMETIC_OVERFLOW kesalahan pada int overflow di add_months()
• [SPARK-39914] [SQL] Menambahkan Filter DS V2 ke konversi Filter V1
• [SPARK-39857] [SQL] Backport DBR 11.x manual; V2ExpressionBuilder menggunakan jenis data LiteralValue yang salah untuk Predikat #43454
• [SPARK-39840] [SQL][PyTHON] Factor PythonArrowInput keluar sebagai simetri ke PythonArrowOutput
• [SPARK-39651] [SQL] Memangkas kondisi filter jika dibandingkan dengan rand adalah deterministik
• [SPARK-39877] [PyTHON] Menambahkan unpivot ke PySpark DataFrame API
• [SPARK-39847] [WARMFIX][SS] Memperbaiki kondisi balapan di RocksDBLoader.loadLibrary() jika utas pemanggil terganggu
• [SPARK-39909] [SQL] Mengatur pemeriksaan informasi push down untuk JDBCV2Suite
• [SPARK-39834] [SQL][SS] Sertakan statistik dan batasan asal untuk LogicalRDD jika berasal dari DataFrame
• [SPARK-39849] [SQL] Dataset.as(StructType) mengisi kolom baru yang hilang dengan nilai null
• [SPARK-39860] [SQL] Ekspresi lainnya harus memperluas Predikat
• [SPARK-39823] [SQL][PyTHON] Ganti nama Dataset.as sebagai Dataset.to dan tambahkan DataFrame.to di PySpark
• [SPARK-39918] [SQL][MINOR] Ganti kata "tidak sebanding" dengan "tidak dapat dibandingkan" dalam pesan kesalahan
• [SPARK-39857] [SQL][3.3] V2ExpressionBuilder menggunakan jenis data LiteralValue yang salah untuk Dalam predikat
• [SPARK-39862] [SQL] Backport manual untuk PR 43654 yang menargetkan DBR 11.x: Memperbarui SQLConf.DEFAULT_COLUMN_ALLOWED_PROVIDERS untuk memungkinkan/menolak ALTER TABLE ... TAMBAHKAN perintah COLUMN secara terpisah.
• [SPARK-39844] [SQL] Backport manual untuk PR 43652 yang menargetkan DBR 11.x
• [SPARK-39899] [SQL] Perbaiki meneruskan parameter pesan ke InvalidUDFClassException
• [SPARK-39890] [SQL] Membuat TakeOrderedAndProjectExec mewarisi AliasAwareOutputOrdering
• [SPARK-39809] [PyTHON] Mendukung CharType di PySpark
• [SPARK-38864] [SQL] Menambahkan unpivot / melt ke Himpunan Data
• [SPARK-39864] [SQL] Lazily mendaftarkan ExecutionListenerBus
• [SPARK-39808] [SQL] Mendukung MODE fungsi agregat
• [SPARK-39839] [SQL] Menangani kasus khusus Desimal panjang variabel null dengan offset non-nolAndSize dalam pemeriksaan integritas struktural UnsafeRow
• [SPARK-39875] [SQL] Mengubah protected metode di kelas akhir ke private atau package-visible
• [SPARK-39731] [SQL] Memperbaiki masalah dalam sumber data CSV dan JSON saat mengurai tanggal dalam format "yyyyMMdd" dengan kebijakan pengurai waktu YANG DIKOREKSI
• [SPARK-39805] [SS] Hentikan Trigger.Once dan Promosikan Trigger.AvailableNow
• [SPARK-39784] [SQL] Letakkan nilai Literal di sisi kanan filter sumber data setelah menerjemahkan Ekspresi Katalis ke filter sumber data
• [SPARK-39672] [SQL][3.1] Perbaiki penghapusan proyek sebelum memfilter dengan subkueri berkorelasi
• [SPARK-39552] [SQL] Menyatukan v1 dan v2 DESCRIBE TABLE
• [SPARK-39806] [SQL] _metadata Mengakses pada tabel yang dipartisi dapat menabrak kueri
• [SPARK-39810] [SQL] Catalog.tableExists harus menangani namespace berlapis
• [SPARK-37287] [SQL] Menarik keluar partisi dinamis dan pengurutan wadah dari FileFormatWriter
• [SPARK-39469] [SQL] Jenis tanggal inferensi untuk inferensi skema CSV
• [SPARK-39148] [SQL] DS V2 agregat push down dapat bekerja dengan OFFSET atau LIMIT
• [SPARK-39818] [SQL] Memperbaiki bug dalam jenis ARRAY, STRUCT, MAP dengan nilai DEFAULT dengan bidang NULL
• [SPARK-39792] [SQL] Menambahkan DecimalDivideWithOverflowCheck untuk rata-rata desimal
• [SPARK-39798] [SQL] Replcace toSeq.toArray dengan .toArray[Any] dalam konstruktor GenericArrayData
• [SPARK-39759] [SQL] Menerapkan listIndexes dalam JDBC (dialek H2)
• [SPARK-39385] [SQL] Mendukung pendorongan ke bawah REGR_AVGX dan REGR_AVGY
• [SPARK-39787] [SQL] Menggunakan kelas kesalahan dalam kesalahan penguraian fungsi to_timestamp
• [SPARK-39760] [PyTHON] Mendukung Varchar di PySpark
• [SPARK-39557] [SQL] Backport manual ke DBR 11.x: Mendukung jenis ARRAY, STRUCT, MAP sebagai nilai DEFAULT
• [SPARK-39758] [SQL][3.3] Perbaiki NPE dari fungsi regexp pada pola yang tidak valid
• [SPARK-39749] [SQL] Mode ANSI SQL: Gunakan representasi string biasa pada transmisi Desimal ke String
• [SPARK-39704] [SQL] Menerapkan createIndex & dropIndex & indexExists di JDBC (dialek H2)
• [SPARK-39803] [SQL] Gunakan LevenshteinDistance alih-alih StringUtils.getLevenshteinDistance
• [SPARK-39339] [SQL] Mendukung jenis TimestampNTZ di sumber data JDBC
• [SPARK-39781] [SS] Menambahkan dukungan untuk menyediakan max_open_files ke penyedia penyimpanan status rocksdb
• [SPARK-39719] [R] Menerapkan databaseExists/getDatabase di SparkR mendukung namespace layanan 3L
• [SPARK-39751] [SQL] Mengganti nama metrik pemeriksaan kunci agregat hash
• [SPARK-39772] Namespace layanan [SQL] harus null ketika database null di konstruktor lama
• [SPARK-39625] [SPARK-38904][SQL] Tambahkan Dataset.as(StructType)
• [SPARK-39384] [SQL] Mengkompilasi fungsi agregat regresi linier bawaan untuk dialek JDBC
• [SPARK-39720] [R] Terapkan tableExists/getTable di SparkR untuk namespace 3L
• [SPARK-39744] [SQL] REGEXP_INSTR Menambahkan fungsi
• [SPARK-39716] [R] Buat currentDatabase/setCurrentDatabase/listCatalogs di SparkR mendukung namespace 3L
• [SPARK-39788] [SQL] Ganti nama catalogName menjadi dialectName untuk JdbcUtils
• [SPARK-39647] [CORE] Daftarkan pelaksana dengan ESS sebelum mendaftarkan BlockManager
• [SPARK-39754] [CORE][SQL] Menghapus yang tidak digunakan import atau tidak perlu {}
• [SPARK-39706] [SQL] Atur kolom yang hilang dengan defaultValue sebagai konstanta di ParquetColumnVector
• [SPARK-39699] [SQL] Membuat CollapseProject lebih cerdas tentang ekspresi pembuatan koleksi
• [SPARK-39737] [SQL] PERCENTILE_CONT dan PERCENTILE_DISC harus mendukung filter agregat
• [SPARK-39579] [SQL][PYTHON][R] Membuat ListFunctions/getFunction/functionExists kompatibel dengan namespace 3 lapisan
• [SPARK-39627] [SQL] Pushdown JDBC V2 harus menyatukan API kompilasi
• [SPARK-39748] [SQL][SS] Sertakan rencana logis asal untuk LogicalRDD jika berasal dari DataFrame
• [SPARK-39385] [SQL] Menerjemahkan fungsi agregat regresi linier untuk pushdown
• [SPARK-39695] [SQL] REGEXP_SUBSTR Menambahkan fungsi
• [SPARK-39667] [SQL] Tambahkan solusi lain ketika tidak ada cukup memori untuk membangun dan menyiarkan tabel
• [SPARK-39666] [ES-337834][SQL] Gunakan UnsafeProjection.create untuk menghormati spark.sql.codegen.factoryMode di ExpressionEncoder
• [SPARK-39643] [SQL] Melarang ekspresi subkueri dalam nilai DEFAULT
• [SPARK-38647] [SQL] Menambahkan campuran SupportsReportOrdering dalam antarmuka untuk Pemindaian (DataSourceV2)
• [SPARK-39497][SQL] Meningkatkan pengecualian analisis kolom kunci peta yang hilang
• [SPARK-39661] [SQL] Hindari membuat Pencatat SLF4J yang tidak perlu
• [SPARK-39713] [SQL] Mode ANSI: tambahkan saran penggunaan try_element_at untuk kesalahan INVALID_ARRAY_INDEX
• [SPARK-38899] [SQL]DS V2 mendukung fungsi tanggalwaktu push down
• [SPARK-39638] [SQL] Ubah untuk digunakan ConstantColumnVector untuk menyimpan kolom partisi di OrcColumnarBatchReader
• [SPARK-39653] [SQL] Bersihkan ColumnVectorUtils#populate(WritableColumnVector, InternalRow, int) dari ColumnVectorUtils
• [SPARK-39231] [SQL] Gunakan ConstantColumnVector alih-alih On/OffHeapColumnVector menyimpan kolom partisi di VectorizedParquetRecordReader
• [SPARK-39547] [SQL] V2SessionCatalog tidak boleh melempar NoSuchDatabaseException di loadNamspaceMetadata
• [SPARK-39447] [SQL] Hindari AssertionError di AdaptiveSparkPlanExec.doExecuteBroadcast
• [SPARK-39492] [SQL] MISSING_COLUMN pengerjaan ulang
• [SPARK-39679] [SQL] TakeOrderedAndProjectExec harus menghormati urutan output anak
• [SPARK-39606] [SQL] Menggunakan statistik anak untuk memperkirakan operator pesanan
• [SPARK-39611] [PyTHON][PS] Memperbaiki alias yang salah dalam array_ufunc
• [SPARK-39656] [SQL][3.3] Perbaiki namespace yang salah di DescribeNamespaceExec
• [SPARK-39675] [SQL] Beralih konfigurasi 'spark.sql.codegen.factoryMode' dari tujuan pengujian ke tujuan internal
• [SPARK-39139] [SQL] DS V2 mendukung push down DS V2 UDF
• [SPARK-39434][SQL] Menyediakan konteks kueri kesalahan runtime saat indeks array berada di luar batas
• [SPARK-39479] [SQL] DS V2 mendukung fungsi matematika push down (non ANSI)
• [SPARK-39618] [SQL] REGEXP_COUNT Menambahkan fungsi
• [SPARK-39553] [CORE] Pengacakan multi-utas yang tidak terdaftar tidak boleh melempar NPE saat menggunakan Scala 2.13
• [SPARK-38755] [PyTHON][3.3] Tambahkan file untuk mengatasi fungsi umum panda yang hilang
• [SPARK-39444] [SQL] Menambahkan OptimizeSubqueries ke dalam daftar nonExcludableRules
• [SPARK-39316] [SQL] Gabungkan PromotePrecision dan CheckOverflow ke dalam aritmatika biner desimal
• [SPARK-39505] [UI] Konten log escape yang dirender di UI
• [SPARK-39448] [SQL] Tambahkan ReplaceCTERefWithRepartition ke dalam nonExcludableRules daftar
• [SPARK-37961] [SQL] Mengambil alih maxRows/maxRowsPerPartition untuk beberapa operator logis
• [SPARK-35223] Kembalikan Tambahkan IssueNavigationLink
• [SPARK-39633] [SQL] Mendukung tanda waktu dalam detik untuk TimeTravel menggunakan opsi Dataframe
• [SPARK-38796] [SQL] Perbarui dokumentasi untuk string format angka dengan fungsi {try_}to_number
• [SPARK-39650] [SS] Memperbaiki skema nilai yang salah dalam deduplikasi streaming dengan kompatibilitas mundur
• [SPARK-39636] [CORE][UI] Memperbaiki beberapa bug di JsonProtocol, yang memengaruhi tumpukan StorageLevels dan ResourceRequests Tugas/Eksekutor
• [SPARK-39432] [SQL] Mengembalikan ELEMENT_AT_BY_INDEX_ZERO dari element_at(*, 0)
• [SPARK-39349] Menambahkan metode CheckError terpusat untuk QA jalur kesalahan
• [SPARK-39453] [SQL] DS V2 mendukung pendorongan fungsi non-agregat lainnya (non ANSI)
• [SPARK-38978] [SQL] DS V2 mendukung pendorongan ke bawah operator OFFSET
• [SPARK-39567] [SQL] Mendukung interval ANSI dalam fungsi persentil
• [SPARK-39383] [SQL] Mendukung kolom DEFAULT di sumber data ALTER TABLE ALTER COLUMNS ke V2
• [SPARK-39396] [SQL] Memperbaiki pengecualian login LDAP 'kode kesalahan 49 - kredensial yang tidak valid'
• [SPARK-39548] [SQL] Perintah CreateView dengan kueri klausa jendela mencapai masalah definisi jendela yang salah tidak ditemukan
• [SPARK-39575] [AVRO] tambahkan ByteBuffer#rewind setelah ByteBuffer#get di Avr...
• [SPARK-39543] Opsi DataFrameWriterV2 harus diteruskan ke properti penyimpanan jika fallback ke v1
• [SPARK-39564] [SS] Mengekspos informasi tabel katalog ke paket logis dalam kueri streaming
• [SPARK-39582] [SQL] Perbaiki penanda "Sejak" untuk array_agg
• [SPARK-39388] [SQL] Gunakan orcSchema kembali saat mendorong ke bawah predikat Orc
• [SPARK-39511] [SQL] Tingkatkan push down batas lokal 1 untuk sisi kanan kiri semi/anti join jika kondisi gabungan kosong
• [SPARK-38614] [SQL] Jangan mendorong batas bawah melalui jendela yang menggunakan percent_rank
• [SPARK-39551] [SQL] Menambahkan pemeriksaan paket tidak valid AQE
• [SPARK-39383] [SQL] Mendukung kolom DEFAULT di ALTER TABLE ADD COLUMNS ke sumber data V2
• [SPARK-39538] [SQL] Hindari membuat Pencatat SLF4J yang tidak perlu
• [SPARK-39383] [SQL] Backport manual ke DBR 11.x: Refaktor dukungan kolom DEFAULT untuk melewati Analyzer utama
• [SPARK-39397] [SQL] Rilekskan AliasAwareOutputExpression untuk mendukung alias dengan ekspresi
• [SPARK-39496] [SQL] Menangani struct null di Inline.eval
• [SPARK-39545] [SQL] Mengambil alih concat metode untuk ExpressionSet di Scala 2.13 untuk meningkatkan performa
• [SPARK-39340] [SQL] Pushdown agg DS v2 harus memungkinkan titik-titik dalam nama kolom tingkat atas
• [SPARK-39488] [SQL] Menyederhanakan penanganan kesalahan TempResolvedColumn
• [SPARK-38846] [SQL] Menambahkan pemetaan data eksplisit antara Teradata Numeric Type dan Spark DecimalType
• [SPARK-39520] [SQL] Mengambil alih -- metode untuk ExpressionSet di Scala 2.13
• [SPARK-39470] [SQL] Mendukung pemeran interval ANSI ke desimal
• [SPARK-39477] [SQL] Menghapus info "Jumlah kueri" dari file emas SQLQueryTestSuite
• [SPARK-39419] [SQL] Memperbaiki ArraySort untuk melempar pengecualian saat komparator mengembalikan null
• [SPARK-39061] [SQL] Mengatur nullable dengan benar untuk Inline atribut output
• [SPARK-39320] [SQL] Mendukung fungsi agregat MEDIAN
• [SPARK-39261] [CORE] Meningkatkan pemformatan baris baru untuk pesan kesalahan
• [SPARK-39355] [SQL] Kolom tunggal menggunakan yang dikutip untuk membangun UnresolvedAttribute
• [SPARK-39351] [SQL] SHOW CREATE TABLE harus meredakan properti
• [SPARK-37623] [SQL] Mendukung Fungsi Agregat ANSI: regr_intercept
• [SPARK-39374] [SQL] Meningkatkan pesan kesalahan untuk daftar kolom yang ditentukan pengguna
• [SPARK-39255] [SQL][3.3] Meningkatkan pesan kesalahan
• [SPARK-39321] [SQL] Refaktor TryCast untuk menggunakan RuntimeReplaceable
• [SPARK-39406] [PyTHON] Menerima array NumPy di createDataFrame
• [SPARK-39267] [SQL] Membersihkan simbol dsl yang tidak perlu
• [SPARK-39171] [SQL] Menyatukan ekspresi Cast
• [SPARK-28330] [SQL] Mendukung ANSI SQL: hasil klausa offset dalam ekspresi kueri
• [SPARK-39203] [SQL] Menulis ulang lokasi tabel ke URI absolut berdasarkan URI database
• [SPARK-39313] [SQL] toCatalystOrdering harus gagal jika V2Expression tidak dapat diterjemahkan
• [SPARK-39301] [SQL][PyTHON] Manfaatkan LocalRelation dan hormati ukuran batch Panah dalam createDataFrame dengan pengoptimalan Panah
• [SPARK-39400] [SQL] spark-sql harus menghapus dir sumber daya apache hive dalam semua kasus

Pembaruan pemeliharaan

Lihat Pembaruan pemeliharaan Databricks Runtime 11.1.

Lingkungan sistem

• Sistem Operasi: Ubuntu 20.04.4 LTS
• Java: Zulu 8.56.0.21-CA-linux64
• Scala: 2.12.14
• Python: 3.9.5
• R: 4.1.3
• Delta Lake: 1.2.1

Pustaka Python yang diinstal

Pustaka R yang diinstal

Pustaka R diinstal dari rekam jepret Microsoft CRAN pada 2022-08-15.

Pustaka Java dan Scala yang diinstal (versi kluster Scala 2.12)