Databricks Runtime 11.2 (EoS)

Catatan rilis berikut memberikan informasi tentang Databricks Runtime 11.2, didukung oleh Apache Spark 3.3.0. Databricks merilis versi ini pada September 2022.

Fitur dan peningkatan baru

• Mengubah izin ALTER TABLE di table kontrol akses (table ACL)
• Pemangkasan dinamis untuk MERGE INTO
• Deteksi konflik yang ditingkatkan di Delta dengan pemangkasan file dinamis
• Kartu Integrasi Sumber Terbuka baru pada beranda DSE/SQL
• CONVERT TO DELTA partition peningkatan deteksi
• skema Table sekarang mendukung values default untuk columns
• Fungsi geospasial H3 baru
• Dependensi Databricks Runtime baru
• Bawa kunci Anda sendiri: enkripsi Git credentials
• SQL: Fungsi agregat baru any_value
• Perintah sistem file Utilitas Databricks diizinkan pada lebih banyak jenis kluster
• Privileg CREATE sekarang dapat diberikan di metastores untuk Unity Catalog
• Penulisan yang dioptimalkan untuk tables yang tidak dipartisi di kluster yang diaktifkan Photon
• Dukungan foton untuk lebih banyak sumber data
• SQL: ALTER SHARE sekarang mendukung START VERSION

Ubah ke izin ALTER TABLE di kontrol akses table ( ACLtable)

Sekarang, pengguna hanya memerlukan izin MODIFY untuk mengubah schema atau properti dari tabledengan ALTER TABLE. Kepemilikan masih diperlukan untuk grant izin pada table, mengubah pemilik dan lokasinya, atau mengganti namanya. Perubahan ini membuat model izin untuk ACL table konsisten dengan Unity Catalog. Lihat ALTER TABLE.

Pemangkasan dinamis untuk MERGE INTO

Saat menggunakan komputasi yang diaktifkan Photon, MERGE INTO sekarang menggunakan file dinamis dan pemangkasan partition jika sesuai untuk meningkatkan performa, misalnya ketika sumber kecil table digabungkan menjadi target yang lebih besar table.

Deteksi konflik yang disempurnakan di Delta dengan pemangkasan file dinamis

Saat memeriksa potensi konflik selama penerapan, deteksi konflik sekarang mempertimbangkan file yang dipangkas oleh pemangkasan file dinamis, tetapi tidak akan dipangkas oleh filter statis. Ini menghasilkan penurunan jumlah transaksi yang gagal.

Kartu Integrasi Sumber Terbuka baru pada beranda DSE/SQL

Memperkenalkan kartu 'Integrasi Sumber Terbuka' baru di beranda DSE/SQL yang menampilkan opsi integrasi sumber terbuka seperti Delta Live Tables dan dbt core.

peningkatan berbagai deteksi CONVERT TO DELTApartition

CONVERT TO DELTA secara otomatis menentukan partitionschema untuk Parquet tables terdaftar dalam metastore Apache Hive atau Unity Catalog, tanpa perlu menyertakan klausa PARTITIONED BY.

CONVERT TO DELTA memanfaatkan informasi partition dari metastore untuk menemukan file untuk Parquet table alih-alih mencantumkan seluruh jalur dasar, memastikan partisi yang dihilangkan tidak get ditambahkan ke Delta table.

Lihat Mengonversi ke Delta Lake.

skema Table sekarang mendukung values default untuk columns

Skema Table sekarang mendukung pengaturan default values untuk columns. perintah INSERT, UPDATE, dan DELETE untuk columns ini dapat merujuk ke values ini dengan kata kunci DEFAULT. Misalnya, CREATE TABLE t (id INT, data INT DEFAULT 42) USING PARQUET diikuti oleh INSERT INTO t VALUES (1, DEFAULT) akan menambahkan baris (1, 42). Perilaku ini didukung untuk sumber data CSV, JSON, Orc, dan Parquet.

Fungsi geospasial H3 baru

Anda sekarang dapat menggunakan 28 ekspresi H3 bawaan baru untuk pemrosesan geospasial di kluster yang diaktifkan Photon, tersedia di SQL, Scala, dan Python. Lihat Fungsi geospasial H3.

Dependensi Databricks Runtime baru

Databricks Runtime sekarang tergantung pada pustaka H3 Java versi 3.7.0.

Bawa kunci Anda sendiri: Enkripsi git credentials

Anda dapat menggunakan Azure Key Vault untuk mengenkripsi token akses pribadi Git (PAT) atau kredensial Git lainnya.

Lihat Set membuka folder Databricks Git (Repos).

SQL: Fungsi agregat baru any_value

Fungsi agregat baru any_value mengembalikan nilai expr acak untuk sekelompok baris. Lihat fungsi agregat any_value.

Perintah sistem file Utilitas Databricks diizinkan pada lebih banyak jenis kluster

Perintah dbutils.fs (kecuali untuk perintah terkait pemasangan) sekarang diperbolehkan di kluster isolasi pengguna yang menggunakan Unity Catalog, serta kluster ACL warisan table ketika pengguna memiliki izin ANY FILE.

Hak akses CREATE kini dapat diberikan pada metastores untuk Unity Catalog

CREATE CATALOG, CREATE EXTERNAL LOCATION, CREATE SHARE, CREATE RECIPIENT, dan hak istimewa MEMBUAT PENYEDIA sekarang dapat diberikan pada Unity Catalogmetastores.

Optimasi penulisan untuk tables yang tidak dipartisi di kluster yang menggunakan Photon

Unity Catalogtables terkelola sekarang secara otomatis mempertahankan file dengan ukuran yang disetel dengan baik dari tables yang tidak dipartisi untuk meningkatkan kecepatan kueri dan performa optimize.

Dukungan foton untuk lebih banyak sumber data

Photon sekarang mendukung lebih banyak sumber data, termasuk CSV dan Avro, dan juga kompatibel dengan bingkai data yang di-cache. Sebelumnya, memindai sumber data ini berarti bahwa seluruh kueri tidak dapat difoto, terlepas dari operator atau ekspresi kueri. Sekarang, kueri yang memindai sumber data ini dapat difotonisasi, membuka kunci latensi yang signifikan dan peningkatan TCO.

Fitur ini diaktifkan secara default oleh spark.databricks.photon.photonRowToColumnar.enabled konfigurasi.

Batasan:

• Skema dengan jenis berlapis tidak didukung (yaitu array, peta, dan struktur) dalam rilis ini.
• Sumber ORC, RDD, Kinesis, Kafka, dan EventHub tidak didukung dalam rilis ini.

SQL: ALTER SHARE sekarang mendukung VERSI MULAI

Perintah ALTER SHARE sekarang mendukung START VERSION, yang memungkinkan providers berbagi data mulai dari versi table tertentu. Lihat ALTER SHARE.

Peningkatan pustaka

• Pustaka Python yang ditingkatkan:
  • distlib dari 0.3.4 hingga 0.3.5
  • filelock dari 3.7.1 hingga 3.8.0
  • plotly dari 5.8.2 ke 5.9.0
  • protobuf dari 4.21.2 ke 4.21.5
• Pustaka R yang ditingkatkan:
  • sapu dari 0,8,0 hingga 1,0,0
  • bslib dari 0.3.1 hingga 0.4.0
  • callr dari 3.7.0 ke 3.7.1
  • caret dari 6,0-92 hingga 6,0-93
  • dbplyr dari 2.2.0 ke 2.2.1
  • devtools dari 2.4.3 hingga 2.4.4
  • evaluasi dari 0,15 hingga 0,16
  • jauh dari 2.1.0 ke 2.1.1
  • fontawesome dari 0.2.2 hingga 0.3.0
  • dari 1.26.1 hingga 1.27.0
  • generik dari 0.1.2 hingga 0.1.3
  • gert dari 1.6.0 hingga 1.7.0
  • global dari 0,15,1 ke 0,16,0
  • googlesheets4 dari 1.0.0 hingga 1.0.1
  • hardhat dari 1.1.0 hingga 1.2.0
  • htmltool dari 0.5.2 hingga 0.5.3
  • secara paralel dari 1.32.0 hingga 1.32.1
  • pilar dari 1.7.0 hingga 1.8.0
  • pkgload dari 1.2.4 ke 1.3.0
  • processx dari 3.6.1 hingga 3.7.0
  • Rcpp dari 1.0.8.3 ke 1.0.9
  • resep dari 0.2.0 hingga 1.0.1
  • rlang dari 1.0.2 ke 1.0.4
  • roxygen2 dari 7.2.0 ke 7.2.1
  • RSQLite dari 2.2.14 ke 2.2.15
  • sass dari 0.4.1 hingga 0.4.2
  • mengkilap dari 1.7.1 hingga 1.7.2
  • stringi dari 1.7.6 hingga 1.7.8
  • tibble dari 3.1.7 ke 3.1.8
  • rapi dari 1.3.1 hingga 1.3.2
  • timeDate dari 3043.102 hingga 4021.104
  • xfun dari 0,31 hingga 0,32
• Pustaka Java yang ditingkatkan:
  • org.apache.orc.orc-core dari 1.7.4 hingga 1.7.5
  • org.apache.orc.orc-mapreduce dari 1.7.4 ke 1.7.5
  • org.apache.orc.orc-shims dari 1.7.4 hingga 1.7.5

Apache Spark

Databricks Runtime 11.2 mencakup Apache Spark 3.3.0. Rilis ini mencakup semua perbaikan dan peningkatan Spark yang disertakan dalam Databricks Runtime 11.1 (EoS), serta perbaikan bug tambahan dan peningkatan berikut yang dilakukan pada Spark:

• [SPARK-40151] [WARMFIX][SC-109002][SC-108809][SQL] Mengembalikan jenis interval ANSI yang lebih luas dari fungsi persentil
• [SPARK-40054] [SQL] Restore sintaks penanganan kesalahan try_cast()
• [SPARK-39489] [CORE] Meningkatkan performa JsonProtocol pengelogan peristiwa dengan menggunakan Jackson alih-alih Json4s
• [SPARK-39319] [CORE][SQL] Membuat konteks kueri sebagai bagian dari SparkThrowable
• [SPARK-40085] [SQL] Gunakan kelas kesalahan INTERNAL_ERROR alih-alih IllegalStateException untuk menunjukkan bug
• [SPARK-40001] [SQL] Membuat penulisan NULL ke JSON DEFAULT columns menulis 'null' ke penyimpanan
• [SPARK-39635] [SQL] Mendukung metrik driver di API metrik kustom DS v2
• [SPARK-39184] [SQL] Menangani array hasil berukuran kurang dalam urutan tanggal dan tanda waktu
• [SPARK-40019] [SQL] Komentar refaktor arrayType berisiNull dan refaktor logika kesalahpahaman dalam ekspresi collectionOperator tentang containsNull
• [SPARK-39989] [SQL] Perkiraan dukungan column statistik jika ekspresi dapat dilipat
• [SPARK-39926] [SQL] Memperbaiki bug dalam dukungan DEFAULT column untuk pemindaian Parquet yang tidak di-vektorisasi
• [SPARK-40052] [SQL] Menangani buffer byte langsung di VectorizedDeltaBinaryPackedReader
• [SPARK-40044] [SQL] Memperbaiki jenis interval target dalam kesalahan cast overflow
• [SPARK-39835] [SQL] Perbaikan EliminateSorts remove pengurutan global di bawah pengurutan lokal
• [SPARK-40002] [SQL] Jangan dorong limit melalui window dengan menggunakan ntile
• [SPARK-39976] [SQL] ArrayIntersect harus menangani null dalam ekspresi kiri dengan benar
• [SPARK-39985] [SQL] Aktifkan columnvalues DEFAULT implisit dalam penyisipan dari DataFrames
• [SPARK-39776] [SQL] JOIN string verbose sebaiknya menambahkan tipe Join
• [SPARK-38901] [SQL] DS V2 mendukung fungsi push down misc
• [SPARK-40028] [SQL][Tindak Lanjut] Meningkatkan contoh fungsi string
• [SPARK-39983] [CORE][SQL] Jangan menyimpan relasi siaran yang tidak diserialisasi pada driver
• [SPARK-39812] [SQL] Menyederhanakan kode yang dibangun AggregateExpression dengan toAggregateExpression
• [SPARK-40028] [SQL] Menambahkan contoh biner untuk ekspresi string
• [SPARK-39981] [SQL] Lempar pengecualian QueryExecutionErrors.castingCauseOverflowErrorInTableInsert di Cast
• [SPARK-40007] [PyTHON][SQL] Menambahkan 'mode' ke fungsi
• [SPARK-40008] [SQL] Mendukung transmisi integral ke interval ANSI
• [SPARK-40003] [PyTHON][SQL] Menambahkan 'median' ke fungsi
• [SPARK-39952] [SQL] SaveIntoDataSourceCommand harus mencache ulang hubungan hasil
• [SPARK-39951] [SQL] Update pemeriksaan kolom Parquet V2 untuk bidang berlapis
• [SPARK-33236] [Acak] Backport ke DBR 11.x: Aktifkan layanan acak berbasis Push untuk menyimpan status di tingkat NM DB untuk pekerjaan yang mempertahankan hidupkan ulang
• [SPARK-39836] [SQL] Sederhanakan V2ExpressionBuilder dengan mengekstrak metode umum.
• [SPARK-39873] [SQL] RemoveOptimizeLimitZero dan menggabungkannya ke dalam EliminateLimits
• [SPARK-39961] [SQL] DS V2 push-down menerjemahkan Cast jika cast aman
• [SPARK-39872] [SQL] Ubah untuk digunakan BytePackerForLong#unpack8Values dengan api input Array di VectorizedDeltaBinaryPackedReader
• [SPARK-39858] [SQL] RemoveAliasHelper atau PredicateHelper yang tidak perlu untuk beberapa aturan
• [SPARK-39900] [SQL] Mengatasi kondisi parsial atau dinegasikan dalam pushdown predikat format biner
• [SPARK-39904] [SQL] Ganti nama inferDate untuk memilihDate dan mengklarifikasi semantik opsi di sumber data CSV
• [SPARK-39958] [SQL] Menambahkan log peringatan ketika tidak dapat memuat objek metrik kustom
• [SPARK-39932] [SQL] WindowExec harus menghapus buffer partition akhir
• [SPARK-37194] [SQL] Hindari pengurutan yang tidak perlu dalam penulisan v1 jika tidak dinamis partition
• [SPARK-39902] [SQL] Menambahkan detail Pemindaian ke simpul pemindaian paket spark di SparkUI
• [SPARK-39865] [SQL] Tampilkan pesan kesalahan yang tepat pada kesalahan kelebihan batas tableinsert
• [SPARK-39940] [SS] Refreshcatalogtable pada kueri streaming dengan sink DSv1
• [SPARK-39827] [SQL] Gunakan kelas ARITHMETIC_OVERFLOW kesalahan pada int overflow di add_months()
• [SPARK-39914] [SQL] Menambahkan Filter DS V2 ke konversi Filter V1
• [SPARK-39857] [SQL] Backport DBR 11.x manual; V2ExpressionBuilder menggunakan jenis data LiteralValue yang salah untuk Predikat #43454
• [SPARK-39840] [SQL][PyTHON] Factor PythonArrowInput keluar sebagai simetri ke PythonArrowOutput
• [SPARK-39651] [SQL] Memangkas kondisi filter jika dibandingkan dengan rand adalah deterministik
• [SPARK-39877] [PYTHON] Tambahkan unpivot ke PySpark DataFrame API
• [SPARK-39909] [SQL] Mengatur pemeriksaan informasi push down untuk JDBCV2Suite
• [SPARK-39834] [SQL][SS] Sertakan statistik dan batasan asal untuk LogicalRDD jika berasal dari DataFrame
• [SPARK-39849] [SQL] Dataset.as(StructType) mengisi columns baru yang hilang dengan nilai null
• [SPARK-39860] [SQL] Ekspresi lainnya harus memperluas Predikat
• [SPARK-39823] [SQL][PyTHON] Ganti nama Dataset.as sebagai Dataset.to dan tambahkan DataFrame.to di PySpark
• [SPARK-39918] [SQL][MINOR] Ganti kata "tidak sebanding" dengan "tidak dapat dibandingkan" dalam pesan kesalahan
• [SPARK-39857] [SQL][3.3] V2ExpressionBuilder menggunakan jenis data LiteralValue yang salah untuk Dalam predikat
• [SPARK-39862] [SQL] Backport manual untuk PR 43654 yang menargetkan DBR 11.x: Update SQLConf.DEFAULT_COLUMN_ALLOWED_PROVIDERS untuk mengizinkan/denyALTER TABLE ... TAMBAHKAN perintah COLUMN secara terpisah.
• [SPARK-39844] [SQL] Backport manual untuk PR 43652 yang menargetkan DBR 11.x
• [SPARK-39899] [SQL] Perbaiki pengiriman pesan parameters ke InvalidUDFClassException
• [SPARK-39890] [SQL] Membuat TakeOrderedAndProjectExec mewarisi AliasAwareOutputOrdering
• [SPARK-39809] [PyTHON] Mendukung CharType di PySpark
• [SPARK-38864] [SQL] Tambahkan unpivot /melt ke Himpunan Data
• [SPARK-39864] [SQL] Lazily mendaftarkan ExecutionListenerBus
• [SPARK-39808] [SQL] Mendukung MODE fungsi agregat
• [SPARK-39875] [SQL] Mengubah protected metode di kelas akhir ke private atau package-visible
• [SPARK-39731] [SQL] Memperbaiki masalah dalam sumber data CSV dan JSON saat mengurai tanggal dalam format "yyyyMMdd" dengan kebijakan pengurai waktu YANG DIKOREKSI
• [SPARK-39805] [SS] Hentikan Trigger.Once dan Promosikan Trigger.AvailableNow
• [SPARK-39784] [SQL] Letakkan values Literal di sisi kanan filter sumber data setelah menerjemahkan Ekspresi Katalis ke filter sumber data
• [SPARK-39672] [SQL][3.1] Perbaiki penghapusan proyek sebelum memfilter dengan subkueri berkorelasi
• [SPARK-39552] [SQL] Menyatukan v1 dan v2 DESCRIBE TABLE
• [SPARK-39810] [SQL] Catalog.tableExists harus menangani namespace berlapis
• [SPARK-37287] [SQL] Memisahkan partition dinamis dan pengurutan keranjang dari FileFormatWriter
• [SPARK-39469] [SQL] Tentukan jenis tanggal untuk inferensi CSV schema
• [SPARK-39148] [SQL] DS V2 proses agregat "push down" dapat bekerja dengan OFFSET atau LIMIT
• [SPARK-39818] [SQL] Memperbaiki bug dalam jenis ARRAY, STRUCT, MAP dengan values DEFAULT dengan bidang NULL
• [SPARK-39792] [SQL] Menambahkan DecimalDivideWithOverflowCheck untuk rata-rata desimal
• [SPARK-39798] [SQL] Replcace toSeq.toArray dengan .toArray[Any] dalam konstruktor GenericArrayData
• [SPARK-39759] [SQL] Menerapkan listIndexes dalam JDBC (dialek H2)
• [SPARK-39385] [SQL] Mendukung pendorongan ke bawah REGR_AVGX dan REGR_AVGY
• [SPARK-39787] [SQL] Menggunakan kelas kesalahan dalam kesalahan penguraian fungsi to_timestamp
• [SPARK-39760] [PyTHON] Mendukung Varchar di PySpark
• [SPARK-39557] [SQL] Backport manual ke DBR 11.x: Dukungan untuk tipe ARRAY, STRUCT, MAP sebagai tipe DEFAULT values
• [SPARK-39758] [SQL][3.3] Perbaiki NPE dari fungsi regexp pada pola yang tidak valid
• [SPARK-39749] [SQL] Mode ANSI SQL: Gunakan representasi string biasa pada transmisi Desimal ke String
• [SPARK-39704] [SQL] Menerapkan createIndex & dropIndex & indexExists di JDBC (dialek H2)
• [SPARK-39803] [SQL] Gunakan LevenshteinDistance alih-alih StringUtils.getLevenshteinDistance
• [SPARK-39339] [SQL] Mendukung jenis TimestampNTZ di sumber data JDBC
• [SPARK-39781] [SS] Menambahkan dukungan untuk menyediakan max_open_files ke penyedia penyimpanan status rocksdb
• [SPARK-39719] [R] Menerapkan databaseExists/getDatabase di SparkR mendukung namespace layanan 3L
• [SPARK-39751] [SQL] Mengganti nama metrik pemeriksaan kunci agregat hash
• [SPARK-39772] Namespace layanan [SQL] harus null ketika database null di konstruktor lama
• [SPARK-39625] [SPARK-38904][SQL] Tambahkan Dataset.as(StructType)
• [SPARK-39384] [SQL] Mengkompilasi fungsi agregat regresi linier bawaan untuk dialek JDBC
• [SPARK-39720] [R] Terapkan tableExists/getTable di SparkR untuk namespace 3L
• [SPARK-39744] [SQL] REGEXP_INSTR Menambahkan fungsi
• [SPARK-39716] [R] Buat currentDatabase/setCurrentDatabase/listCatalogs di SparkR mendukung namespace 3L
• [SPARK-39788] [SQL] Ganti nama catalogName menjadi dialectName untuk JdbcUtils
• [SPARK-39647] [CORE] Daftarkan pelaksana dengan ESS sebelum mendaftarkan BlockManager
• [SPARK-39754] [CORE][SQL] Removeimport yang tidak digunakan atau {} yang tidak perlu
• [SPARK-39706] [SQL] Set kehilangan column dengan defaultValue sebagai konstanta dalam ParquetColumnVector
• [SPARK-39699] [SQL] Membuat CollapseProject lebih cerdas tentang ekspresi pembuatan koleksi
• [SPARK-39737] [SQL] PERCENTILE_CONT dan PERCENTILE_DISC harus mendukung filter agregat
• [SPARK-39579] [SQL][PYTHON][R] Membuat ListFunctions/getFunction/functionExists kompatibel dengan namespace 3 lapisan
• [SPARK-39627] [SQL] Pushdown JDBC V2 harus menyatukan API kompilasi
• [SPARK-39748] [SQL][SS] Sertakan rencana logis asal untuk LogicalRDD jika berasal dari DataFrame
• [SPARK-39385] [SQL] Menerjemahkan fungsi agregat regresi linier untuk pushdown
• [SPARK-39695] [SQL] REGEXP_SUBSTR Menambahkan fungsi
• [SPARK-39667] [SQL] Tambahkan solusi lain ketika tidak ada cukup memori untuk membangun dan menyiarkan table
• [SPARK-39666] [ES-337834][SQL] Gunakan UnsafeProjection.create untuk menghormati spark.sql.codegen.factoryMode di ExpressionEncoder
• [SPARK-39643] [SQL] Melarang ekspresi subkueri dalam values DEFAULT
• [SPARK-38647] [SQL] Menambahkan campuran SupportsReportOrdering dalam antarmuka untuk Pemindaian (DataSourceV2)
• [SPARK-39497] [SQL] Memperbaiki kesalahan analisis ketika kunci peta tidak ditemukan column
• [SPARK-39661] [SQL] Hindari membuat Pencatat SLF4J yang tidak perlu
• [SPARK-39713] [SQL] Mode ANSI: tambahkan saran penggunaan try_element_at untuk kesalahan INVALID_ARRAY_INDEX
• [SPARK-38899] [SQL]DS V2 mendukung fungsi tanggalwaktu push down
• [SPARK-39638] [SQL] Ubah untuk menggunakan ConstantColumnVector untuk menyimpan partitioncolumns di OrcColumnarBatchReader
• [SPARK-39653] [SQL] Bersihkan ColumnVectorUtils#populate(WritableColumnVector, InternalRow, int) dari ColumnVectorUtils
• [SPARK-39231] [SQL] Gunakan ConstantColumnVector alih-alih On/OffHeapColumnVector untuk menyimpan partitioncolumns di VectorizedParquetRecordReader
• [SPARK-39547] [SQL] V2SessionCatalog tidak boleh melempar NoSuchDatabaseException di loadNamspaceMetadata
• [SPARK-39447] [SQL] Hindari AssertionError di AdaptiveSparkPlanExec.doExecuteBroadcast
• [SPARK-39492] [SQL] MISSING_COLUMN pengerjaan ulang
• [SPARK-39679] [SQL] TakeOrderedAndProjectExec harus menghormati urutan output anak
• [SPARK-39606] [SQL] Menggunakan statistik anak untuk memperkirakan operator pesanan
• [SPARK-39611] [PyTHON][PS] Memperbaiki alias yang salah dalam array_ufunc
• [SPARK-39656] [SQL][3.3] Perbaiki namespace yang salah di DescribeNamespaceExec
• [SPARK-39675] [SQL] Beralih konfigurasi 'spark.sql.codegen.factoryMode' dari tujuan pengujian ke tujuan internal
• [SPARK-39139] [SQL] DS V2 mendukung push down DS V2 UDF
• [SPARK-39434][SQL] Menyediakan konteks kueri kesalahan runtime saat indeks array berada di luar batas
• [SPARK-39479] [SQL] DS V2 mendukung fungsi matematika push down (non ANSI)
• [SPARK-39618] [SQL] REGEXP_COUNT Menambahkan fungsi
• [SPARK-39553] [CORE] Pengacakan multi-utas yang tidak terdaftar tidak boleh melempar NPE saat menggunakan Scala 2.13
• [SPARK-38755] [PyTHON][3.3] Tambahkan file untuk mengatasi fungsi umum panda yang hilang
• [SPARK-39444] [SQL] Tambahkan OptimizeSubqueries ke dalam nonExcludableRules list
• [SPARK-39316] [SQL] Gabungkan PromotePrecision dan CheckOverflow ke dalam aritmatika biner desimal
• [SPARK-39505] [UI] Konten log escape yang dirender di UI
• [SPARK-39448] [SQL] Tambahkan ReplaceCTERefWithRepartition ke nonExcludableRuleslist
• [SPARK-37961] [SQL] Mengambil alih maxRows/maxRowsPerPartition untuk beberapa operator logis
• [SPARK-35223] Kembalikan Tambahkan IssueNavigationLink
• [SPARK-39633] [SQL] Mendukung tanda waktu dalam detik untuk TimeTravel menggunakan opsi Dataframe
• dokumentasi Update[SPARK-38796] [SQL] untuk string format angka dengan fungsi {try_}to_number
• [SPARK-39650] [SS] Memperbaiki nilai yang salah schema dalam deduplikasi streaming dengan kompatibilitas ke belakang
• [SPARK-39636] [CORE][UI] Memperbaiki beberapa bug di JsonProtocol, yang memengaruhi tumpukan StorageLevels dan ResourceRequests Tugas/Eksekutor
• [SPARK-39432] [SQL] Mengembalikan ELEMENT_AT_BY_INDEX_ZERO dari element_at(*, 0)
• [SPARK-39349] Menambahkan metode CheckError terpusat untuk QA jalur kesalahan
• [SPARK-39453] [SQL] DS V2 mendukung pendorongan fungsi non-agregat lainnya (non ANSI)
• [SPARK-38978] [SQL] DS V2 mendukung pendorongan ke bawah operator OFFSET
• [SPARK-39567] [SQL] Mendukung interval ANSI dalam fungsi persentil
• [SPARK-39383] [SQL] Mendukung columns DEFAULT di sumber data ALTER TABLE ALTER COLUMNS ke V2
• [SPARK-39396] [SQL] Perbaiki pengecualian login LDAP 'kode kesalahan 49 - credentialstidak valid '
• [SPARK-39548] [SQL] Perintah CreateView dengan kueri klausa window mengalami masalah: definisi window tidak ditemukan
• [SPARK-39575] [AVRO] tambahkan ByteBuffer#rewind setelah ByteBuffer#get di Avr...
• [SPARK-39543] Opsi DataFrameWriterV2 harus diteruskan ke properti penyimpanan jika fallback ke v1
• [SPARK-39564] [SS] Mengekspos informasi catalogtable ke rencana logis dalam kueri streaming
• [SPARK-39582] [SQL] Perbaiki penanda "Sejak" untuk array_agg
• [SPARK-39388] [SQL] Gunakan orcSchema kembali saat mendorong ke bawah predikat Orc
• [SPARK-39511] [SQL] Tingkatkan push down limit lokal 1 untuk sisi kanan semi/anti join kiri jika kondisi join kosong
• [SPARK-38614] [SQL] Jangan memindahkan limit ke bawah window yang menggunakan percent_rank
• [SPARK-39551] [SQL] Menambahkan pemeriksaan paket tidak valid AQE
• [SPARK-39383] [SQL] Mendukung columns DEFAULT di COLUMNS ADD ALTER TABLE ke sumber data V2
• [SPARK-39538] [SQL] Hindari membuat Pencatat SLF4J yang tidak perlu
• [SPARK-39383] [SQL] Backport manual ke DBR 11.x: Refaktor default column dukungan untuk melewati Analyzer utama di sekitar
• [SPARK-39397] [SQL] Rilekskan AliasAwareOutputExpression untuk mendukung alias dengan ekspresi
• [SPARK-39496] [SQL] Menangani struct null di Inline.eval
• [SPARK-39545] [SQL] Mengambil alih concat metode untuk ExpressionSet di Scala 2.13 untuk meningkatkan performa
• [SPARK-39340] [SQL] DS v2 agg pushdown harus memungkinkan titik-titik dalam nama tingkat atas columns
• [SPARK-39488] [SQL] Menyederhanakan penanganan kesalahan TempResolvedColumn
• [SPARK-38846] [SQL] Menambahkan pemetaan data eksplisit antara Teradata Numeric Type dan Spark DecimalType
• [SPARK-39520] [SQL] Mengambil alih -- metode untuk ExpressionSet di Scala 2.13
• [SPARK-39470] [SQL] Mendukung pemeran interval ANSI ke desimal
• [SPARK-39477] [SQL] Remove info "Jumlah kueri" dari file emas SQLQueryTestSuite
• [SPARK-39419] [SQL] Memperbaiki ArraySort untuk melempar pengecualian saat komparator mengembalikan null
• [SPARK-39061] [SQL] Set nullable dengan benar untuk atribut output Inline
• [SPARK-39320] [SQL] Mendukung fungsi agregat MEDIAN
• [SPARK-39261] [CORE] Meningkatkan pemformatan baris baru untuk pesan kesalahan
• [SPARK-39355] [SQL] Single column menggunakan tanda kutip untuk membangun UnresolvedAttribute
• [SPARK-39351] [SQL] SHOW CREATE TABLE harus meredakan properti
• [SPARK-37623] [SQL] Mendukung Fungsi Agregat ANSI: regr_intercept
• [SPARK-39374] [SQL] Meningkatkan pesan kesalahan untuk pengguna yang ditentukan columnlist
• [SPARK-39255] [SQL][3.3] Meningkatkan pesan kesalahan
• [SPARK-39321] [SQL] Refaktor TryCast untuk menggunakan RuntimeReplaceable
• [SPARK-39406] [PyTHON] Menerima array NumPy di createDataFrame
• [SPARK-39267] [SQL] Membersihkan simbol dsl yang tidak perlu
• [SPARK-39171] [SQL] Menyatukan ekspresi Cast
• [SPARK-28330] [SQL] Mendukung ANSI SQL: klausa hasil offset dalam ekspresi kueri
• [SPARK-39203] [SQL] Menulis ulang lokasi table ke URI absolut berdasarkan URI database
• [SPARK-39313] [SQL] toCatalystOrdering harus gagal jika V2Expression tidak dapat diterjemahkan
• [SPARK-39301] [SQL][PyTHON] Manfaatkan LocalRelation dan hormati ukuran batch Panah dalam createDataFrame dengan pengoptimalan Panah
• [SPARK-39400] [SQL] spark-sql harus remove dir sumber daya apache hive dalam semua kasus

Pembaruan pemeliharaan

Lihat Pembaruan pemeliharaan Databricks Runtime 11.2.

Lingkungan sistem

• Sistem Operasi: Ubuntu 20.04.4 LTS
• Java: Zulu 8.56.0.21-CA-linux64
• Scala: 2.12.14
• Python: 3.9.5
• R: 4.1.3
• Danau Delta: 2.1.0

Pustaka Python yang diinstal

Pustaka R yang diinstal

Pustaka R diinstal dari rekam jepret Microsoft CRAN pada 2022-08-15.

Pustaka Java dan Scala yang diinstal (versi kluster Scala 2.12)