Databricks Runtime 11.2 (EoS)

De volgende releaseopmerkingen bevatten informatie over Databricks Runtime 11.2, mogelijk gemaakt door Apache Spark 3.3.0. Databricks heeft deze versie uitgebracht in september 2022.

Nieuwe functies en verbeteringen

• Verander naar ALTER TABLE-rechten in tabeltoegangsbeheer (tabel-ACL's)
• Dynamisch snoeien voor MERGE INTO
• Verbeterde conflictdetectie in Delta met dynamische bestandssnoeiing
• Nieuwe kaart voor Open Source Integrations in DSE/SQL-startpagina's
• CONVERT TO DELTA verbeteringen voor partitiedetectie
• Tabelschema's ondersteunen nu standaardwaarden voor kolommen
• Nieuwe georuimtelijke H3-functies
• Nieuwe Databricks Runtime-afhankelijkheid
• Bring Your Own Key: Versleuteling van Git-referenties
• SQL: Nieuwe statistische functie any_value
• Databricks Utilities-bestandssysteemopdrachten die zijn toegestaan voor meer clustertypen
• CREATE-bevoegdheden kunnen nu worden verleend in metastores voor Unity Catalog
• Geoptimaliseerde schrijfbewerkingen voor niet-gepartitioneerde tabellen in clusters met Foton
• Photon-ondersteuning voor meer gegevensbronnen
• SQL: ALTER SHARE ondersteunt nu START VERSION

Aanpassen van ALTER TABLE-machtigingen in toegangsbeheer voor tabellen (tabel-ACL's)

Gebruikers hebben nu alleen machtigingen nodig MODIFY om het schema of de eigenschappen van een tabel te wijzigen met ALTER TABLE. Eigendom is nog steeds vereist om machtigingen voor een tabel te verlenen, de eigenaar en locatie ervan te wijzigen of de naam ervan te wijzigen. Met deze wijziging wordt het machtigingsmodel voor tabel-ACL's consistent met Unity Catalog. Zie ALTER TABLE.

Dynamisch snoeien voor MERGE INTO

Wanneer u Photon-ingeschakelde computing gebruikt, maakt MERGE INTO nu gebruik van dynamische file- en partitie-optimalisatie wanneer dit van toepassing is om de prestaties te verbeteren, bijvoorbeeld wanneer een kleine brontabel wordt samengevoegd in een grotere doeltabel.

Verbeterde conflictdetectie in Delta met dynamisch bestandsbeheer

Wanneer u controleert op mogelijke conflicten tijdens commits, houdt conflictdetectie nu rekening met bestanden die zijn verwijderd door dynamische bestandsvereenvoudiging, maar niet door statische filters. Dit resulteert in een verminderd aantal mislukte transacties.

Nieuwe kaart voor Open Source Integrations in DSE/SQL-startpagina's

Maak kennis met de nieuwe kaart Open Source Integrations in de DSE-/SQL-startpagina's met opensource-integratieopties zoals DLT en dbt core.

Verbeteringen in CONVERT TO DELTA-partitiedetectie

CONVERT TO DELTA leidt automatisch het partitieschema af voor Parquet-tabellen die zijn geregistreerd bij de Hive-metastore of Unity Catalog, waardoor de PARTITIONED BY clausule niet meer hoeft te worden opgegeven.

CONVERT TO DELTA maakt gebruik van partitiegegevens uit de metastore om bestanden voor een Parquet-tabel te detecteren in plaats van het hele basispad weer te geven, zodat verwijderde partities niet worden toegevoegd aan de Delta-tabel.

Zie Converteren naar Delta Lake.

Tabelschema's ondersteunen nu standaardwaarden voor kolommen

Tabelschema's bieden nu ondersteuning voor het instellen van standaardwaarden voor kolommen. INSERT, UPDATEen DELETE opdrachten voor deze kolommen kunnen verwijzen naar deze waarden met het DEFAULT trefwoord. Bijvoorbeeld, CREATE TABLE t (id INT, data INT DEFAULT 42) USING PARQUET gevolgd door INSERT INTO t VALUES (1, DEFAULT) voegt de rij (1, 42) toe. Dit gedrag wordt ondersteund voor CSV-, JSON-, Orc- en Parquet-gegevensbronnen.

Nieuwe georuimtelijke H3-functies

U kunt nu 28 nieuwe ingebouwde H3-expressies gebruiken voor georuimtelijke verwerking in clusters met foton die beschikbaar zijn in SQL, Scala en Python. Zie georuimtelijke H3-functies.

Nieuwe Databricks Runtime-afhankelijkheid

Databricks Runtime is nu afhankelijk van de H3 Java-bibliotheek versie 3.7.0.

Bring Your Own Key: Versleuteling van Git-referenties

U kunt Azure Key Vault gebruiken om een persoonlijk Git-toegangstoken (PAT) of andere Git-referenties te versleutelen.

Zie Databricks Git-mappen (opslagplaatsen) instellen.

SQL: Nieuwe aggregatiefunctie any_value

De nieuwe any_value statistische functie retourneert een willekeurige waarde voor expr een groep rijen. Zie de aggregatiefunctie any_value.

Databricks Utilities-bestandssysteemopdrachten die zijn toegestaan voor meer clustertypen

dbutils.fs opdrachten (behalve mount-gerelateerde opdrachten) zijn nu toegestaan op gebruikersisolatieclusters met Unity Catalog, evenals verouderde table-ACL-clusters wanneer de gebruiker ANY FILE machtigingen heeft.

CREATE-bevoegdheden kunnen nu worden verleend in metastores voor Unity Catalog

CREATE CATALOG, CREATE EXTERNAL LOCATION, CREATE SHARE, CREATE RECIPIENTen CREATE PROVIDER-bevoegdheden kunnen nu worden verleend op Unity Catalog-metastores.

Geoptimaliseerde schrijfbewerkingen voor niet-gepartitioneerde tabellen in clusters met Photon

Beheerde tabellen van Unity Catalog behouden nu automatisch bestanden met een goed afgestemde grootte van niet-gepartitioneerde tabellen om de querysnelheid te verbeteren en de prestaties te optimaliseren.

Photon-ondersteuning voor meer gegevensbronnen

Photon ondersteunt nu meer gegevensbronnen, waaronder CSV en Avro, en is ook compatibel met gegevensframes in de cache. Voorheen betekende het scannen van deze gegevensbronnen dat de hele query niet kon worden gefotoniseerd, ongeacht de operators of expressies van de query. Queries die deze gegevensbronnen scannen, kunnen nu gephtotoniseerd worden, waardoor aanzienlijke verbeteringen in latentie en TCO worden ontsloten.

Deze functie is standaard ingeschakeld door de spark.databricks.photon.photonRowToColumnar.enabled configuratie.

Beperkingen:

• Schema's met geneste typen worden niet ondersteund (matrices, kaarten en structs) in deze release.
• ORC-, RDD-, Kinesis-, Kafka- en EventHub-bronnen worden niet ondersteund in deze release.

SQL: ALTER SHARE ondersteunt nu START VERSION

De ALTER SHARE opdracht ondersteunt START VERSIONnu, waarmee providers gegevens kunnen delen vanaf een specifieke tabelversie. Zie ALTER SHARE.

Bibliotheekverbeteringen

• Bijgewerkte Python-bibliotheken:
  • distlib van 0.3.4 tot 0.3.5
  • filelock van versie 3.7.1 naar versie 3.8.0
  • plotly van 5.8.2 naar 5.9.0
  • protobuf van 4.21.2 tot 4.21.5
• Bijgewerkte R-bibliotheken:
  • bezem van 0.8.0 tot 1.0.0
  • bslib van 0.3.1 tot 0.4.0
  • callr van 3.7.0 tot 3.7.1
  • caret van 6.0-92 naar 6.0-93
  • dbplyr van 2.2.0 tot 2.2.1
  • devtools van 2.4.3 tot 2.4.4
  • evalueren van 0,15 tot 0,16
  • farver van 2.1.0 naar 2.1.1
  • fontawesome van 0.2.2 tot 0.3.0
  • toekomst van 1.26.1 tot 1.27.0
  • generics van 0.1.2 tot 0.1.3
  • gert van 1.6.0 tot 1.7.0
  • globals van 0.15.1 naar 0.16.0
  • googlesheets4 van 1.0.0 tot 1.0.1
  • hardhat van versie 1.1.0 naar versie 1.2.0
  • htmltools van 0.5.2 tot 0.5.3
  • Parallel van 1.32.0 naar 1.32.1
  • pijler van 1.7.0 tot 1.8.0
  • pkgload van versie 1.2.4 naar versie 1.3.0
  • processx van 3.6.1 naar 3.7.0
  • Rcpp van 1.0.8.3 tot 1.0.9
  • recepten van 0.2.0 tot 1.0.1
  • rlang van 1.0.2 tot 1.0.4
  • roxygen2 van 7.2.0 tot 7.2.1
  • RSQLite van 2.2.14 tot 2.2.15
  • sass van 0.4.1 tot 0.4.2
  • glanzend van 1.7.1 tot 1.7.2
  • stringi van 1.7.6 tot 1.7.8
  • tibble van 3.1.7 tot 3.1.8
  • tidyverse van 1.3.1 tot 1.3.2
  • timeDate van 3043.102 tot 4021.104
  • xfun van 0,31 tot 0,32
• Bijgewerkte Java-bibliotheken:
  • org.apache.orc.orc-core van 1.7.4 tot 1.7.5
  • org.apache.orc.orc-mapreduce van 1.7.4 tot 1.7.5
  • org.apache.orc.orc-shims van 1.7.4 naar 1.7.5

Apache Spark

Databricks Runtime 11.2 bevat Apache Spark 3.3.0. Deze release bevat alle Spark-fixes en verbeteringen die zijn opgenomen in Databricks Runtime 11.1 (EoS) en de volgende aanvullende bugfixes en verbeteringen in Spark:

• [SPARK-40151] [WARMFIX][sc-109002][SC-108809][sql] Retourneer bredere ANSI-intervaltypen van de percentielfuncties
• [SPARK-40054] [SQL] De syntaxis voor foutafhandeling van try_cast() herstellen
• [SPARK-39489] [CORE] Prestaties van JsonProtocol-logboekregistratie verbeteren met behulp van Jackson in plaats van Json4s
• [SPARK-39319] [CORE][sql] Querycontexten maken als onderdeel van SparkThrowable
• [SPARK-40085] [SQL] Gebruik INTERNAL_ERROR foutklasse in plaats van IllegalStateException om fouten aan te geven
• [SPARK-40001] [SQL] NULL-schrijfbewerkingen maken naar JSON DEFAULT-kolommen schrijven 'null' naar opslag
• [SPARK-39635] [SQL] Ondersteuning voor stuurprogrammametrieken in de DS v2 aangepaste metrische API
• [SPARK-39184] [SQL] Resultaatarray met te kleine afmetingen verwerken in datum- en tijdstempelreeksen
• [SPARK-40019] [SQL] Herzie het commentaar van het ArrayType’s 'containsNull' en verbeter de onjuiste logica in de expressie van collectionOperator over containsNull
• [SPARK-39989] [SQL] Ondersteuning voor schatting van kolomstatistieken als deze uitvouwbare expressie is
• [SPARK-39926] [SQL] Fout in kolom DEFAULT-ondersteuning voor niet-gevectoriseerde Parquet-scans opgelost
• [SPARK-40052] [SQL] Directe bytebuffers verwerken in VectorizedDeltaBinaryPackedReader
• [SPARK-40044] [SQL] Het doelintervaltype in cast-overloopfouten oplossen
• [SPARK-39835] [SQL] Fix ElimineerSorts verwijdert globale sortering onder de lokale sortering
• [SPARK-40002] [SQL] Geef de limiet niet door via een venster met gebruik van ntile
• [SPARK-39976] [SQL] ArrayIntersect zou null in de linker expressie correct moeten verwerken
• [SPARK-39985] [SQL] Impliciete standaardkolomwaarden inschakelen in invoegingen vanuit DataFrames
• [SPARK-39776] [SQL] JOIN uitgebreide tekst moet join-type toevoegen
• [SPARK-38901] [SQL] DS V2 ondersteunt het push-down van diverse functies
• [SPARK-40028] [SQL][followup] Voorbeelden van tekenreeksfuncties verbeteren
• [SPARK-39983] [CORE][sql] Cache geen niet-geserialiseerde broadcastrelaties op de driver
• [SPARK-39812] [SQL] Code vereenvoudigen die wordt samengesteld AggregateExpression met toAggregateExpression
• [SPARK-40028] [SQL] Binaire voorbeelden voor tekenreeksexpressies toevoegen
• [SPARK-39981] [SQL] Gooi de uitzondering QueryExecutionErrors.castingCauseOverflowErrorInTableInsert in Cast
• [SPARK-40007] [PYTHON][sql] 'modus' toevoegen aan functies
• [SPARK-40008] [SQL] Ondersteuning voor het casten van integralen naar ANSI-intervallen
• [SPARK-40003] [PYTHON][sql] Mediaan toevoegen aan functies
• [SPARK-39952] [SQL] SaveIntoDataSourceCommand moet resultaatrelatie opnieuw in de cache opslaan
• [SPARK-39951] [SQL] Bijwerken van de V2 Parquet-kolomcontrole voor geneste velden
• [SPARK-33236] [shuffle] Backport naar DBR 11.x: Push-gebaseerde shuffle-service inschakelen om de status op te slaan in NM-level DB voor het behouden van werk bij herstart.
• [SPARK-39836] [SQL] Vereenvoudig V2ExpressionBuilder door algemene methode te extraheren.
• [SPARK-39873] [SQL] Verwijderen OptimizeLimitZero en samenvoegen in EliminateLimits
• [SPARK-39961] [SQL] DS V2 push-down vertalen Cast als de cast veilig is
• [SPARK-39872] [SQL] Wijzigen voor gebruik BytePackerForLong#unpack8Values met matrixinvoer-API in VectorizedDeltaBinaryPackedReader
• [SPARK-39858] [SQL] Verwijder onnodige AliasHelper of PredicateHelper voor sommige regels
• [SPARK-39900] [SQL] Gedeeltelijke of ontkende voorwaarde in de predicaatpushdown van binaire indeling oplossen
• [SPARK-39904] [SQL] Wijzig de naam inferDate in prefersDate en verduidelijk de semantiek van de optie in de CSV-gegevensbron
• [SPARK-39958] [SQL] Waarschuwingslogboek toevoegen wanneer het aangepaste metrische object niet kan worden geladen
• [SPARK-39932] [SQL] WindowExec moet de laatste partitiebuffer wissen
• [SPARK-37194] [SQL] Vermijd onnodige sortering in v1-schrijfbewerkingen als deze geen dynamische partitie is
• [SPARK-39902] [SQL] Scandetails toevoegen aan spark-planscanknooppunt in SparkUI
• [SPARK-39865] [SQL] Juiste foutberichten weergeven over de overloopfouten van tabel invoegen
• [SPARK-39940] [SS] Catalogustabel vernieuwen voor streaming query met DSv1-sink
• [SPARK-39827] [SQL] De foutklasse ARITHMETIC_OVERFLOW gebruiken voor int-overloop in add_months()
• [SPARK-39914] [SQL] DS V2-filter toevoegen aan V1-filterconversie
• [SPARK-39857] [SQL] Handmatige DBR 11.x-backport; V2ExpressionBuilder gebruikt het verkeerde Gegevenstype LiteralValue voor Predicaat #43454
• nl-NL: [SPARK-39840] [SQL][python] Factor PythonArrowInput uit als symmetrie voor PythonArrowOutput
• [SPARK-39651] [SQL] Prune filtervoorwaarde als vergelijken met rand deterministisch is
• [SPARK-39877] [PYTHON] Unpivot toevoegen aan PySpark DataFrame-API
• [SPARK-39909] [SQL] De controle van push-downgegevens voor JDBCV2Suite organiseren
• [SPARK-39834] [SQL][ss] Neem de oorsprongsstatistieken en -beperkingen voor LogicalRDD op als deze afkomstig is van DataFrame
• [SPARK-39849] [SQL] Dataset.as(StructType) vult ontbrekende nieuwe kolommen met null-waarde
• [SPARK-39860] [SQL] Meer expressies moeten predicaat uitbreiden
• [SPARK-39823] [SQL][python] Wijzig de naam van Dataset.as als Dataset.to en voeg DataFrame.to toe in PySpark
• [SPARK-39918] [SQL][secundair] Vervang de tekst 'un-comparable' door 'incomparable' in het foutbericht
• [SPARK-39857] [SQL][3.3] V2ExpressionBuilder gebruikt het verkeerde Gegevenstype LiteralValue voor Predicaat
• [SPARK-39862] [SQL] Handmatige backport voor PR 43654 gericht op DBR 11.x: bijwerken van SQLConf.DEFAULT_COLUMN_ALLOWED_PROVIDERS om ALTER TABLE toe te staan/te weigeren ... Voeg COLUMN opdrachten afzonderlijk toe.
• [SPARK-39844] [SQL] Handmatige backport voor PR 43652 gericht op DBR 11.x
• [SPARK-39899] [SQL] Probleem opgelost bij het doorgeven van berichtparameters aan InvalidUDFClassException
• [SPARK-39890] [SQL] Laat TakeOrderedAndProjectExec de AliasAwareOutputOrdering overerven
• [SPARK-39809] [PYTHON] Ondersteuning voor CharType in PySpark
• [SPARK-38864] [SQL] Unpivot/melt toevoegen aan gegevensset
• [SPARK-39864] [SQL] Lazily executionListenerBus registreren
• [SPARK-39808] [SQL] Ondersteuning voor aggregatiefunctie MODE
• [SPARK-39875] [SQL] Methode wijzigen protected in finale klasse naar private of package-visible
• [SPARK-39731] [SQL] Probleem opgelost in CSV- en JSON-gegevensbronnen bij het parseren van datums in de indeling 'yyyyMMdd' met gecorrigeerd tijdparserbeleid
• [SPARK-39805] [SS] Trigger.Once verwijderen en Trigger.AvailableNow promoveren
• [SPARK-39784] [SQL] Letterlijke waarden rechts van het gegevensbronfilter plaatsen na het vertalen van Catalyst Expression naar een gegevensbronfilter
• [SPARK-39672] [SQL][3.1] Oplossing voor het verwijderen van een project vóór het filter met gecorreleerde subquery
• [SPARK-39552] [SQL] Samenvoegen v1 en v2 DESCRIBE TABLE
• [SPARK-39810] [SQL] Catalog.tableExists moet geneste naamruimte verwerken
• [SPARK-37287] [SQL] Dynamische partities en buckets sorteren en uittrekken uit FileFormatWriter
• [SPARK-39469] [SQL] Datumtype afleiden voor csv-schemadeductie
• [SPARK-39148] [SQL] DS V2 aggregatie push down kan werken met OFFSET of LIMIT
• [SPARK-39818] [SQL] Fout opgelost in ARRAY, STRUCT, MAP-typen met STANDAARDwaarden met NULL-velden
• [SPARK-39792] [SQL] DecimalDivideWithOverflowCheck toevoegen voor decimaal gemiddelde
• [SPARK-39798] [SQL] Vervang toSeq.toArray met .toArray[Any] in de constructor van GenericArrayData
• [SPARK-39759] [SQL] ListIndexes implementeren in JDBC (H2 dialect)
• [SPARK-39385] [SQL] Ondersteunt push-omlaag REGR_AVGX en REGR_AVGY
• [SPARK-39787] [SQL] Foutklasse gebruiken in de parseringsfout van functie to_timestamp
• [SPARK-39760] [PYTHON] Ondersteuning voor Varchar in PySpark
• [SPARK-39557] [SQL] Handmatige backport naar DBR 11.x: Ondersteuning voor ARRAY-, STRUCT-, MAP-typen als standaardwaarden
• [SPARK-39758] [SQL][3.3] NPE herstellen vanuit de regexp-functies op ongeldige patronen
• [SPARK-39749] [SQL] ANSI SQL-modus: een gewone tekenreeksweergave gebruiken bij het casten van decimalen naar tekenreeks
• [SPARK-39704] [SQL] CreateIndex & dropIndex & indexExists implementeren in JDBC (H2 dialect)
• [SPARK-39803] [SQL] Gebruiken LevenshteinDistance in plaats van StringUtils.getLevenshteinDistance
• [SPARK-39339] [SQL] Ondersteuning voor het type TimestampNTZ in JDBC-gegevensbron
• [SPARK-39781] [SS] Ondersteuning toevoegen voor het bieden van max_open_files aan de provider van de rocksdb-statusopslag
• [SPARK-39719] [R] Implementeer databaseExists/getDatabase in SparkR-ondersteuning voor 3L-naamruimte
• [SPARK-39751] [SQL] Metrische waarde voor de aggregaties van hashsleuteltests wijzigen
• [SPARK-39772] [SQL] namespace moet null zijn wanneer de database null is in de oude constructors
• [SPARK-39625] [SPARK-38904][sql] Toevoegen Dataset.as(StructType)
• [SPARK-39384] [SQL] Ingebouwde statistische functies voor lineaire regressie compileren voor JDBC-dialect
• [SPARK-39720] [R] TableExists/getTable implementeren in SparkR voor 3L-naamruimte
• [SPARK-39744] [SQL] De REGEXP_INSTR functie toevoegen
• [SPARK-39716] [R] Laat CurrentDatabase/setCurrentDatabase/listCatalogs in SparkR de 3L-naamruimte ondersteunen
• [SPARK-39788] [SQL] Naam wijzigen catalogName in dialectName voor JdbcUtils
• [SPARK-39647] [CORE] De uitvoerder registreren bij ESS voordat u de BlockManager registreert
• [SPARK-39754] [CORE][sql] Ongebruikte import of onnodige {} verwijderen
• [SPARK-39706] [SQL] Ontbrekende kolom instellen met defaultValue als constante in ParquetColumnVector
• [SPARK-39699] [SQL] SamenvouwenProject slimmer maken over expressies voor het maken van verzamelingen
• [SPARK-39737] [SQL] PERCENTILE_CONT en PERCENTILE_DISC moet ondersteuning bieden voor het aggregatiesfilter
• [SPARK-39579] [SQL][python][R] Zorg ervoor dat ListFunctions/getFunction/functionExists compatibel is met een naamruimte met drie lagen
• [SPARK-39627] [SQL] JDBC V2-pushdown moet de compile-API samenvoegen
• [SPARK-39748] [SQL][ss] Neem het logische origin-plan voor LogicalRDD op als het afkomstig is van DataFrame
• [SPARK-39385] [SQL] Lineaire regressie aggregatiefuncties vertalen voor pushdown
• [SPARK-39695] [SQL] De REGEXP_SUBSTR functie toevoegen
• [SPARK-39667] [SQL] Een andere tijdelijke oplossing toevoegen wanneer er onvoldoende geheugen is om de tabel te bouwen en uit te zenden
• [SPARK-39666] [ES-337834][sql] UnsafeProjection.create gebruiken om spark.sql.codegen.factoryMode te respecteren in ExpressionEncoder
• [SPARK-39643] [SQL] Subquery-expressies in STANDAARDwaarden verbieden
• [SPARK-38647] [SQL] Voeg SupportsReportOrdering mix-in interface toe voor Scan (DataSourceV2)
• [SPARK-39497] [SQL] De analyse-uitzondering van ontbrekende kaartsleutelkolom verbeteren
• [SPARK-39661] [SQL] Vermijd het maken van onnodige SLF4J Logger
• [SPARK-39713] [SQL] ANSI-modus: suggesties toevoegen voor het gebruik van try_element_at voor INVALID_ARRAY_INDEX fout
• [SPARK-38899] [SQL]DS V2 ondersteunt push-down datetime-functies
• [SPARK-39638] [SQL] Wijzigen om partitiekolommen op te ConstantColumnVector slaan in OrcColumnarBatchReader
• [SPARK-39653] [SQL] Opschonen ColumnVectorUtils#populate(WritableColumnVector, InternalRow, int) van ColumnVectorUtils
• [SPARK-39231] [SQL] Gebruik ConstantColumnVector in plaats van On/OffHeapColumnVector partitiekolommen op te slaan in VectorizedParquetRecordReader
• [SPARK-39547] [SQL] V2SessionCatalog mag NoSuchDatabaseException niet genereren in loadNamspaceMetadata
• [SPARK-39447] [SQL] Vermijd AssertionError in AdaptiveSparkPlanExec.doExecuteBroadcast
• [SPARK-39492] [SQL] MISSING_COLUMN opnieuw bewerken
• [SPARK-39679] [SQL] TakeOrderedAndProjectExec moet de uitvoer volgorde van het kind respecteren
• [SPARK-39606] [SQL] Gebruik onderliggende statistieken om de orderoperator te schatten
• [SPARK-39611] [PYTHON][ps] Onjuiste aliassen in array_ufunc oplossen
• [SPARK-39656] [SQL][3.3] Onjuiste naamruimte in DescribeNamespaceExec herstellen
• [SPARK-39675] [SQL] Switch 'spark.sql.codegen.factoryMode' configuratie van testdoel naar intern doel
• [SPARK-39139] [SQL] DS V2 ondersteunt doorgave van DS V2 UDF
• [SPARK-39434] [SQL] Runtimefout over querycontext opgeven wanneer de array-index buiten de limieten valt
• [SPARK-39479] [SQL] DS V2 ondersteunt push-down wiskundige functies (niet ANSI)
• [SPARK-39618] [SQL] De REGEXP_COUNT functie toevoegen
• [SPARK-39553] [CORE] Bij gebruik van Scala 2.13 mag het verwijderen van shuffle-registratie met meerdere threads geen NullPointerException veroorzaken.
• [SPARK-38755] [PYTHON][3.3] Voeg een bestand toe om ontbrekende pandas-algemene functies te adresseren
• [SPARK-39444] [SQL] OptimizeSubqueries toevoegen aan de lijst met niet-uitgeslotenrules
• [SPARK-39316] [SQL] PromotePrecision en CheckOverflow samenvoegen in decimale binaire rekenkundige berekeningen
• [SPARK-39505] [UI] Escape-logboekinhoud die wordt weergegeven in de gebruikersinterface
• [SPARK-39448] [SQL] Toevoegen ReplaceCTERefWithRepartition aan nonExcludableRules lijst
• [SPARK-37961] [SQL] MaxRows/maxRowsPerPartition overschrijven voor sommige logische operators
• [SPARK-35223] Terugdraaien van de toevoeging van IssueNavigationLink
• [SPARK-39633] [SQL] Ondersteuning voor tijdstempel in seconden voor TimeTravel met behulp van Dataframe-opties
• [SPARK-38796] [SQL] Documentatie bijwerken voor formaatreeksen voor getallen met de functies {try_}to_number
• [SPARK-39650] [SS] Corrigeren van een onjuist waardeschema in streamingontdubbeling met achterwaartse compatibiliteit
• [SPARK-39636] [CORE][ui] Meerdere bugs in JsonProtocol oplossen, wat invloed heeft op heap StorageLevels en Task/Executor ResourceRequests
• [SPARK-39432] [SQL] ELEMENT_AT_BY_INDEX_ZERO retourneren uit element_at(*, 0)
• [SPARK-39349] Een gecentraliseerde CheckError-methode toevoegen voor QA van het foutpad
• [SPARK-39453] [SQL] DS V2 ondersteunt het doordrukken van diverse niet-aggregerende functies (niet ANSI)
• [SPARK-38978] [SQL] DS V2 ondersteunt push down-operator OFFSET
• [SPARK-39567] [SQL] ANSI-intervallen in de percentielfuncties ondersteunen
• [SPARK-39383] [SQL] Ondersteuning voor STANDAARDkolommen in ALTER TABLE ALTER COLUMNS naar V2-gegevensbronnen
• [SPARK-39396] [SQL] Fix LDAP-aanmeldingsfout 'foutcode 49 - ongeldige inloggegevens' herstellen
• [SPARK-39548] [SQL] CreateView Commando met een vensterclausulequery stuitte op een probleem waarbij een onjuiste vensterdefinitie niet werd gevonden.
• [SPARK-39575] [AVRO] voeg ByteBuffer#rewind toe na ByteBuffer#get in Avro...
• [SPARK-39543] De optie van DataFrameWriterV2 moet worden doorgegeven aan opslageigenschappen als u terugval naar v1
• [SPARK-39564] [SS] De informatie van de catalogustabel beschikbaar maken voor het logische plan in streaming query
• [SPARK-39582] [SQL] Repareren van de 'Sinds' markering voor array_agg
• [SPARK-39388] [SQL] Opnieuw orcSchema gebruiken wanneer orc-predicaten omlaag worden gepusht
• [SPARK-39511] [SQL] Verbeter de lokale beperking van 1 voor de rechterzijde van een linker semi/anti-join als de joinvoorwaarde leeg is.
• [SPARK-38614] [SQL] Druk de limiet niet naar beneden door het venster dat gebruikmaakt van percent_rank
• [SPARK-39551] [SQL] Voeg controle voor ongeldig AQE-plan toe
• [SPARK-39383] [SQL] Ondersteuning voor STANDAARDkolommen in ALTER TABLECOLUMNS toevoegen aan V2-gegevensbronnen
• [SPARK-39538] [SQL] Vermijd het maken van onnodige SLF4J Logger
• [SPARK-39383] [SQL] Handmatige backport naar DBR 11.x: ondersteuning voor standaardkolommen herstructureren om het onnodig doorgeven van de primaire Analyzer te voorkomen
• [SPARK-39397] [SQL] Relax AliasAwareOutputExpression ter ondersteuning van alias met expressie
• [SPARK-39496] [SQL] Null-struct afhandelen in Inline.eval
• [SPARK-39545] [SQL] concat Overschrijfmethode voor ExpressionSet in Scala 2.13 om de prestaties te verbeteren
• [SPARK-39340] [SQL] DS v2-pushdown moet puntjes in de naam van kolommen op het hoogste niveau toestaan
• [SPARK-39488] [SQL] Vereenvoudig de foutafhandeling van TempResolvedColumn
• [SPARK-38846] [SQL] Expliciete gegevenstoewijzing toevoegen tussen Teradata Numeric Type en Spark DecimalType
• [SPARK-39520] [SQL] -- Methode overschrijven voor ExpressionSet in Scala 2.13
• [SPARK-39470] [SQL] Ondersteuning voor cast van ANSI-intervallen naar decimalen
• [SPARK-39477] [SQL] Verwijder informatie over het aantal query's uit de gouden bestanden van SQLQueryTestSuite
• [SPARK-39419] [SQL] MatrixSort herstellen om een uitzondering te genereren wanneer de comparator null retourneert
• [SPARK-39061] [SQL] Nullable correct instellen voor Inline uitvoerkenmerken
• [SPARK-39320] [SQL] Statistische functie ondersteunen MEDIAN
• [SPARK-39261] [CORE] Nieuwelijnopmaak voor foutberichten verbeteren
• [SPARK-39355] [SQL] Eén kolom gebruikt geciteerd om UnresolvedAttribute samen te stellen
• [SPARK-39351] [SQL] SHOW CREATE TABLE eigenschappen moeten redactiseren
• [SPARK-37623] [SQL] AnSI-statistische functie ondersteunen: regr_intercept
• [SPARK-39374] [SQL] Foutbericht voor door de gebruiker opgegeven kolomlijst verbeteren
• [SPARK-39255] [SQL][3.3] Foutberichten verbeteren
• [SPARK-39321] [SQL] TryCast herstructureren om RuntimeReplaceable te gebruiken
• [SPARK-39406] [PYTHON] NumPy-matrix accepteren in createDataFrame
• [SPARK-39267] [SQL] Het onnodige symbool van dsl opschonen
• [SPARK-39171] [SQL] De Cast-expressie samenvoegen
• [SPARK-28330] [SQL] Ondersteuning voor ANSI SQL: component result offset in query expression
• [SPARK-39203] [SQL] Tabellocatie herschrijven naar absolute URI op basis van database-URI
• [SPARK-39313] [SQL] toCatalystOrdering moet mislukken als V2Expression niet kan worden vertaald
• [SPARK-39301] [SQL][python] Maak gebruik van LocalRelation en respecteer Arrow-batchgrootte in createDataFrame met Arrow-optimalisatie.
• [SPARK-39400] [SQL] spark-sql moet in alle gevallen hive-resource-dir verwijderen

Onderhoudsupdates

Zie onderhoudsupdates voor Databricks Runtime 11.2.

Systeemomgeving

• Besturingssysteem: Ubuntu 20.04.4 LTS
• Java: Zulu 8.56.0.21-CA-linux64
• Scala: 2.12.14
• Python: 3.9.5
• R: 4.1.3
• Delta Lake: 2.1.0

Geïnstalleerde Python-bibliotheken

Geïnstalleerde R-bibliotheken

R-bibliotheken worden geïnstalleerd vanuit de Microsoft CRAN-momentopname op 2022-08-15.

Geïnstalleerde Java- en Scala-bibliotheken (Scala 2.12-clusterversie)