Databricks Runtime 11.1 (EoS)

De volgende releaseopmerkingen bevatten informatie over Databricks Runtime 11.1, mogelijk gemaakt door Apache Spark 3.3.0. Databricks heeft deze versie uitgebracht in juli 2022.

Nieuwe functies en verbeteringen

• Photon is GA
• Foton: Ondersteunde exemplaartypen
• Wijzigingen in de gegevensfeed kunnen nu automatisch tijdstempels buiten het bereik verwerken
• Beschrijven en weergeven van SQL-functies tonen nu Unity Catalog-namen in hun uitvoer (Openbare Preview)
• schemadeductie en evolutie voor Parquet-bestanden in met automatische laadprogramma's (openbare preview)
• Auto Loader ondersteunt nu schema-evolutie voor Avro (GA)
• Delta Lake-ondersteuning voor het overschrijven van dynamische partities
• Informatieschema-ondersteuning voor objecten die zijn gemaakt in Unity Catalog
• informatiebeperkingen voor Delta Lake-tabellen met Unity Catalog (openbare preview)
• Unity Catalog is nu beschikbaar
• Delta Delen is algemeen beschikbaar

Photon is GA

Photon is nu algemeen beschikbaar, te beginnen met Databricks Runtime 11.1. Photon is de systeemeigen vector-query-engine in Azure Databricks, geschreven om rechtstreeks compatibel te zijn met Apache Spark-API's, zodat deze werkt met uw bestaande code. Photon is ontwikkeld in C++ om te profiteren van moderne hardware en maakt gebruik van de nieuwste technieken in vectorische queryverwerking om te profiteren van parallelle uitvoering op gegevens- en instructieniveau in CPU's, waardoor de prestaties van echte gegevens en toepassingen worden verbeterd, allemaal systeemeigen op uw data lake.

Photon maakt deel uit van een krachtige runtime waarmee uw bestaande SQL- en DataFrame-API-aanroepen sneller worden uitgevoerd en uw totale kosten per workload worden verlaagd. Photon wordt standaard gebruikt in Databricks SQL-warehouses.

Nieuwe functies en verbeteringen zijn onder andere:

• Nieuwe vectorized sorteeroperator
• Nieuwe gevectoriseerde vensterfuncties
• Nieuwe instantietypen en -grootten in alle clouds

Beperkingen:

• Scala/Python UDF's worden niet ondersteund door Photon
• RDD wordt niet ondersteund door Photon
• Gestructureerd streamen wordt niet ondersteund door Photon

Zie de volgende Photon-aankondigingen voor meer informatie.

Foton: Nieuwe vectorized sorteeroperator

Photon ondersteunt nu een gevectoriseerde sortering wanneer een query SORT_BY, CLUSTER_BYof een vensterfunctie met een ORDER BYbevat.

Beperkingen: Photon biedt geen ondersteuning voor een globale ORDER BY component. Sorteren voor vensterevaluatie zal worden gefotoniseerd, maar de globale sortering blijft actief in Spark.

Foton: Nieuwe gevectoriseerde vensterfuncties

Photon ondersteunt nu evaluatie van vectorvensterfuncties voor veel frametypen en functies. Nieuwe vensterfuncties zijn onder andere: row_number, rank, dense_rank, lag, lead, percent_rank, ntileen nth_value. Ondersteunde vensterframetypen: lopend (UNBOUNDED PRECEDING AND CURRENT ROW), ongebonden (UNBOUNDED PRECEDING AND UNBOUNDED FOLLOWING), groeiend (UNBOUNDED PRECEDING AND <OFFSET> FOLLOWING) en krimpend (<OFFSET> PRECEDING AND UNBOUNDED FOLLOWING).

Beperkingen:

• Photon ondersteunt alleen ROWS versies van alle frametypen.
• Photon biedt nog geen ondersteuning voor het type schuifframe (<OFFSET> PRECEDING AND <OFFSET> FOLLOWING).

Foton: Ondersteunde exemplaartypen

• dds_v5
• ds_v5
• eas_v4
• eds_v4
• eds_v5
• es_v5
• las_v3
• ls_v3

Wijzigingen in de gegevensfeed kunnen nu automatisch tijdstempels buiten het bereik verwerken

Change Data Feed (CDF) heeft nu een nieuwe modus waarmee u tijdstempels of versies kunt opgeven die zijn verstreken na de versie van een laatste doorvoer zonder fouten te genereren. Deze modus is standaard uitgeschakeld. U kunt deze inschakelen door de configuratie in spark.databricks.delta.changeDataFeed.timestampOutOfRange.enabled te stellen op true.

SQL-functies beschrijven en tonen nu Unity Catalog-namen in hun uitvoer (Openbare Preview)

De opdrachten DESC TABLE, DESC DATABASE, DESC SCHEMA, DESC NAMESPACE, DESC FUNCTION, EXPLAINen SHOW CREATE TABLE geven nu altijd de catalogusnaam weer in de uitvoer.

Schemadeductie en evolutie voor Parquet-bestanden in AutoLoader (openbare preview)

Auto Loader ondersteunt nu schemadeductie en evolutie voor Parquet-bestanden. Net als JSON-, CSV- en Avro-indelingen kunt u nu de kolom met geredde gegevens gebruiken om onverwachte gegevens te redden die in uw Parquet-bestanden kunnen worden weergegeven. Dit omvat gegevens die niet kunnen worden geparseerd in het gegevenstype dat wordt verwacht, kolommen met een andere behuizing of extra kolommen die geen deel uitmaken van het verwachte schema. U kunt automatisch laden configureren om het schema automatisch te ontwikkelen wanneer er nieuwe kolommen in de binnenkomende gegevens worden toegevoegd. Zie Schemadeductie en evolutie configureren in AutoLoader.

Auto Loader ondersteunt nu de ontwikkeling van schema's voor Avro (GA)

Zie Schemadeductie en evolutie configureren in AutoLoader.

Delta Lake-ondersteuning voor dynamische partitieoverschrijven

Delta Lake maakt het nu mogelijk om de modus voor dynamische partitieoverschrijven alle bestaande gegevens in elke logische partitie te overschrijven waarvoor de schrijfbewerking nieuwe gegevens doorvoert. Zie Selectief gegevens overschrijven met Delta Lake.

Ondersteuning voor informatieschema's voor objecten die zijn gemaakt in Unity Catalog

Informatieschema biedt een op SQL gebaseerde, zelf beschrijvende API voor de metagegevens van verschillende databaseobjecten, waaronder tabellen en weergaven, beperkingen en routines. Binnen het informatieschema vindt u een set weergaven die de objecten beschrijven uit de catalogus van het schema die u mag bekijken. Het informatieschema van de SYSTEM catalogus retourneert informatie over objecten in alle catalogi in de metastore. Zie Informatieschema.

Informatieve beperkingen voor Delta Lake-tabellen met Unity Catalog (openbare preview)

U kunt nu beperkingen voor informatieve primaire sleutels en vreemde sleutels definiëren voor Delta Lake-tabellen met Unity Catalog. Informatieve beperkingen worden niet afgedwongen. Zie CONSTRAINT clausule.

Unity Catalog is algemeen verkrijgbaar

Unity Catalog is nu algemeen beschikbaar vanaf Databricks Runtime 11.1. Zie Wat is Unity Catalog?.

Delta Delen is algemeen beschikbaar

Delta Sharing is nu algemeen beschikbaar vanaf Databricks Runtime 11.1.

Databricks naar Databricks Delta Sharing wordt volledig beheerd zonder dat tokens hoeven te worden uitgewisseld. U kunt providers, ontvangers en shares maken en beheren in de gebruikersinterface of met SQL- en REST-API's.

Sommige functies omvatten het beperken van de toegang van geadresseerden, het opvragen van gegevens met IP-toegangslijsten en regiobeperkingen en het delegeren van Delta Sharing-beheer aan niet-beheerders. U kunt ook query's uitvoeren op wijzigingen in gegevens of incrementele versies delen met Wijzigingengegevensfeeds. Zie Wat is Delta Sharing?

Gedragswijzigingen

Gevoelige eigenschappen redigeren voor DESCRIBE TABLE en toon TABLE eigenschappen

Gevoelige eigenschappen worden redacted in DataFrames en de uitvoer van de DESCRIBE TABLE en SHOW TABLE PROPERTIES opdrachten.

Taakclusters zijn standaard ingesteld op de modus voor toegang van één gebruiker met Databricks Runtime 11.1 en hoger

Om Unity Catalog-capabel te zijn, worden taakclusters die gebruikmaken van Databricks Runtime 11.1 en hoger, wanneer ze zijn aangemaakt via de gebruikersinterface van taken of de taken-API, standaard ingesteld op de modus voor toegang door één gebruiker. De toegangsmodus voor één gebruiker ondersteunt de meeste programmeertalen, clusterfuncties en functies voor gegevensbeheer. U kunt de modus voor gedeelde toegang nog steeds configureren via de gebruikersinterface of API, maar talen of functies zijn mogelijk beperkt.

Bibliotheekupgrades

• Bijgewerkte Python-bibliotheken:
  • filelock van 3.6.0 tot 3.7.1
  • plotly from 5.6.0 to 5.8.2
  • protobuf van 3.20.1 tot 4.21.2
• Bijgewerkte R-bibliotheken:
  • chron van 2.3-56 tot 2.3-57
  • DBI van 1.1.2 tot 1.1.3
  • dbplyr van 2.1.1 tot 2.2.0
  • e1071 van 1,7-9 tot 1,7-11
  • toekomst van 1.25.0 tot 1.26.1
  • globals van 0.14.0 tot 0.15.1
  • hardhat van 0.2.0 tot 1.1.0
  • ipred van 0.9-12 tot 0,9-13
  • openssl van 2.0.0 tot 2.0.2
  • parallel van 1.31.1 tot 1.32.0
  • processx van 3.5.3 tot 3.6.1
  • voortgang van 0.10.0 tot 0.10.1
  • proxy van 0.4-26 tot 0.4-27
  • ps van 1.7.0 tot 1.7.1
  • randomForest van 4.7-1 tot 4.7-1.1
  • roxygen2 van 7.1.2 tot 7.2.0
  • Rserve van 1,8-10 tot 1,8-11
  • RSQLite van 2.2.13 tot 2.2.14
  • sparklyr van 1.7.5 tot 1.7.7
  • tinytex van 0,38 tot 0,40
  • usethis from 2.1.5 to 2.1.6
  • xfun van 0,30 tot 0,31
• Bijgewerkte Java-bibliotheken:
  • io.delta.delta-sharing-spark_2.12 van 0.4.0 tot 0.5.0

Apache Spark

Databricks Runtime 11.2 bevat Apache Spark 3.3.0. Deze release bevat alle Spark-fixes en verbeteringen die zijn opgenomen in Databricks Runtime 11.1 (EoS) en de volgende aanvullende bugfixes en verbeteringen in Spark:

• [SPARK-40054] [SQL] De syntaxis voor foutafhandeling van try_cast() herstellen
• [SPARK-39489] [CORE] Prestaties van JsonProtocol-logboekregistratie verbeteren met behulp van Jackson in plaats van Json4s
• [SPARK-39319] [CORE][SQL] Querycontexten maken als onderdeel van SparkThrowable
• [SPARK-40085] [SQL] Gebruik INTERNAL_ERROR foutklasse in plaats van IllegalStateException om fouten aan te geven
• [SPARK-40001] [SQL] Null-schrijfbewerkingen maken naar JSON DEFAULT-kolommen schrijven 'null' naar opslag
• [SPARK-39635] [SQL] Metrische stuurprogrammagegevens ondersteunen in aangepaste metrische DS v2-API
• [SPARK-39184] [SQL] Matrix met ondergetekende resultaten verwerken in datum- en tijdstempelreeksen
• [SPARK-40019] [SQL] Opmerking herstructureren van ArrayType's containsNull en herstructureer de misverstandlogica in de expressie van collectionOperator over containsNull
• [SPARK-39989] [SQL] Ondersteuning voor schatting van kolomstatistieken als deze uitvouwbare expressie is
• nl-NL: [SPARK-39926] [SQL] Fout opgelost in kolom DEFAULT-ondersteuning voor niet-gevectoriseerde Parquet-scans
• [SPARK-40052] [SQL] Directe bytebuffers verwerken in VectorizedDeltaBinaryPackedReader
• [SPARK-40044] [SQL] Het doelintervaltype in cast-overloopfouten oplossen
• [SPARK-39835] [SQL] Fix EliminateSorts verwijder globale sortering onder de lokale sortering
• [SPARK-40002] [SQL] Beperkingen niet doorvoeren via een ntile-windowfunctie
• [SPARK-39976] [SQL] ArrayIntersect moet null in linkerexpressie correct verwerken
• [SPARK-39985] [SQL] Impliciete standaardkolomwaarden inschakelen in invoegingen vanuit DataFrames
• [SPARK-39776] [SQL] JOIN uitgebreide tekenreeks moet jointype toevoegen
• [SPARK-38901] [SQL] DS V2 ondersteunt push-down misc-functies
• [SPARK-40028] [SQL][Opvolgen] Voorbeelden van tekenreeksfuncties verbeteren
• [SPARK-39983] [CORE][SQL] Niet-geserialiseerde broadcastrelaties niet in de cache opslaan op het stuurprogramma
• [SPARK-39812] [SQL] Code vereenvoudigen die wordt samengesteld AggregateExpression met toAggregateExpression
• [SPARK-40028] [SQL] Binaire voorbeelden voor tekenreeksexpressies toevoegen
• [SPARK-39981] [SQL] Gooi de uitzondering QueryExecutionErrors.castingCauseOverflowErrorInTableInsert in Cast
• [SPARK-40007] [PYTHON][SQL] Modus toevoegen aan functies
• [SPARK-40008] [SQL] Ondersteuning voor het casten van integralen naar ANSI-intervallen
• [SPARK-40003] [PYTHON][SQL] Mediaan toevoegen aan functies
• [SPARK-39952] [SQL] SaveIntoDataSourceCommand moet resultaatrelatie opnieuw in de cache opslaan
• [SPARK-39951] [SQL] Parquet V2 kolomstructuurcontrole bijwerken voor geneste velden
• [SPARK-39775] [CORE][AVRO] Valideren van standaardwaarden uitschakelen bij het parseren van Avro-schema's
• [SPARK-33236] [willekeurige volgorde] Backport naar DBR 11.x: Schakel pushgebaseerde shuffle-service in om de status op te slaan in NM-niveau DB voor opnieuw opstarten met behoud van werk
• [SPARK-39836] [SQL] Vereenvoudig V2ExpressionBuilder door algemene methode te extraheren.
• [SPARK-39867] [SQL] Globale limiet mag OrderPreservingUnaryNode niet erven
• [SPARK-39873] [SQL] Verwijder OptimizeLimitZero en voeg deze samen in EliminateLimits
• [SPARK-39961] [SQL] DS V2 push-down vertalen Cast als de cast veilig is
• [SPARK-39872] [SQL] Wijzigen voor gebruik BytePackerForLong#unpack8Values met matrixinvoer-API in VectorizedDeltaBinaryPackedReader
• [SPARK-39858] [SQL] Verwijder onnodige AliasHelper of PredicateHelper voor sommige regels
• [SPARK-39962] [WARMFIX][ES-393486][PYTHON][SQL] Projectie toepassen wanneer groepskenmerken leeg zijn
• [SPARK-39900] [SQL] Gedeeltelijke of ontkende voorwaarde in de predicaatpushdown van binaire indeling oplossen
• [SPARK-39904] [SQL] De naam van inferDate wijzigen om de voorkeur te geven aanDate en de semantiek van de optie in de CSV-gegevensbron verduidelijken
• [SPARK-39958] [SQL] Waarschuwingslogboek toevoegen wanneer het aangepaste metrische object niet kan worden geladen
• [SPARK-39936] [SQL] Schema opslaan in eigenschappen voor Spark-views
• [SPARK-39932] [SQL] WindowExec moet de uiteindelijke partitiebuffer wissen
• [SPARK-37194] [SQL] Vermijd onnodige sortering in v1 schrijven als deze geen dynamische partitie is
• [SPARK-39902] [SQL] Scandetails toevoegen aan spark-planscanknooppunt in SparkUI
• [SPARK-39865] [SQL] Juiste foutberichten weergeven bij de overloopfouten van tabel invoegen
• [SPARK-39940] [SS] Catalogustabel vernieuwen bij streamingquery met DSv1-sink
• [SPARK-39827] [SQL] De foutklasse ARITHMETIC_OVERFLOW gebruiken voor int-overloop in add_months()
• [SPARK-39914] [SQL] DS V2-filter toevoegen aan V1-filterconversie
• [SPARK-39857] [SQL] Handmatige DBR 11.x-backport; V2ExpressionBuilder gebruikt het verkeerde Gegevenstype LiteralValue voor Predicaat #43454
• [SPARK-39840] [SQL][PYTHON] Factor PythonArrowInput als een symmetrie naar PythonArrowOutput
• [SPARK-39651] [SQL] Prune filtervoorwaarde als vergelijken met rand deterministisch is
• [SPARK-39877] [PYTHON] Unpivot-functie toevoegen aan de PySpark DataFrame-API
• [SPARK-39847] [WARMFIX][SS] Racevoorwaarde herstellen in RocksDBLoader.loadLibrary() als de aanroeperthread wordt onderbroken
• [SPARK-39909] [SQL] De controle van push-downgegevens voor JDBCV2Suite organiseren
• [SPARK-39834] [SQL][SS] Neem de oorsprongsstatistieken en -beperkingen voor LogicalRDD op als deze afkomstig is van DataFrame
• [SPARK-39849] [SQL] Dataset.as(StructType) vult ontbrekende nieuwe kolommen met null-waarde
• [SPARK-39860] [SQL] Meer expressies moeten predicaat uitbreiden
• [SPARK-39823] [SQL][PYTHON] Wijzig de naam van Dataset.as als Dataset.to en voeg DataFrame.to toe in PySpark
• [SPARK-39918] [SQL][SECUNDAIR] Vervang de tekst "un-comparable" door "incomparable" in het foutbericht
• [SPARK-39857] [SQL][3.3] V2ExpressionBuilder gebruikt het verkeerde Gegevenstype LiteralValue voor Predicaat
• [SPARK-39862] [SQL] Handmatige backport voor PR 43654 gericht op DBR 11.x: SQLConf.DEFAULT_COLUMN_ALLOWED_PROVIDERS bijwerken om ALTER TABLE toe te staan/te weigeren ... Voeg COLUMN opdrachten afzonderlijk toe.
• [SPARK-39844] [SQL] Handmatige backport voor PR 43652 gericht op DBR 11.x
• [SPARK-39899] [SQL] Verhelp het doorgeven van berichtparameters aan InvalidUDFClassException
• [SPARK-39890] [SQL] TakeOrderedAndProjectExec overnemen AliasAwareOutputOrdering
• [SPARK-39809] [PYTHON] Ondersteuning voor CharType in PySpark
• [SPARK-38864] [SQL] Unpivot/melt toevoegen aan gegevensset
• [SPARK-39864] [SQL] Lazily executionListenerBus registreren
• [SPARK-39808] [SQL] Ondersteuning voor statistische functieMODUS
• [SPARK-39839] [SQL] Speciale case van null-variabele lengte decimaal met niet-nul offsetAndSize in de structurele integriteitscontrole Van OnveiligRow verwerken
• [SPARK-39875] [SQL] Methode wijzigen protected in laatste klasse in private of package-visible
• [SPARK-39731] [SQL] Probleem opgelost in CSV- en JSON-gegevensbronnen bij het parseren van datums in de indeling 'yyyyMMdd' met gecorrigeerd tijdparserbeleid
• [SPARK-39805] [SS] Trigger.Once verwijderen en Trigger.AvailableNow promoveren
• [SPARK-39784] [SQL] Letterlijke waarden aan de rechterkant van het gegevensbronfilter plaatsen na het vertalen van Catalyst Expression naar gegevensbronfilter
• [SPARK-39672] [SQL][3.1] Oplossing voor het verwijderen van een project vóór het filter met gecorreleerde subquery
• [SPARK-39552] [SQL] Samenvoegen v1 en v2 DESCRIBE TABLE
• [SPARK-39806] [SQL] Toegang tot _metadata in een gepartitioneerde tabel kan een query vastlopen
• [SPARK-39810] [SQL] Catalog.tableExists moet geneste naamruimte verwerken
• [SPARK-37287] [SQL] Dynamische partitie- en bucket-sortering uit FileFormatWriter verwijderen
• [SPARK-39469] [SQL] Datumtype afleiden voor CSV-schemadeductie
• [SPARK-39148] [SQL] DS V2 cumulatieve push down kan werken met OFFSET of LIMIT
• [SPARK-39818] [SQL] Los bug op in ARRAY-, STRUCT-, MAP-typen met STANDAARDwaarden met NULL-veld(en)
• [SPARK-39792] [SQL] DecimalDivideWithOverflowCheck toevoegen voor decimaal gemiddelde
• [SPARK-39798] [SQL] Replcace toSeq.toArray met .toArray[Any] in constructor van GenericArrayData
• [SPARK-39759] [SQL] ListIndexes implementeren in JDBC (H2 dialect)
• [SPARK-39385] [SQL] Ondersteunt push-omlaag REGR_AVGX en REGR_AVGY
• [SPARK-39787] [SQL] Foutklasse gebruiken in de parseringsfout van functie to_timestamp
• [SPARK-39760] [PYTHON] Ondersteuning voor Varchar in PySpark
• [SPARK-39557] [SQL] Handmatige backport naar DBR 11.x: Ondersteuning voor ARRAY, STRUCT, MAP-typen als STANDAARD waarden
• [SPARK-39758] [SQL][3.3] NPE herstellen vanuit de regexp-functies op ongeldige patronen
• [SPARK-39749] [SQL] ANSI SQL-modus: een gewone tekenreeksweergave gebruiken bij het casten van decimalen naar tekenreeks
• [SPARK-39704] [SQL] CreateIndex & dropIndex & indexExists implementeren in JDBC (H2 dialect)
• [SPARK-39803] [SQL] Gebruiken LevenshteinDistance in plaats van StringUtils.getLevenshteinDistance
• [SPARK-39339] [SQL] Ondersteuning voor het type TimestampNTZ in JDBC-gegevensbron
• [SPARK-39781] [SS] Ondersteuning toevoegen voor het bieden van max_open_files aan de provider van de rocksdb-statusopslag
• [SPARK-39719] [R] Implementeer databaseExists/getDatabase in SparkR-ondersteuning voor 3L-naamruimte
• [SPARK-39751] [SQL] Metrische waarde voor de aggregaties van hashsleuteltests wijzigen
• [SPARK-39772] [SQL] naamruimte moet null zijn wanneer de database null is in de oude constructors
• [SPARK-39625] [SPARK-38904][SQL] Dataset.as(StructType) toevoegen
• [SPARK-39384] [SQL] Ingebouwde statistische functies voor lineaire regressie compileren voor JDBC-dialect
• [SPARK-39720] [R] TableExists/getTable implementeren in SparkR voor 3L-naamruimte
• [SPARK-39744] [SQL] De REGEXP_INSTR functie toevoegen
• [SPARK-39716] [R] CurrentDatabase/setCurrentDatabase/listCatalogs in SparkR ondersteunen 3L-naamruimte
• [SPARK-39788] [SQL] Naam wijzigen catalogName in dialectName voor JdbcUtils
• [SPARK-39647] [CORE] De uitvoerder registreren bij ESS voordat u de BlockManager registreert
• [SPARK-39754] [CORE][SQL] Ongebruikte import of onnodige {} verwijderen
• [SPARK-39706] [SQL] Ontbrekende kolom instellen met defaultValue als constante in ParquetColumnVector
• [SPARK-39699] [SQL] SamenvouwenProject slimmer maken over expressies voor het maken van verzamelingen
• [SPARK-39737] [SQL] PERCENTILE_CONT en PERCENTILE_DISC moet ondersteuning bieden voor het aggregatiesfilter
• [SPARK-39579] [SQL][PYTHON][R] ListFunctions/getFunction/functionExists compatibel maken met 3 laagnaamruimte
• [SPARK-39627] [SQL] JDBC V2-pushdown moet de compile-API samenvoegen
• [SPARK-39748] [SQL][SS] Neem het logische origin-plan voor LogicalRDD op als het afkomstig is van DataFrame
• [SPARK-39385] [SQL] Statistische functies voor lineaire regressie vertalen voor pushdown
• [SPARK-39695] [SQL] De REGEXP_SUBSTR functie toevoegen
• [SPARK-39667] [SQL] Voeg nog een tijdelijke oplossing toe wanneer er onvoldoende geheugen is om de tabel te bouwen en uit te zenden
• [SPARK-39666] [ES-337834][SQL] OnveiligProjection.create gebruiken om te respecteren spark.sql.codegen.factoryMode in ExpressionEncoder
• [SPARK-39643] [SQL] Subquery-expressies in STANDAARDwaarden verbieden
• [SPARK-38647] [SQL] Add SupportsReportOrdering mix in interface for Scan (DataSourceV2)
• [SPARK-39497] [SQL] De analyse-uitzondering van ontbrekende kaartsleutelkolom verbeteren
• [SPARK-39661] [SQL] Vermijd het maken van onnodige SLF4J Logger
• [SPARK-39713] [SQL] ANSI-modus: suggesties toevoegen voor het gebruik van try_element_at voor INVALID_ARRAY_INDEX fout
• [SPARK-38899] [SQL]DS V2 ondersteunt push-down datetime-functies
• [SPARK-39638] [SQL] Wijzigen om ConstantColumnVector te gebruiken voor het opslaan van partitiekolommen in OrcColumnarBatchReader
• [SPARK-39653] [SQL] Opschonen ColumnVectorUtils#populate(WritableColumnVector, InternalRow, int) van ColumnVectorUtils
• [SPARK-39231] [SQL] Gebruik ConstantColumnVector in plaats van On/OffHeapColumnVector om partitiekolommen op te slaan in VectorizedParquetRecordReader
• [SPARK-39547] [SQL] V2SessionCatalog mag NoSuchDatabaseException niet genereren in loadNamspaceMetadata
• [SPARK-39447] [SQL] Vermijd AssertionError in AdaptiveSparkPlanExec.doExecuteBroadcast
• [SPARK-39492] [SQL] MISSING_COLUMN opnieuw bewerken
• [SPARK-39679] [SQL] TakeOrderedAndProjectExec moet de onderliggende uitvoervolgorde respecteren
• [SPARK-39606] [SQL] Onderliggende statistieken gebruiken om een schatting te maken van de orderoperator
• [SPARK-39611] [PYTHON][PS] Onjuiste aliassen in array_ufunc oplossen
• [SPARK-39656] [SQL][3.3] Onjuiste naamruimte in DescribeNamespaceExec herstellen
• [SPARK-39675] [SQL] Switch 'spark.sql.codegen.factoryMode' configuratie van testdoel naar intern doel
• [SPARK-39139] [SQL] DS V2 ondersteunt push down DS V2 UDF
• [SPARK-39434] [SQL] Runtimefoutquerycontext opgeven wanneer de matrixindex buiten de grenzen valt
• [SPARK-39479] [SQL] DS V2 ondersteunt push-down wiskundige functies (niet ANSI)
• [SPARK-39618] [SQL] De REGEXP_COUNT functie toevoegen
• [SPARK-39553] [CORE] Bij het gebruik van Scala 2.13 mag de registratie met meerdere threads ongedaan worden gemaakt, moet NPE niet worden gegooid
• [SPARK-38755] [PYTHON][3.3] Voeg een bestand toe om ontbrekende pandas-algemene functies te adresseren
• [SPARK-39444] [SQL] OptimizeSubqueries toevoegen aan de lijst met niet-uit te sluiten regels
• [SPARK-39316] [SQL] PromotePrecision en CheckOverflow samenvoegen in decimale binaire rekenkundige berekeningen
• [SPARK-39505] [UI] Escape-logboekinhoud die wordt weergegeven in de gebruikersinterface
• [SPARK-39448] [SQL] ReplaceCTERefWithRepartition toevoegen aan nonExcludableRules lijst
• [SPARK-37961] [SQL] MaxRows/maxRowsPerPartition overschrijven voor sommige logische operators
• [SPARK-35223] Add IssueNavigationLink herstellen
• [SPARK-39633] [SQL] Ondersteuningstijdstempel in seconden voor TimeTravel met behulp van Dataframe-opties
• [SPARK-38796] [SQL] Documentatie bijwerken voor nummeropmaakreeksen met de functies {try_}to_number
• [SPARK-39650] [SS] Corrigeren van een onjuist waardeschema in streaming-deduplificatie met compatibiliteit met eerdere versies
• [SPARK-39636] [CORE][UI] Meerdere fouten in JsonProtocol oplossen, die van invloed zijn op heap StorageLevels en Task/Executor ResourceRequests
• [SPARK-39432] [SQL] ELEMENT_AT_BY_INDEX_ZERO retourneren uit element_at(*, 0)
• [SPARK-39349] Een gecentraliseerde CheckError-methode toevoegen voor QA van het foutpad
• [SPARK-39453] [SQL] DS V2 ondersteunt push-down misc niet-statistische functies (niet-ANSI)
• [SPARK-38978] [SQL] DS V2 ondersteunt pushdown-operator OFFSET
• [SPARK-39567] [SQL] ANSI-intervallen in de percentielfuncties ondersteunen
• [SPARK-39383] [SQL] Ondersteuning voor STANDAARDkolommen in ALTER TABLE ALTER COLUMNS naar V2-gegevensbronnen
• nl-NL: [SPARK-39396] [SQL] LDAP-aanmeldingsuitzondering 'foutcode 49 - ongeldige inloggegevens' oplossen
• [SPARK-39548] [SQL] CreateView-opdracht met een query met vensterclausule veroorzaakte probleem met niet-gevonden vensterdefinitie
• [SPARK-39575] [AVRO] toevoeg ByteBuffer#rewind na ByteBuffer#get in Avr...
• [SPARK-39543] De optie van DataFrameWriterV2 moet worden doorgegeven aan opslageigenschappen als u terugval naar v1
• [SPARK-39564] [SS] De informatie van de catalogustabel beschikbaar maken voor het logische plan in de streaming query
• [SPARK-39582] [SQL] Markering 'Sinds' opgelost voor array_agg
• [SPARK-39388] [SQL] Opnieuw orcSchema gebruiken wanneer orc-predicaten omlaag worden gepusht
• [SPARK-39511] [SQL] Optimaliseren van lokale limiet 1 voor de rechterzijde van een linker semi- of anti-join wanneer de joinvoorwaarde leeg is
• [SPARK-38614] [SQL] Beperkingen niet doorschuiven naar het venster dat gebruikmaakt van percent_rank
• [SPARK-39551] [SQL] Ongeldige AQE-plancontrole toevoegen
• [SPARK-39383] [SQL] Ondersteuning voor STANDAARDkolommen in ALTER TABLECOLUMNS toevoegen aan V2-gegevensbronnen
• [SPARK-39538] [SQL] Vermijd het maken van onnodige SLF4J Logger
• [SPARK-39383] [SQL] Handmatige backport naar DBR 11.x: Refactor van standaardkolomondersteuning om het doorgeven van de primaire Analyzer te vermijden
• [SPARK-39397] [SQL] Relax AliasAwareOutputExpression ter ondersteuning van alias met expressie
• [SPARK-39496] [SQL] Null-struct afhandelen in Inline.eval
• [SPARK-39545] [SQL] concat Onderdrukkingsmethode voor ExpressionSet in Scala 2.13 om de prestaties te verbeteren
• [SPARK-39340] [SQL] DS v2-agg-pushdown moet het toestaan van punten in de naam van kolommen op het hoogste niveau mogelijk maken
• [SPARK-39488] [SQL] Vereenvoudig de foutafhandeling van TempResolvedColumn
• [SPARK-38846] [SQL] Expliciete gegevenstoewijzing toevoegen tussen Teradata Numeric Type en Spark DecimalType
• [SPARK-39520] [SQL] -- Onderdrukkingsmethode voor ExpressionSet in Scala 2.13
• [SPARK-39470] [SQL] Ondersteuning voor cast van ANSI-intervallen naar decimalen
• [SPARK-39477] [SQL] Verwijder informatie over het aantal query's uit de gouden bestanden van SQLQueryTestSuite
• [SPARK-39419] [SQL] MatrixSort herstellen om een uitzondering te genereren wanneer de comparator null retourneert
• [SPARK-39061] [SQL] Stel nullable correct in voor Inline outputattributen
• [SPARK-39320] [SQL] Statistische functie ondersteunen MEDIAN
• [SPARK-39261] [CORE] Nieuwelijnopmaak voor foutberichten verbeteren
• [SPARK-39355] [SQL] Enkele kolom gebruikt aangehaalde teksten om UnresolvedAttribute samen te stellen
• [SPARK-39351] [SQL] SHOW CREATE TABLE moeten eigenschappen redigeren
• [SPARK-37623] [SQL] AnSI-statistische functie ondersteunen: regr_intercept
• [SPARK-39374] [SQL] Foutbericht verbeteren voor door de gebruiker opgegeven kolomlijst
• [SPARK-39255] [SQL][3.3] Foutberichten verbeteren
• [SPARK-39321] [SQL] TryCast herstructureren om RuntimeReplaceable te gebruiken
• [SPARK-39406] [PYTHON] NumPy-matrix accepteren in createDataFrame
• [SPARK-39267] [SQL] Het onnodige symbool van dsl opschonen
• [SPARK-39171] [SQL] De Cast-expressie samenvoegen
• [SPARK-28330] [SQL] Ondersteuning voor ANSI SQL: result offset clausule in query expressie
• [SPARK-39203] [SQL] Tabellocatie herschrijven naar absolute URI op basis van database-URI
• [SPARK-39313] [SQL] toCatalystOrdering moet mislukken als V2Expression niet kan worden vertaald
• [SPARK-39301] [SQL][PYTHON] Gebruik LocalRelation en respecteer de grootte van de Arrow-batch in createDataFrame met Arrow Optimization
• [SPARK-39400] [SQL] spark-sql moet hive-resource-dir in alle gevallen verwijderen

Onderhoudsupdates

Zie onderhoudsupdates voor Databricks Runtime 11.1.

Systeemomgeving

• Besturingssysteem: Ubuntu 20.04.4 LTS
• Java: Zulu 8.56.0.21-CA-linux64
• Scala: 2.12.14
• Python: 3.9.5
• R: 4.1.3
• Delta Lake: 1.2.1

Geïnstalleerde Python-bibliotheken

Geïnstalleerde R-bibliotheken

R-bibliotheken worden geïnstalleerd vanuit de Microsoft CRAN-momentopname op 2022-08-15.

Geïnstalleerde Java- en Scala-bibliotheken (Scala 2.12-clusterversie)