Databricks Runtime 4.3 (EoS)

Databricks släppte den här versionen i augusti 2018.

Följande viktig information innehåller information om Databricks Runtime 4.3, som drivs av Apache Spark.

Nya funktioner

• Delta Lake
  • TRUNCATE TABLE kommando: Ta bort alla rader från en tabell. Till skillnad från dess motsvarighet för Spark-tabeller stöder Delta-tabeller inte borttagning av specifika partitioner.
  • ALTER TABLE REPLACE COLUMNS kommando: Ersätt kolumner i en Delta-tabell. Den har stöd för att ändra kommentaren för en kolumn och ordna om flera kolumner.
  • FSCK REPAIR TABLE kommando: Ta bort filposterna från transaktionsloggen för en Delta-tabell som inte längre kan hittas i det underliggande filsystemet. Detta kan inträffa när dessa filer har tagits bort manuellt.
  • Stöd för frågor i inaktuella Delta-tabeller för att förbättra den interaktiva frågeupplevelsen: Frågor i Delta-tabeller kan nu köras på en inaktuell version av tabellen när uppdaterade resultat inte behövs. Den här funktionen minskar svarstiden för frågor, särskilt när underliggande Delta-tabeller uppdateras kontinuerligt via strömmar.
• Strukturerad direktuppspelning
  • Stöd för skalbar direktuppspelningsskrivning för Azure Synapse Analytics Connector.
  • Stöd för foreachBatch() i Python (finns redan i Scala). Mer information finns i foreach- och foreachBatch-dokumentationen .
  • Stöd för att välja antingen minsta eller högsta vattenstämpel när det finns flera indataströmmar i en fråga. Tidigare användes alltid den minsta tidsstämpeln. Mer information finns i principen för flera vattenstämplar.
  • Stöd för operatorn LIMIT för strömmar i Append och Complete utdatalägen. För att minimera OOM-fel på drivrutinen LIMIT tillämpas automatiskt när du använder display() på obundna strömmar.

Förbättringar

• Data Lake

  • Privat förhandsversion av ny skalbar implementering av MERGE INTO kommandot som inte har infogningsgränsen på 1 0000 rader. Kontakta supporten om du vill prova det här.
  • Bättre prestanda och skalbarhet för OPTIMIZE kommandot, särskilt i större kluster.
  • Kommandot OPTIMIZE checkar nu in i tabellen stegvis, vilket innebär att om kommandot misslyckas behöver ett nytt försök inte bearbeta hela datamängden.
  • Minskade antalet RPC:er för filsystem som krävs för att identifiera nya data när du använder Delta Lake som strömningskälla.
  • Stöd har lagts till för i Python för df.writeStream.table(table-name) att skapa en Delta-tabell från en dataström.

• Förbättrad prestanda för frågor med flera kopplingar, sammansättningar eller fönster.

• Förbättrad effektivitet för rensning på partitionsnivå i frågor med sändningshashkopplingar.

• Förbättringar av hela fasens kodgenerering för att identifiera duplicerade uttryck, minska mängden kod som genereras och förbättra prestanda för vissa uttryckstyper.

• Kluster med hög samtidighet stöder nu körning %fs i notebook-filer.

• Uppgraderade Py4J som används av PySpark till 0.10.7.

• Förbättrad prestanda för diskcachelagring på Instanser i Azure Ls-serien. Cachen är nu aktiverad som standard på dessa instanser, vilket påskyndar arbetsbelastningar som upprepade gånger läser Parquet-filer.

Inaktuella funktioner

• Data som hoppar över utanför Databricks Delta är inaktuella. En förbättrad version av datahopp kommer att fortsätta att vara tillgänglig som en del av Delta Lake. Vi rekommenderar att du växlar till att använda Delta Lake för att fortsätta att dra nytta av den här funktionen. Mer information finns i Databricks Delta Data Skipping .

Felkorrigeringar

• Korrigerade felaktig predicate pushdown-instruktion MERGE INTO för Delta när ON-villkoret hade predikat som endast refererade till måltabellen.
• Åtgärdade fel i mapGroupsWithState och flatMapGroupsWithState som förhindrade att tidsgränser fastställdes när tillståndet har tagits bort (SPARK-22187).
• Fel som förhindrade vattenstämpeln att fungera korrekt med Trigger.Once (SPARK-24699) har åtgärdats.
• Kommandot Update verifierar nu kolumnerna i SET-satsen för att se till att alla kolumner faktiskt finns och att ingen kolumn har angetts mer än en gång.
• Ett potentiellt konkurrenstillstånd som kan orsaka dödlägen för katalogincheckning har åtgärdats.

• En bugg har åtgärdats som gjorde att en inaktuell version av DBFS-klienten användes vid uppdatering av monteringar.

Kända problem

• Delta Lake-konfigurationsalternativ för en tabell börjar gälla endast i den första notebook-filen som läser in tabellen.

Apache Spark

Databricks Runtime 4.3 innehåller Apache Spark 2.3.1. Den här versionen innehåller alla korrigeringar och förbättringar som ingår i Databricks Runtime 4.2 (EoS) samt följande ytterligare felkorrigeringar och förbättringar som gjorts i Spark:

• [SPARK-24934][SQL] Tillåt uttryckligen typer i övre/nedre gränser för minnesintern partitionsrensning
  • När komplexa datatyper används i frågefilter mot cachelagrade data returnerar Spark alltid en tom resultatuppsättning. Den minnesbaserade statsbaserade rensningen genererar felaktiga resultat eftersom null har angetts för övre/nedre gränser för komplexa typer. Korrigeringen är att inte använda minnesintern statsbaserad beskärning för komplexa typer.
• [SPARK-24957][SQL] Medelvärde med decimal följt av aggregering returnerar fel resultat
  • De felaktiga resultaten av AVERAGE kan returneras. Cast som läggs till i operatorn Average kringgås om resultatet av Divide är samma typ som det är gjutet till.
• [SPARK-24867][SQL] Lägga till AnalysisBarrier i DataFrameWriter
  • SQL-cache används inte när du använder DataFrameWriter för att skriva en DataFrame med UDF. Det här är en regression som orsakas av de ändringar vi gjorde i AnalysisBarrier, eftersom inte alla Analyzer-regler är idempotenter.
• [SPARK-24790][SQL] Tillåt komplexa aggregeringsuttryck i pivot
  • Minska kontrollen för att tillåta komplexa aggregeringsuttryck, till exempel ceil(sum(col1)) eller sum(col1) + 1, vilket i stort sett innebär alla aggregerade uttryck som kan visas i en aggregerad plan förutom Pandas UDF.
• [SPARK-24870][SQL] Cacheminnet kan inte fungera normalt om det finns skiftlägesbeteckningar i SQL
  • Åtgärdar ett plan canonicalization-problem.
• [SPARK-24852]Ha spark.ml träning med uppdaterade Instrumentations-API :er.
• [SPARK-24891][SQL] Åtgärda HandleNullInputsForUDF-regeln
  • Gör HandleNullInputsForUDF-regel idempotent för att undvika matchningsfel i cachehanteraren när en plan analyseras mer än en gång.
• [SPARK-24878][SQL] Korrigera omvänd funktion för matristyp av primitiv typ som innehåller null.
• [SPARK-24871][SQL] Omstrukturera Concat och MapConcat för att undvika att skapa concatenatorobjekt för varje rad.
• [SPARK-24802][SQL] Lägga till en ny konfiguration för optimeringsregelundantag
  • Tillhandahåller en konfiguration för användare för att exkludera vissa optimerarregler.
• [SPARK-24879][SQL] Åtgärda NPE i push-nedtryckning av rensningsfilter för Hive-partition
  • När partitionspredikatet liknar col IN (1, null) genereras en NPE. Den här korrigeringen åtgärdar det.
• [SPARK-23731][SQL] Gör FileSourceScanExec kanonisk storlek efter att ha serialiserats (de)
• [SPARK-24755][CORE] Körfel kan leda till att aktiviteten inte skickas på nytt
  • Åtgärdar ett fel som Spark inte kan skicka om uppgifter som misslyckades på grund av en körförlust. Den här buggen introducerades i Spark 2.3.
• [SPARK-24677][CORE] Undvik NoSuchElementException från MedianHeap
  • Åtgärdar en spekulativ aktivitetsrelaterad bugg när du samlar in mått för varaktighet för aktiviteter.
• [SPARK-24868][PYTHON] lägg till sekvensfunktion i Python
• [SPARK-21811][SPARK-24012][SPARK-24737][SPARK-24165][SPARK-24734][SPARK-24840][SQL] Åtgärda typtvång och null-skulder.
• [SPARK-24699][SS] Få vattenstämplar att fungera med Trigger.Once genom att spara uppdaterad vattenstämpel för att checka in loggen
• [SPARK-24537][R] Lägg till array_remove/array_zip/map_from_arrays/array_distinct
• [SPARK-22187][SS] Uppdatera formatet unsaferow för sparat tillstånd i flatMapGroupsWithState för att tillåta timeouter med borttaget tillstånd (4.x)
• [SPARK-24681][SQL] Verifiera kapslade kolumnnamn i Hive-metaarkivet
  • Kontrollera att kapslade kolumnnamn inte innehåller ',', ':' och ';' i Hive-metaarkivet
• [SPARK-23486]cachelagra funktionsnamnet från den externa katalogen för lookupFunctions
  • För att påskynda funktionssökningar.
• [SPARK-24781][SQL] Det kanske inte fungerar att använda en referens från datauppsättningen i Filter/Sort
• [SPARK-24208][SQL] Åtgärda attributdeduplicering för FlatMapGroupsInPandas
  • Åtgärda självkopplingsfel på en datauppsättning som innehåller en FlatMapGroupsInPandas på grund av duplicerade attribut
• [SPARK-24530][PYTHON] Lägg till en kontroll för att tvinga Python-versionen i Sphinx via miljövariabeln SPHINXPYTHON
• [SPARK-24250]stöd för åtkomst till SQLConf inuti uppgifter
  • Spara alla SQL-konfigurationer i jobbegenskaper när en SQL-körning utlöses. På körsidan återskapar vi SQLConf från jobbegenskaper.
• [SPARK-23936][SQL] Implementera map_concat
• [SPARK-23914][SQL] Lägg till funktionen array_union
• [SPARK-24732][SQL] Skriv tvång mellan MapTypes.
  • Lägger till stöd för typtvång mellan MapTypes där både nyckeltyperna och värdetyperna är kompatibla. Till exempel kan typerna MapType(IntegerType, FloatType) och MapType(LongType, DoubleType) tvingas att skriva MapType(LongType, DoubleType)
• [SPARK-24662][SQL][SS] Stödgräns för strukturerad direktuppspelning
• [SPARK-24730][SS] Lägg till princip för att välja max som global vattenstämpel när strömmande fråga har flera vattenstämplar (branch-4.x)
• [SPARK-24596][SQL] Cache-ogiltighet som inte är sammanhängande
  • När du avmarkerar eller släpper temporär vy är det inte nödvändigt att ta bort alla planer som är beroende av vyn eftersom underliggande data inte ändras.
• [SPARK-23927][SQL] Lägg till "sekvensuttryck"
• [SPARK-24636][SQL] Ange tvång för matriser för funktionen array_join
• [SPARK-22384][SQL] Förfina partitionsrensning när attributet omsluts i Cast
  • Förbättra partitionsbeskärning, kunna push-överföra partitionspredikat med säker typgjutning (int till lång, inte lång till int).
• [SPARK-24385][SQL] Lösa problem med självkopplingsvillkor för EqualNullSafe
  • Implementerar EqualNullSafe för att lösa problem med självkopplingsvillkor.
• [SPARK-24696][SQL] ColumnPruning-regeln kan inte ta bort extra projekt
  • Åtgärdar ett fel i ColumnPruning-regeln som orsakade ett oändligt loopfel i Optimizer.
• [SPARK-24603][SQL] Åtgärda findTightestCommonType-referens i kommentarer
• [SPARK-24613][SQL] Cachelagring med UDF kunde inte matchas med efterföljande beroende cacheminnen
  • Omsluter den logiska planen med en AnalysisBarrier för körningsplankompilering i CacheManager för att undvika att planen analyseras igen. Detta är också en regression av Spark 2.3.
• [SPARK-24017][SQL] Omstrukturera ExternalCatalog till ett gränssnitt
• [SPARK-24324][PYTHON] Pandas Grouped Map UDF ska tilldela resultatkolumner efter namn
  • Tilldelar resultatkolumner efter schemanamn om användaren är märkt med strängar, annars med position.
• [SPARK-23778][CORE] Undvik onödig blandning när unionen får en tom RDD
  • Ignorerar inkommande tomma RDD:er i union-metoden för att undvika onödig extra shuffle när alla andra RDD:er har samma partitionering.
• [SPARK-24552][CORE][SQL] Använd unikt ID i stället för försöksnummer för skrivningar.
  • Skickar det unika aktivitetsförsöks-ID:t i stället för försöksnummer till v2-datakällor eftersom försöksnumret återanvänds när faser görs om. Detta påverkar API:erna för datakällan V1 och V2, men API:erna för filformat påverkas inte eftersom DBR använder olika incheckningsprotokoll.
• [SPARK-24588][SS] streaminganslutning bör kräva HashClusteredPartitioning från underordnade.
• [SPARK-24589][CORE] Identifiera uppgifter i utdataincheckningskoordinatorn korrekt.
  • Lägger till mer information i fastillståndet som spåras av koordinatorn, så att endast en uppgift kan checka in utdata. Den här korrigeringen tar också bort de onödiga kodändringar som införts av SPARK-18113.
• [SPARK-23933][SQL] Lägg till funktionen map_from_arrays
• [SPARK-24583][SQL] Fel schematyp i InsertIntoDataSourceCommand
  • När du skapar en Delta-tabell med INTE NULL-begränsningar kan vi släppa null-värdet och infoga NULL-värdena utan att kontrollera överträdelsen.
• [SPARK-24542][SQL] UDF-serien UDFXPathXXXX tillåter användare att skicka noggrant utformad XML för att få åtkomst till godtyckliga filer
  • Det här är en säkerhetskorrigering som rapporteras från communityn. UDF-serien UDFXPathXXXX tillåter användare att skicka noggrant utformad XML för att få åtkomst till godtyckliga filer. När användarna använder det externa åtkomstkontrollbiblioteket kan användarna kringgå dem och komma åt filinnehållet.
• [SPARK-23934][SQL] Lägga till funktionen map_from_entries
• [SPARK-23912][SQL] Lägg till array_distinct
• [SPARK-24574][SQL] funktionerna array_contains, array_position, array_remove och element_at hanterar kolumntyp

Underhållsuppdateringar

Se Underhållsuppdateringar för Databricks Runtime 4.3.

Systemmiljö

• Operativsystem: Ubuntu 16.04.4 LTS
• Java: 1.8.0_162
• Scala: 2.11.8
• Python: 2.7.12 för Python 2-kluster och 3.5.2 för Python 3-kluster.
• R: R version 3.4.4 (2018-03-15)
• GPU-kluster: Följande NVIDIA GPU-bibliotek är installerade:
  • Tesla-förare 375,66
  • CUDA 9.0
  • cuDNN 7.0

Installerade Python-bibliotek

Installerade R-bibliotek

Installerade Java- och Scala-bibliotek (Scala 2.11-klusterversion)