Databricks Runtime 16.0
توفر ملاحظات الإصدار التالية معلومات حول Databricks Runtime 16.0، مدعومة من Apache Spark 3.5.0.
أصدرت Databricks هذا الإصدار في نوفمبر 2024.
تلميح
للاطلاع على ملاحظات الإصدار لإصدارات Databricks Runtime التي وصلت إلى نهاية الدعم (EoS)، راجع ملاحظات إصدار وقت تشغيل Databricks لنهاية الدعم. تم إيقاف إصدارات وقت تشغيل EoS Databricks وقد لا يتم تحديثها.
التغيرات السلوكية
- تغيير كسر: JDK 17 هو الآن الافتراضي
- تغيير كسر: RStudio المستضاف هو نهاية العمر الافتراضي
- كسر التغيير: إزالة الدعم لتغيير
byte
short
الأنواع وint
وlong
إلى أنواع أوسع - التحليل الصحيح لأنماط regex مع الرفض في تجميع الأحرف المتداخلة
- تحسين الكشف عن المطابقة المكررة في Delta Lake
MERGE
- لم يعد من الممكن تجاوز أسلوب تثبيت مكتبة نظام المجموعة
- المهلة الافتراضية لساعتين لتثبيتات المكتبة ذات نطاق نظام المجموعة
- يتم تعطيل تثبيت المكتبات من DBFS وتعيين تكوين
spark.databricks.driver.dbfsLibraryInstallationAllowed
spark addArtifact()
الوظيفة متناسقة الآن عبر أنواع الحوسبة
تغيير كسر: JDK 17 هو الآن الافتراضي
في Databricks Runtime 16.0 والإصدارات الأحدث، يتم تبديل إصدار JDK الافتراضي من JDK 8 إلى JDK 17. يتم إجراء هذا التغيير بسبب الإهمال المخطط له وانتهاء الدعم ل JDK 8. يؤثر هذا على ما يلي:
- يجب أن تكون تعليمات Java البرمجية التي تعمل على حساب Azure Databricks متوافقة مع Java 17.
- يجب أن تكون التعليمات البرمجية Scala التي تعمل في دفاتر الملاحظات أو حساب Azure Databricks متوافقة مع Java 17.
- يجب أن تكون مكتبات Java وSc scala المثبتة على الحساب متوافقة مع Java 17.
- إصدارات عميل Apache Hive metastore أقل من 2.x. سيؤدي تعيين تكوين
spark.sql.hive.metastore.version
Spark إلى إصدار أقل من 2.x إلى حدوث مشكلات في التوافق مع Java 17 وفشل الاتصال ب Hive metastore. توصي Databricks بترقية Hive إلى إصدار أعلى من 2.0.0.
إذا كنت بحاجة إلى العودة إلى Java 8، أضف ما يلي إلى متغيرات بيئة Spark عند تكوين حساب Azure Databricks الخاص بك:
JNAME=zulu8-ca-amd64
إذا كنت تستخدم مثيلات ARM، فاستخدم ما يلي:
JNAME=zulu8-ca-arm64
لمعرفة المزيد حول تحديد إصدارات JDK باستخدام حساب Azure Databricks، راجع إنشاء نظام مجموعة يستخدم JDK 17.
للحصول على تعليمات حول ترحيل التعليمات البرمجية من Java 8، راجع الأدلة التالية:
تغيير كسر: RStudio المستضاف هو نهاية العمر الافتراضي
مع هذا الإصدار، يكون RStudio Server المستضاف على Databricks هو نهاية العمر الافتراضي وغير متوفر على أي مساحة عمل Azure Databricks تقوم بتشغيل Databricks Runtime 16.0 وما فوق. لمعرفة المزيد والاطلاع على قائمة بالبدائل ل RStudio، راجع إيقاف خادم RStudio المستضاف.
كسر التغيير: إزالة الدعم لتغيير byte
short
الأنواع و int
و long
إلى أنواع أوسع
في Databricks Runtime 15.4.3 وما فوق، لم يعد من الممكن تطبيق تغييرات نوع البيانات التالية على الجداول مع تمكين ميزة توسيع النوع:
byte
،short
وint
، وlong
إلىdecimal
.byte
،short
و، وint
إلىdouble
.
يتم إجراء هذا التغيير لضمان سلوك متسق عبر جداول Delta و Iceberg. لمعرفة المزيد حول توسيع النوع، راجع توسيع النوع.
التحليل الصحيح لأنماط regex مع الرفض في تجميع الأحرف المتداخلة
يتضمن هذا الإصدار تغييرا لدعم التحليل الصحيح لأنماط regex مع الرفض في تجميع الأحرف المتداخلة. على سبيل المثال، [^[abc]]
سيتم تحليله على أنه "أي حرف ليس واحدا من "abc".
بالإضافة إلى ذلك، كان سلوك Photon غير متناسق مع Spark لفئات الأحرف المتداخلة. لن تستخدم أنماط Regex التي تحتوي على فئات أحرف متداخلة Photon، وبدلا من ذلك ستستخدم Spark. فئة الأحرف المتداخلة هي أي نمط يحتوي على أقواس مربعة داخل أقواس مربعة، مثل [[a-c][1-3]]
.
تحسين الكشف عن المطابقة المكررة في Delta Lake MERGE
في Databricks Runtime 15.4 LTS والإسفل، MERGE
تفشل العمليات إذا تطابق أكثر من صف واحد في الجدول المصدر مع نفس الصف في الجدول الهدف استنادا MERGE
إلى الشرط المحدد في العبارة ON
. في Databricks Runtime 16.0 وما فوق، MERGE
يأخذ أيضا في الاعتبار الشروط المحددة في WHEN MATCHED
عبارة . راجع Upsert في جدول Delta Lake باستخدام الدمج.
لم يعد من الممكن تجاوز أسلوب تثبيت مكتبة نظام المجموعة
لا يمكن تجاوز تكوينات spark.databricks.libraries.enableSparkPyPI
Spark و spark.databricks.libraries.enableMavenResolution
و spark.databricks.libraries.enableCRANResolutionnow
الافتراضية الآن إلى true
و.
المهلة الافتراضية لساعتين لتثبيتات المكتبة ذات نطاق نظام المجموعة
في Databricks Runtime 16.0 والإصدارات الأحدث، يحتوي تثبيت المكتبة ذات نطاق نظام المجموعة على مهلة افتراضية تبلغ ساعتين. ستفشل عمليات تثبيت المكتبة التي تستغرق وقتا أطول من هذه المهلة، ويتم إنهاء التثبيت. عند تكوين نظام مجموعة، يمكنك تغيير فترة المهلة باستخدام تكوين spark.databricks.driver.clusterLibraryInstallationTimeoutSec
Spark .
يتم تعطيل تثبيت المكتبات من DBFS وتعيين تكوين spark.databricks.driver.dbfsLibraryInstallationAllowed
spark
في Databricks Runtime 16.0 والإصدارات الأحدث، يتم تعطيل تثبيت المكتبات من DBFS بشكل كامل. يتم إجراء هذا التغيير لتحسين أمان المكتبات في مساحة عمل Databricks. بالإضافة إلى ذلك، في Databricks Runtime 16.0 والإصدارات الأحدث، لم يعد بإمكانك استخدام تكوين spark.databricks.driver.dbfsLibraryInstallationAllowed
Spark .
addArtifact()
الوظيفة متناسقة الآن عبر أنواع الحوسبة
مع هذا الإصدار، يتم فك حزم الأرشيف تلقائيا عند استخدام addArtifact(archive = True)
لإضافة تبعية إلى حساب Azure Databricks المشترك أو بلا خادم. يجعل هذا التغيير سلوك 'addArtifact(archive = True) على أنواع الحوسبة هذه متناسقا مع حساب مستخدم واحد، والذي يدعم بالفعل فك حزم الأرشيفات تلقائيا.
ميزات وتحسينات جديدة
- إعادة تحميل أكثر موثوقية لوحدات Python المعدلة مع تحسينات على
autoreload
- دعم Avro للمخطط المتكرر
- دعم موسع ل Confluent Schema Registry ل Avro
- فرض التكتل على الجداول ذات التجميع السائل
- تدعم واجهات برمجة تطبيقات دلتا ل Python وSc scala الآن أعمدة الهوية
- يتوفر التحكم الدقيق في الوصول على حساب مستخدم واحد بشكل عام
- إنشاء جداول متفاوتة المسافات السائلة أثناء عمليات الكتابة المتدفقة
- دعم عبارة OPTIMIZE FULL
- دعم مواصفات خيارات WITH في INSERT ومرجع الجدول
- وظائف SQL الجديدة
- تمكين تطور المخطط التلقائي عند دمج البيانات في جدول Delta
إعادة تحميل أكثر موثوقية لوحدات Python المعدلة مع تحسينات على autoreload
في Databricks Runtime 16.0 والإصدارات الأحدث، تعمل تحديثات الملحق على autoreload
تحسين أمان وموثوقية إعادة تحميل وحدات Python المعدلة المستوردة من ملفات مساحة العمل. مع هذه التغييرات، ، autoreload
عندما يكون ذلك ممكنا، يعيد تحميل جزء الوحدة النمطية الذي تم تغييره فقط بدلا من الوحدة النمطية بأكملها. بالإضافة إلى ذلك، يقترح Azure Databricks الآن تلقائيا استخدام الملحق autoreload
إذا تغيرت الوحدة النمطية منذ استيرادها الأخير. راجع التحميل التلقائي لوحدات Python النمطية.
دعم Avro للمخطط المتكرر
يمكنك الآن استخدام recursiveFieldMaxDepth
الخيار مع الدالة from_avro
avro
ومصدر البيانات. يعين هذا الخيار الحد الأقصى لعمق تكرار المخطط على مصدر بيانات Avro. راجع قراءة وكتابة بيانات Avro المتدفقة.
دعم موسع ل Confluent Schema Registry ل Avro
يدعم Azure Databricks الآن مرجع مخطط Avro مع سجل مخطط Confluent. راجع المصادقة على سجل مخطط Confluent خارجي.
فرض التكتل على الجداول ذات التجميع السائل
في Databricks Runtime 16.0 والإصدارات الأحدث، يمكنك استخدام OPTIMIZE FULL
بناء الجملة لفرض إعادة تجميع جميع السجلات في جدول مع تمكين التجميع السائل. راجع فرض إعادة تجميع كافة السجلات.
تدعم واجهات برمجة تطبيقات دلتا ل Python وSc scala الآن أعمدة الهوية
يمكنك الآن استخدام واجهات برمجة تطبيقات دلتا ل Python وSc scala لإنشاء جداول بأعمدة الهوية. راجع استخدام أعمدة الهوية في Delta Lake.
يتوفر التحكم الدقيق في الوصول على حساب مستخدم واحد بشكل عام
في Databricks Runtime 16.0 وما فوق، يتوفر التحكم في الوصول الدقيق على حساب مستخدم واحد بشكل عام. في مساحات العمل الممكنة للحساب بلا خادم، إذا تم تشغيل استعلام على حساب مدعوم مثل حساب مستخدم واحد ويوصول الاستعلام إلى أي من الكائنات التالية، يمرر مورد الحساب الاستعلام إلى الحساب بلا خادم لتشغيل تصفية البيانات:
- طرق العرض المعرفة عبر الجداول التي لا يتمتع فيها المستخدم بالامتياز
SELECT
. - طرق العرض الديناميكية.
- الجداول التي تم تطبيق عوامل تصفية الصفوف أو أقنعة الأعمدة عليها.
- طرق العرض المجسدة وجداول البث.
إنشاء جداول متفاوتة المسافات السائلة أثناء عمليات الكتابة المتدفقة
يمكنك الآن استخدام clusterBy
لتمكين التجميع السائل عند إنشاء جداول جديدة باستخدام عمليات كتابة Structured Streaming. راجع تمكين تكوين أنظمة المجموعات السائلة.
دعم عبارة OPTIMIZE FULL
يدعم Databricks Runtime 16.0 عبارة OPTIMIZE FULL . تعمل هذه العبارة على تحسين كافة السجلات في جدول يستخدم التجميع السائل، بما في ذلك البيانات التي ربما تم تجميعها مسبقا.
دعم مواصفات خيارات WITH في INSERT ومرجع الجدول
يدعم Databricks Runtime 16.0 مواصفات خيارات لمراجع الجدول وأسماء الجداول لبيان INSERT
يمكن استخدامه للتحكم في سلوك مصادر البيانات.
وظائف SQL الجديدة
تتم إضافة وظائف SQL التالية في Databricks Runtime 16.0:
-
هذه الدالة هي إصدار متسامح مع الأخطاء من url_decode. ترجع
NULL
هذه الدالة إذا لم يكن الإدخال سلسلة مرمزة بعنوان URL صالحة. -
إذا كان تعبير الإدخال إلى الدالة
zeroifnull()
هوNULL
، فإن الدالة ترجع 0. وإلا، يتم إرجاع قيمة تعبير الإدخال. -
إرجاع
NULL
إذا كان الإدخال 0 أو إدخاله إذا لم يكن 0. إذا كان تعبير الإدخال إلى الدالةnullifzero()
هو 0، فترجعNULL
الدالة . إذا لم يكن تعبير الإدخال 0، يتم إرجاع قيمة تعبير الإدخال
تمكين تطور المخطط التلقائي عند دمج البيانات في جدول Delta
يضيف هذا الإصدار دعما لعضو withSchemaEvolution()
DeltaMergeBuilder
الفئة. يستخدم withSchemaEvolution()
لتمكين تطور المخطط التلقائي أثناء MERGE
العمليات. على سبيل المثال، mergeBuilder.whenMatched(...).withSchemaEvolution().execute()}}
تغييرات أخرى
تم إهمال SparkR الآن
في Databricks Runtime 16.0 وما فوق، يتم إهمال SparkR في Databricks استعدادا لإهماله في إصدار Spark 4 القادم. راجع مؤشر ترابط Apache Spark Deprecate SparkR.
توصي Databricks باستخدام sparklyr بدلا من ذلك.
Databricks Runtime 16.0 غير مدعوم مع PVC
Databricks Runtime 16.0 غير مدعوم من قبل Databricks Private Virtual Cloud (PVC). يجب استخدام Databricks Runtime 15.4 أو أقل مع جميع إصدارات PVC.
إصلاح الأخطاء
يقوم "المحمل التلقائي" الآن بإنقاذ أنواع سجلات Avro مع مخططات فارغة
عند تحميل ملف Avro في جدول Delta باستخدام أداة التحميل التلقائي، record
تتم الآن إضافة الأنواع الموجودة في الملف التي تحتوي على مخطط فارغ إلى عمود البيانات الذي تم إنقاذه. نظرا لأنه لا يمكنك استيعاب أنواع البيانات المعقدة الفارغة في جدول Delta، فإن هذا يحل مشكلة في تحميل بعض ملفات Avro. لمعرفة المزيد حول البيانات التي تم إنقاذها، راجع ما هو عمود البيانات التي تم إنقاذها؟.
إصلاح الأخطاء في كتابة الطوابع الزمنية مع أحجام زمنية تحتوي على إزاحة ثانية.
يعمل هذا الإصدار على إصلاح خطأ يؤثر على بعض الطوابع الزمنية مع المناطق الزمنية التي تحتوي على إزاحة ثانية. يؤدي هذا الخطأ إلى حذف الثوان عند الكتابة إلى JSON أو XML أو CSV، مما يؤدي إلى قيم طابع زمني غير صحيحة.
للعودة إلى السلوك السابق، استخدم الخيار التالي عند الكتابة إلى أحد التنسيقات المتأثرة: .option("yyyy-MM-dd'T'HH:mm:ss[.SSS][XXX]")
.
ترقيات المكتبة
- مكتبات Python التي تمت ترقيتها:
- azure-core من 1.30.2 إلى 1.31.0
- azure-storage-blob من 12.19.1 إلى 12.23.0
- azure-storage-file-datalake من 12.14.0 إلى 12.17.0
- أسود من 23.3.0 إلى 24.4.2
- وامض من 1.4 إلى 1.7.0
- boto3 من 1.34.39 إلى 1.34.69
- botocore من 1.34.39 إلى 1.34.69
- اعتماد من 2023.7.22 إلى 2024.6.2
- cffi من 1.15.1 إلى 1.16.0
- انقر من 8.0.4 إلى 8.1.7
- comm من 0.1.2 إلى 0.2.1
- إحاطة من 1.0.5 إلى 1.2.0
- التشفير من 41.0.3 إلى 42.0.5
- Cython من 0.29.32 إلى 3.0.11
- databricks-sdk من 0.20.0 إلى 0.30.0
- dbus-python من 1.2.18 إلى 1.3.2
- filelock من 3.13.4 إلى 3.15.4
- قوالب الخطوط من 4.25.0 إلى 4.51.0
- GitPython من 3.1.43 إلى 3.1.37
- google-api-core من 2.18.0 إلى 2.20.0
- google-auth من 2.31.0 إلى 2.35.0
- google-cloud-storage من 2.17.0 إلى 2.18.2
- google-crc32c من 1.5.0 إلى 1.6.0
- google-resumable-media من 2.7.1 إلى 2.7.2
- googleapis-common-protos من 1.63.2 إلى 1.65.0
- httplib2 من 0.20.2 إلى 0.20.4
- idna من 3.4 إلى 3.7
- ipykernel من 6.25.1 إلى 6.28.0
- ipython من 8.15.0 إلى 8.25.0
- jedi من 0.18.1 إلى 0.19.1
- مسار jmespath من 0.10.0 إلى 1.0.1
- joblib من 1.2.0 إلى 1.4.2
- jupyter_client من 7.4.9 إلى 8.6.0
- jupyter_core من 5.3.0 إلى 5.7.2
- launchpaهم من 1.10.16 إلى 1.11.0
- lazr.restfulclient من 0.14.4 إلى 0.14.6
- matplotlib من 3.7.2 إلى 3.8.4
- mlflow-skinny من 2.11.4 إلى 2.15.1
- more-itertools من 8.10.0 إلى 10.3.0
- mypy-extensions من 0.4.3 إلى 1.0.0
- nest-asyncio من 1.5.6 إلى 1.6.0
- numpy من 1.23.5 إلى 1.26.4
- oauthlib من 3.2.0 إلى 3.2.2
- التعبئة والتغليف من 23.2 إلى 24.1
- patsy من 0.5.3 إلى 0.5.6
- pip من 23.2.1 إلى 24.2
- رسم من 5.9.0 إلى 5.22.0
- مجموعة أدوات المطالبة من 3.0.36 إلى 3.0.43
- pyarrow من 14.0.1 إلى 15.0.2
- pydantic من 1.10.6 إلى 2.8.2
- PyGObject من 3.42.1 إلى 3.48.2
- PyJWT من 2.3.0 إلى 2.7.0
- pyodbc من 4.0.38 إلى 5.0.1
- python-dateutil من 2.8.2 إلى 2.9.0.post0
- python-lsp-jsonrpc من 1.1.1 إلى 1.1.2
- pytz من 2022.7 إلى 2024.1
- PyYAML من 6.0 إلى 6.0.1
- pyzmq من 23.2.0 إلى 25.1.2
- الطلبات من 2.31.0 إلى 2.32.2
- scikit-learn من 1.3.0 إلى 1.4.2
- scipy من 1.11.1 إلى 1.13.1
- seaborn من 0.12.2 إلى 0.13.2
- setuptools من 68.0.0 إلى 74.0.0
- من 5.0.1 إلى 5.0.0
- sqlparse من 0.5.0 إلى 0.5.1
- نماذج الإحصائيات من 0.14.0 إلى 0.14.2
- إعصار من 6.3.2 إلى 6.4.1
- سمات من 5.7.1 إلى 5.14.3
- typing_extensions من 4.10.0 إلى 4.11.0
- ujson من 5.4.0 إلى 5.10.0
- virtualenv من 20.24.2 إلى 20.26.2
- عجلة من 0.38.4 إلى 0.43.0
- zipp من 3.11.0 إلى 3.17.0
- مكتبات R التي تمت ترقيتها:
- السهم من 14.0.0.2 إلى 16.1.0
- backports من 1.4.1 إلى 1.5.0
- قاعدة من 4.3.2 إلى 4.4.0
- وحدات البت من 1.0-7 إلى 1.0-8
- التمهيد من 1.3-28 إلى 1.3-30
- brio من 1.1.4 إلى 1.1.5
- مكنسة من 1.0.5 إلى 1.0.6
- bslib من 0.6.1 إلى 0.8.0
- ذاكرة التخزين المؤقت من 1.0.8 إلى 1.1.0
- المتصل من 3.7.3 إلى 3.7.6
- cli من 3.6.2 إلى 3.6.3
- الساعة من 0.7.0 إلى 0.7.1
- نظام المجموعة من 2.1.4 إلى 2.1.6
- رموز التعليمات البرمجية من 0.2-19 إلى 0.2-20
- مساحة الألوان من 2.1-0 إلى 2.1-1
- المحول البرمجي من 4.3.2 إلى 4.4.0
- crayon من 1.5.2 إلى 1.5.3
- curl من 5.2.0 إلى 5.2.1
- data.table من 1.15.0 إلى 1.15.4
- مجموعات البيانات من 4.3.2 إلى 4.4.0
- DBI من 1.2.1 إلى 1.2.3
- dbplyr من 2.4.0 إلى 2.5.0
- ملخص من 0.6.34 إلى 0.6.36
- خفض من 0.4.3 إلى 0.4.4
- تقييم من 0.23 إلى 0.24.0
- بعيدا من 2.1.1 إلى 2.1.2
- خريطة سريعة من 1.1.1 إلى 1.2.0
- الأجنبية من 0.8-85 إلى 0.8-86
- fs من 1.6.3 إلى 1.6.4
- في المستقبل من 1.33.1 إلى 1.34.0
- future.apply من 1.11.1 إلى 1.11.2
- غيرت من 2.0.1 إلى 2.1.0
- ggplot2 من 3.4.4 إلى 3.5.1
- gh من 1.4.0 إلى 1.4.1
- globals من 0.16.2 إلى 0.16.3
- الرسومات من 4.3.2 إلى 4.4.0
- grDevices من 4.3.2 إلى 4.4.0
- شبكة من 4.3.2 إلى 4.4.0
- gt من 0.10.1 إلى 0.11.0
- gtable من 0.3.4 إلى 0.3.5
- hardhat من 1.3.1 إلى 1.4.0
- أعلى من 0.10 إلى 0.11
- htmltools من 0.5.7 إلى 0.5.8.1
- httpuv من 1.6.14 إلى 1.6.15
- httr2 من 1.0.0 إلى 1.0.2
- ipred من 0.9-14 إلى 0.9-15
- KernSmooth من 2.23-21 إلى 2.23-22
- من 1.45 إلى 1.48
- شعري من 0.21-8 إلى 0.22-5
- الحمم من 1.7.3 إلى 1.8.0
- markdown من 1.12 إلى 1.13
- كتلة من 7.3-60 إلى 7.3-60.0.1
- مصفوفة من 1.5-4.1 إلى 1.6-5
- أساليب من 4.3.2 إلى 4.4.0
- mgcv من 1.8-42 إلى 1.9-1
- mlflow من 2.10.0 إلى 2.14.1
- munsell من 0.5.0 إلى 0.5.1
- nlme من 3.1-163 إلى 3.1-165
- openssl من 2.1.1 إلى 2.2.0
- متوازي من 4.3.2 إلى 4.4.0
- بالتوازي من 1.36.0 إلى 1.38.0
- pkgbuild من 1.4.3 إلى 1.4.4
- pkgdown من 2.0.7 إلى 2.1.0
- pkgload من 1.3.4 إلى 1.4.0
- processx من 3.8.3 إلى 3.8.4
- prodlim من 2023.08.28 إلى 2024.06.25
- وعود من 1.2.1 إلى 1.3.0
- ps من 1.7.6 إلى 1.7.7
- ragg من 1.2.7 إلى 1.3.2
- Rcpp من 1.0.12 إلى 1.0.13
- RcppEigen من 0.3.3.9.4 إلى 0.3.4.0.0
- reactR من 0.5.0 إلى 0.6.0
- وصفات من 1.0.9 إلى 1.1.0
- أجهزة التحكم عن بعد من 2.4.2.1 إلى 2.5.0
- reprex من 2.1.0 إلى 2.1.1
- rlang من 1.1.3 إلى 1.1.4
- rmarkdown من 2.25 إلى 2.27
- roxygen2 من 7.3.1 إلى 7.3.2
- rpart من 4.1.21 إلى 4.1.23
- RSQLite من 2.3.5 إلى 2.3.7
- rstudioapi من 0.15.0 إلى 0.16.0
- rvest من 1.0.3 إلى 1.0.4
- sass من 0.4.8 إلى 0.4.9
- شكل من 1.4.6 إلى 1.4.6.1
- لامعة من 1.8.0 إلى 1.9.1
- sparklyr من 1.8.4 إلى 1.8.6
- المكانية من 7.3-15 إلى 7.3-17
- خطوط من 4.3.2 إلى 4.4.0
- إحصائيات من 4.3.2 إلى 4.4.0
- الإحصائيات4 من 4.3.2 إلى 4.4.0
- stringi من 1.8.3 إلى 1.8.4
- البقاء على قيد الحياة من 3.5-5 إلى 3.6-4
- swagger من 3.33.1 إلى 5.17.14.1
- systemfonts من 1.0.5 إلى 1.1.0
- tcltk من 4.3.2 إلى 4.4.0
- اختبار من 3.2.1 إلى 3.2.1.1
- تشكيل النص من 0.3.7 إلى 0.4.0
- تحديد من 1.2.0 إلى 1.2.1
- نص صغير من 0.49 إلى 0.52
- أدوات من 4.3.2 إلى 4.4.0
- usethis من 2.2.2 إلى 3.0.0
- utils من 4.3.2 إلى 4.4.0
- uuid من 1.2-0 إلى 1.2-1
- الإصدار 8 من 4.4.1 إلى 4.4.2
- withr من 3.0.0 إلى 3.0.1
- xfun من 0.41 إلى 0.46
- xopen من 1.0.0 إلى 1.0.1
- yaml من 2.3.8 إلى 2.3.10
- مكتبات Java التي تمت ترقيتها:
- com.amazonaws.aws-java-sdk-autoscaling من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cloudformation من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cloudfront من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cloudhsm من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cloudsearch من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cloudtrail من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cloudwatch من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cloudwatchmetrics من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-codedeploy من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cognitoidentity من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-cognitosync من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-config من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-core من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-datapipeline من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-directconnect من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-directory من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-dynamodb من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-ec2 من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-ecs من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-efs من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-elasticache من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-elasticbeanstalk من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-elasticloadbalancing من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-elastictranscoder من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-emr من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-glacier من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-glue من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-iam من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-importexport من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-kinesis من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-kms من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-lambda من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-logs من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-machinelearning من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-opsworks من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-rds من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-redshift من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-route53 من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-s3 من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-ses من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-simpledb من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-simpleworkflow من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-sns من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-sqs من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-ssm من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-storagegateway من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-sts من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-support من 1.12.610 إلى 1.12.638
- com.amazonaws.aws-java-sdk-workspaces من 1.12.610 إلى 1.12.638
- com.amazonaws.jmespath-java من 1.12.610 إلى 1.12.638
- com.google.protobuf.protobuf-java من 2.6.1 إلى 3.25.1
- io.airlift.aircompressor من 0.25 إلى 0.27
- io.delta.delta-sharing-client_2.12 من 1.1.3 إلى 1.2.0
- io.netty.netty-all من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-buffer من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-codec من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-codec-http من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-codec-http2 من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-codec-socks من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-common من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-handler من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-handler-proxy من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-resolver من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-transport من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-transport-classes-epoll من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-transport-classes-kqueue من 4.1.96.Final إلى 4.1.108.Final
- io.netty.netty-transport-native-epoll من 4.1.96.Final-linux-x86_64 إلى 4.1.108.Final-linux-x86_64
- io.netty.netty-transport-native-kqueue من 4.1.96.Final-osx-x86_64 إلى 4.1.108.Final-osx-x86_64
- io.netty.netty-transport-native-unix-common من 4.1.96.Final إلى 4.1.108.Final
- org.apache.ivy.ivy من 2.5.1 إلى 2.5.2
- org.apache.zookeeper.zookeeper من 3.6.3 إلى 3.9.2
- org.apache.zookeeper.zookeeper-jute من 3.6.3 إلى 3.9.2
- org.rocksdb.rocksdbjni من 8.11.4 إلى 9.2.1
- org.scalactic.scalactic_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-compatible من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-core_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-diagrams_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-featurespec_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-flatspec_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-freespec_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-funspec_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-funsuite_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-matchers-core_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-mustmatchers_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-propspec_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-refspec_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-shouldmatchers_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest-wordspec_2.12 من 3.2.15 إلى 3.2.16
- org.scalatest.scalatest_2.12 من 3.2.15 إلى 3.2.16
Apache Spark
يتضمن Databricks Runtime 16.0 Apache Spark 3.5.0. يتضمن هذا الإصدار جميع إصلاحات Spark وتحسيناته المضمنة في Databricks Runtime 15.4 LTS، بالإضافة إلى إصلاحات الأخطاء الإضافية والتحسينات التالية التي تم إجراؤها على Spark:
- [SPARK-49093] [DBRRM-1371] إرجاع "[SC-172958][SQL] GROUP BY مع MapType nes...
- [SPARK-49898] [DBRRM-1282][SC-178410] إصلاح الوثائق والإعدادات الافتراضية لعلامات تسجيل مراكم مقاييس مهام سجل الأحداث من SPARK-42204
- [SPARK-49743] [ES-1260022][سلوك-157][SC-177475][SQL] يجب ألا يغير OptimizeCsvJsonExpr حقول المخطط عند تقليم GetArrayStructFields
- [SPARK-49816] [SC-177896][SQL] يجب تحديث عدد المرجعات الصادرة فقط لعلاقة CTE الخارجية المشار إليها
- [SPARK-48939] [SC-177022][SC-172766][AVRO] دعم قراءة Avro مع مرجع مخطط متكرر
- [SPARK-49688] [SC-177468][ES-1242349][CONNECT] إصلاح تعارض البيانات بين خطة المقاطعة والتنفيذ
- [SPARK-49771] [SC-177466][PYTHON] تحسين خطأ Pandas Scalar Iter UDF عندما تتجاوز صفوف الإخراج صفوف الإدخال
- [SPARK-48866] [SC-170772][SQL] إصلاح تلميحات مجموعة الأحرف الصالحة في رسالة الخطأ INVALID_PARAMETER_VALUE. CHARSET
- [SPARK-48195] [FIXFORWARD][SC-177267][CORE] حفظ وإعادة استخدام RDD/البث الذي تم إنشاؤه بواسطة SparkPlan
- [SPARK-49585] [CONNECT] استبدال مخطط عمليات التنفيذ في SessionHolder بمجموعة operationID
- [SPARK-49211] [SC-174257][SQL] يمكن أن يدعم كتالوج V2 أيضا مصادر البيانات المضمنة
- [SPARK-49684] تقليل عمر تأمين استعادة الجلسة
- [SPARK-48059] [SPARK-48145][SPARK-48134][SPARK-48182][SPARK-48209][SPARK-48291] إطار عمل السجل المنظم على جانب java
- [SPARK-48857] [SC-170661][SQL] تقييد مجموعات الأحرف في CSVOptions
- [SPARK-49152] [SC-173690][SQL] يجب أن يستخدم V2SessionCatalog V2Command
- [SPARK-42846] [SC-176588][SQL] إزالة شرط الخطأ _LEGACY_ERROR_TEMP_2011
- [SPARK-48195] [SC-177267][CORE] حفظ وإعادة استخدام RDD/البث الذي تم إنشاؤه بواسطة SparkPlan
- [SPARK-49630] [SC-177379][SS] إضافة خيار التسطيح لمعالجة أنواع التجميع باستخدام قارئ مصدر بيانات الحالة
- [SPARK-49699] [SC-177154][SS] تعطيل PruneFilters لأحمال العمل المتدفقة
- [SPARK-48781] [SC-175282][SQL] إضافة واجهات برمجة تطبيقات الكتالوج لتحميل الإجراءات المخزنة
- [SPARK-49667] [SC-177068][SQL] عدم السماح ل CS_الذكاء الاصطناعي مجمعات مع التعبيرات التي تستخدم StringSearch
- [SPARK-49737] [SC-177207][SQL] تعطيل التجميع على الأعمدة المجمعة في أنواع معقدة
- [SPARK-48712] [SC-169794][SQL] تحسين Perf للتشفير بقيم فارغة أو مجموعة أحرف UTF-8
- [SPARK-49038] [SC-173933][SQL] يجب أن يبلغ SQLMetric عن القيمة الأولية في حدث تحديث المجمع
- [SPARK-48541] [SC-169066][CORE] إضافة رمز خروج جديد للمنفذين الذين تم إيقافهم بواسطة TaskReaper
- [SPARK-48774] [SC-170138][SQL] استخدام SparkSession في SQLImplicits
- [SPARK-49719] [SC-177139][SQL] إنشاء
UUID
عدد صحيح وقبولهSHUFFLE
seed
- [SPARK-49713] [SC-177135][PYTHON][CONNECT] جعل الدالة
count_min_sketch
تقبل وسيطات الأرقام - [SPARK-47601] [SC-162499][GRAPHX] Graphx: ترحيل السجلات مع المتغيرات إلى إطار عمل تسجيل منظم
- [SPARK-49738] [SC-177219][SQL] ينتهي بإصلاح الأخطاء
- [SPARK-48623] [SC-170822][CORE] عمليات ترحيل التسجيل المنظمة [الجزء 3]
- [SPARK-49677] [SC-177148][SS] تأكد من كتابة ملفات changelog عند التثبيت وإعادة تعيين علامة forceSnapshot أيضا
- [SPARK-49684] [SC-177040][CONNECT] إزالة التأمينات العمومية من مديري الجلسة والتنفيذ
- [SPARK-48302] [SC-168814][PYTHON] الاحتفاظ بالقيم الخالية في أعمدة الخريطة في جداول PyArrow
- [SPARK-48601] [SC-169025][SQL] إعطاء رسالة خطأ أكثر سهولة للمستخدم عند تعيين قيمة خالية لخيار JDBC
- [SPARK-48635] [SC-169263][SQL] تعيين فئات لأخطاء نوع الصلة وخطأ بداية الصلة
- [SPARK-49673] [SC-177032][CONNECT] زيادة CONNECT_GRPC_ARROW_MAX_BATCH_SIZE إلى 0.7 * CONNECT_GRPC_MAX_MESSAGE_SIZE
- [SPARK-49693] [SC-177071][PYTHON][CONNECT] تحسين تمثيل سلسلة
timedelta
- [SPARK-49687] [SC-176901][SQL] تأخير الفرز في
validateAndMaybeEvolveStateSchema
- [SPARK-49718] [SC-177112][PS] تبديل
Scatter
الرسم إلى البيانات التي تم أخذ عينات لها - [SPARK-48472] [SC-169044][SQL] تمكين تعبيرات العاكسة باستخدام سلاسل مجمعة
- [SPARK-48484] [SC-167484][SQL] إصلاح: يستخدم V2Write نفس TaskAttemptId لمحاولات مهمة مختلفة
- [SPARK-48341] [SC-166560][CONNECT] السماح للمكونات الإضافية باستخدام QueryTest في اختباراتها
- [SPARK-42252] [SC-168723][CORE] إضافة
spark.shuffle.localDisk.file.output.buffer
وإيقافspark.shuffle.unsafe.file.output.buffer
- [SPARK-48314] [SC-166565][SS] لا تقم بمضاعفة ملفات ذاكرة التخزين المؤقت ل FileStreamSource باستخدام Trigger.AvailableNow
- [SPARK-49567] [SC-176241][PYTHON] استخدم
classic
بدلا من قاعدة التعليماتvanilla
البرمجية PySpark - [SPARK-48374] [SC-167596][PYTHON] دعم أنواع أعمدة جدول PyArrow الإضافية
- [SPARK-48300] [SC-166481][SQL] دعم Codegen ل
from_xml
- [SPARK-49412] [SC-177059][PS] حساب جميع مقاييس رسم المربع في مهمة واحدة
- [SPARK-49692] [SC-177031][PYTHON][CONNECT] تحسين تمثيل سلسلة التاريخ والتاريخ والوقت الحرفيين
- [SPARK-49392] [ES-1130351][SC-176705][SQL] التقاط الأخطاء عند فشل الكتابة إلى مصدر بيانات خارجي
- [SPARK-48306] [SC-166241][SQL] تحسين UDT في رسالة الخطأ
- [SPARK-44924] [SC-166379][SS] إضافة تكوين للملفات المخزنة مؤقتا في FileStreamSource
- [SPARK-48176] [SC-165644][SQL] ضبط اسم شرط خطأ FIELD_ALREADY_EXISTS
- [SPARK-49691] [SC-176988][PYTHON][CONNECT] يجب أن تقبل الدالة
substring
أسماء الأعمدة - [SPARK-49502] [SC-176077][CORE] تجنب NPE في SparkEnv.get.shuffleManager.unregisterShuffle
- [SPARK-49244] [SC-176703][SQL] تحسينات إضافية للاستثناء للموزع/المترجم
- [SPARK-48355] [SC-176684][SQL] دعم عبارة CASE
- [SPARK-49355] [SC-175121][SQL]
levenshtein
يجب التحقق مما إذا كانتcollation
قيم جميع أنواع المعلمات هي نفسها - [SPARK-49640] [SC-176953][PS] تطبيق أخذ عينات الخزان في
SampledPlotBase
- [SPARK-49678] [SC-176857][CORE] الدعم
spark.test.master
فيSparkSubmitArguments
- [SPARK-49680] [SC-176856][PYTHON] تقييد
Sphinx
توازي البناء إلى 4 بشكل افتراضي - [SPARK-49396] إرجاع "[SC-176030][SQL] تعديل التحقق من قابلية القيم الخالية لتعبير CaseWhen"
- [SPARK-48419] [SC-167443][SQL] يستبدل النشر القابل للطي عمودا قابلا للطي...
- [SPARK-49556] [SC-176757][SQL] إضافة بناء جملة أنبوب SQL لعامل تشغيل SELECT
- [SPARK-49438] [SC-175237][SQL] إصلاح الاسم الجميل للتعبير
FromAvro
ToAvro
- [SPARK-49659] [SC-1229924][SQL] إضافة خطأ جميل يواجه المستخدم للسجان الفرعية العددية داخل عبارة VALUES
- [SPARK-49646] [SC-176778][SQL] إصلاح زخرفة الاستعلام الفرعي لعمليات الاتحاد/التعيين عندما تحتوي parentOuterReferences على مراجع غير مشمولة في collectedChildOuterReferences
- [SPARK-49354] [SC-175034][SQL]
split_part
يجب التحقق مما إذا كانتcollation
قيم جميع أنواع المعلمات هي نفسها - [SPARK-49478] [SC-175914][CONNECT] معالجة المقاييس الفارغة في ConnectProgressExecutionListener
- [SPARK-48358] [SC-176374][SQL] دعم عبارة REPEAT
- [SPARK-49183] [SC-173680][SQL] يجب أن يحترم V2SessionCatalog.createTable PROP_IS_MANAGED_LOCATION
- [SPARK-49611] [SC-176791][SQL] تقديم TVF
collations()
وإزالةSHOW COLLATIONS
الأمر - [SPARK-49261] [SC-176589][SQL] لا تستبدل القيم الحرفية في التعبيرات التجميعية بتعبيرات مجمعة
- [SPARK-49099] [SC-173229][SQL] يجب أن تحترم CatalogManager.setCurrentNamespace كتالوج جلسة العمل المخصص
- [SPARK-49594] [SC-176569][SS] إضافة تحقق مما إذا كانت columnFamilies تمت إضافتها أو إزالتها لكتابة ملف StateSchemaV3
- [SPARK-49578] [SC-176385][SQL] إزالة اقتراح تكوين ANSI في CAST_INVALID_INPUT CAST_OVERFLOW
- [SPARK-48882] [SC-174256][SS] تعيين أسماء لفئات الخطأ ذات الصلة بوضع الإخراج المتدفق
- [SPARK-49155] [SC-176506][SQL][SS] استخدام نوع معلمة أكثر ملاءمة لإنشاء
GenericArrayData
- [SPARK-49519] [SC-176388][SQL] دمج خيارات الجدول والعلاقة عند إنشاء FileScanBuilder
- [SPARK-49591] [SC-176587][SQL] إضافة عمود نوع منطقي إلى متغير readme
- [SPARK-49596] [SC-176423][SQL] تحسين أداء
FormatString
- [SPARK-49525] [SC-176044][SS][CONNECT] تحسين سجل ثانوي ل Server Side Streaming Query ListenerBus Listener
- [SPARK-49583] [SC-176272][SQL] تعريف شرط
SECONDS_FRACTION
الخطأ الفرعي لنمط كسر الثوان غير صالح - [SPARK-49536] [SC-176242] معالجة الخطأ في الإحضار المسبق لسجل مصدر بيانات تدفق python
- [SPARK-49443] [SC-176273][SQL][PYTHON] تنفيذ تعبير to_variant_object وجعل تعبيرات schema_of_variant تطبع OBJECT للكائنات المتغيرة
- [SPARK-49544] [SASP-3990][SC-176557][CONNECT] استبدال القفل الخشن في SparkConnectExecutionManager ب ConcurrentMap
- [SPARK-49548] [SASP-3990][SC-176556][CONNECT] استبدال التأمين الخشن في SparkConnectSessionManager ب ConcurrentMap
- [SPARK-49551] [SC-176218][SS] تحسين سجل RocksDB ل replayChangelog
- [SPARK-49595] [SC-176396][CONNECT][SQL] إصلاح
DataFrame.unpivot/melt
في عميل Spark Connect Scala - [SPARK-49006] [SC-176162] تنفيذ إزالة ملفات OperatorStateMetadataV2 وStateSchemaV3
- [SPARK-49600] [SC-176426][PYTHON] إزالة
Python 3.6 and older
المنطق المرتبط منtry_simplify_traceback
- [SPARK-49303] [SC-176013][SS] تنفيذ TTL ل ValueState في واجهة برمجة تطبيقات transformWithStateInPandas
- [SPARK-49191] [SC-176243][SS] إضافة دعم لقراءة متغيرات حالة مخطط transformWithState باستخدام قارئ مصدر بيانات الحالة
- [SPARK-49593] [SC-176371][SS] طرح استثناء RocksDB للمتصل على إغلاق قاعدة البيانات في حالة ظهور خطأ
- [SPARK-49334] [SC-174803][SQL]
str_to_map
يجب التحقق مما إذا كانتcollation
قيم جميع أنواع المعلمات هي نفسها - [SPARK-42204] [SC-176126][CORE] إضافة خيار لتعطيل التسجيل المتكرر لمراكم TaskMetrics الداخلية في سجلات الأحداث
- [SPARK-49575] [SC-176256][SS] إضافة تسجيل لإصدار التأمين فقط إذا لم يكن الحصول علىThreadInfo خاليا
- [SPARK-49539] [SC-176250][SS] تحديث معرف بدء عائلات الأعمدة الداخلية إلى معرف مختلف
- [SPARK-49205] [SC-173853][SQL] يجب أن يرث KeyGroupedPartitioning HashPartitioningLike
- [SPARK-49396] [SC-176030][SQL] تعديل التحقق من قابلية القيم الخالية لتعبير CaseWhen
- [SPARK-49476] [SC-175700][SQL] إصلاح قابلية القيم الخالية لدالة base64
- [SPARK-47262] [SC-174829][SQL] تعيين أسماء لشروط الخطأ لتحويلات parquet
- [SPARK-47247] [SC-158349][SQL] استخدام حجم هدف أصغر عند دمج الأقسام مع الصلات المفجرة
- [SPARK-49501] [SC-176166][SQL] إصلاح الهروب المزدوج من موقع الجدول
- [SPARK-49083] [SC-173214][CONNECT] السماح from_xml from_json بالعمل أصلا مع مخططات json
- [SPARK-49043] [SC-174673][SQL] إصلاح مجموعة مسار التعليمات البرمجية المفسرة حسب على الخريطة التي تحتوي على سلاسل مجمعة
- [SPARK-48986] [SC-172265][CONNECT][SQL] إضافة تمثيل متوسط ل ColumnNode
- [SPARK-49326] [SC-176016][SS] تصنيف فئة الخطأ لخطأ دالة مستخدم المتلقي Foreach
- [SPARK-48348] [SC-175950][SPARK-48376][SQL] تقديم
LEAVE
وعباراتITERATE
- [SPARK-49523] [SC-175949][CONNECT] زيادة الحد الأقصى لوقت الانتظار حتى يأتي خادم الاتصال للاختبار
- [SPARK-49000] [سلوك-105][ES-1194747][SQL] إصلاح "select count(distinct 1) from t" حيث يكون t جدولا فارغا عن طريق توسيع RewriteDistinctAggregates - DBR الإصدار 16.x
- [SPARK-49311] [SC-175038][SQL] اجعل من الممكن تحويل قيم "الفاصل الزمني الثاني" الكبيرة إلى عشري
- [SPARK-49200] [SC-173699][SQL] إصلاح استثناء طلب نوع خال غير codegen
- [SPARK-49467] [SC-176051][SS] إضافة دعم لقارئ مصدر بيانات الحالة وحالة القائمة
- [SPARK-47307] [SC-170891][SQL] إضافة تكوين إلى مجموعات سلاسل base64 اختياريا
- [SPARK-49391] [SC-176032][PS] رسم مربع تحديد القيم الخارجية حسب المسافة من الأسوار
- [SPARK-49445] [SC-175845][واجهة المستخدم] إظهار تلميح الأدوات للدعم في شريط التقدم لواجهة المستخدم
- [SPARK-49451] [SC-175702] السماح بالمفاتيح المكررة في parse_json.
- [SPARK-49275] [SC-175701][SQL] إصلاح قيمة خالية نوع الإرجاع لتعبير xpath
- [SPARK-49021] [SC-175578][SS] إضافة دعم لقراءة متغيرات حالة قيمة transformWithState باستخدام قارئ مصدر بيانات الحالة
- [SPARK-49474] [سلوك-143][SC-169253][SC-175933][SS] تصنيف فئة الخطأ لخطأ دالة المستخدم FlatMapGroupsWithState
- [SPARK-49408] [SC-175932][SQL] استخدام IndexedSeq في ProjectingInternalRow
- [SPARK-49509] [SC-175853][CORE] استخدم
Platform.allocateDirectBuffer
بدلا منByteBuffer.allocateDirect
- [SPARK-49382] [SC-175013][PS] جعل مخطط مربع الإطار يعرض القيم الخارجية/القيم الخارجية بشكل صحيح
- [SPARK-49002] [SC-172846][SQL] التعامل باستمرار مع المواقع غير الصالحة في WAREHOUSE/SCHEMA/TABLE/PARTITION/DIRECTORY
- [SPARK-49480] [SC-175699][CORE] إصلاح NullPointerException من
SparkThrowableHelper.isInternalError
- [SPARK-49477] [SC-175828][PYTHON] تحسين رسالة خطأ نوع إرجاع غير صالحة ل pandas udf
- [SPARK-48693] [SC-169492][SQL] تبسيط وتوحيد toString من استدعاء و StaticInvoke
- [SPARK-49441] [SC-175716][ML]
StringIndexer
فرز الصفائف في المنفذين - [SPARK-49347] [SC-175004][R] إهمال SparkR
- [SPARK-49357] [SC-175227][CONNECT][PYTHON] اقتطاع رسالة protobuf متداخلة بشكل كبير عموديا
- [SPARK-41982] [SC-120604][SQL] يجب عدم التعامل مع أقسام سلسلة النوع على أنها أنواع رقمية
- [SPARK-48776] [SC-170452][سلوك-72] إصلاح تنسيق الطابع الزمني ل json وxml وcsv
- [SPARK-49223] [SC-174800][ML] تبسيط StringIndexer.countByValue باستخدام الدالات المضمنة
- [SPARK-49016] Revert "[SC-174663][SQL] استعادة السلوك غير مسموح به من ملفات CSV الأولية عند تضمين عمود سجل تالف فقط وتعيين الاسم إلى
_LEGACY_ERROR_TEMP_1285
" - [SPARK-49041] [SC-172392][PYTHON][CONNECT] رفع الخطأ المناسب عند
dropDuplicates
إعطاء الخطأsubset
- [SPARK-49050] [SC-175235] تمكين عامل تشغيل deleteIfExists في TWS مع مجموعات الأعمدة الظاهرية
- [SPARK-49216] [SC-173919][CORE]إصلاح لعدم تسجيل سياق الرسالة مع إنشاء LogEntry بشكل صريح عند إيقاف تشغيل تكوين التسجيل المنظم
- [SPARK-49252] [SC-175596][CORE] جعل
TaskSetExcludeList
ومستقلةHeathTracker
- [SPARK-49352] [SC-174971][SQL] تجنب تحويل الصفيف المكرر للتعبير المتطابق
- [SPARK-42307] [SC-173863][SQL] تعيين اسم _LEGACY_ERROR_TEMP_2232 الخطأ
- [SPARK-49197] [SC-173732][CORE] تنقيح
Spark Command
الإخراج فيlauncher
الوحدة النمطية - [SPARK-48913] [SC-173934][SQL] تنفيذ IndentingXMLStreamWriter
- [SPARK-49306] [SC-175363][PYTHON][SQL] إنشاء أسماء مستعارة لدالة SQL ل 'zeroifnull' و'nullifzero'
- [SPARK-48344] [SQL] تنفيذ البرمجة النصية SQL (بما في ذلك Spark Connect)
- [SPARK-49402] [SC-175122][PYTHON] إصلاح تكامل Binder في وثائق PySpark
- [SPARK-49017] [SC-174664][SQL] فشل عبارة الإدراج عند استخدام معلمات متعددة
- [SPARK-49318] [SC-174733][SQL] استباق الخطأ ذي الأولوية المنخفضة على LCA حتى نهاية تحليل الفحص لتحسين تجربة الخطأ
- [SPARK-49016] [SC-174663][SQL] استعادة السلوك الذي لا يسمح بالاستعلامات من ملفات CSV الأولية عند تضمين عمود سجل تالف فقط وتعيين الاسم إلى
_LEGACY_ERROR_TEMP_1285
- [SPARK-49387] [SC-175124][PYTHON] إصلاح تلميح النوع ل
accuracy
فيpercentile_approx
وapprox_percentile
- [SPARK-49131] [SC-174666][SS] يجب على TransformWithState تعيين مفاتيح التجميع الضمنية بشكل صحيح حتى مع التكرارات البطيئة
- [SPARK-49301] [SC-174795][SS] تم تمرير بيانات سهم المجموعة إلى عامل Python
- [SPARK-49039] [SC-174651][واجهة المستخدم] إعادة تعيين خانة الاختيار عند تحميل مقاييس المنفذ في علامة التبويب المراحل
- [SPARK-48428] [SC-169806][SQL]: إصلاح IllegalStateException في NestedColumnAliasing
- [SPARK-49353] [SC-174830][SQL] تحديث المستندات المتعلقة بالترميز
UTF-32
/فك الترميز - [SPARK-48613] [SC-170966][SQL] SPJ: دعم التبديل التلقائي لجانب واحد + مفاتيح انضمام أقل من مفاتيح الأقسام
- [SPARK-47473] [SC-160450][سلوك-127][SQL] إصلاح مشكلة تصحيح تحويل الطوابع الزمنية ل postgres INFINITY
- [SPARK-49142] [SC-173658][CONNECT][PYTHON] المتابعة لإعادة proto إلى تكلفة أداء السلسلة
- [SPARK-49300] [SC-175008][CORE] إصلاح تسرب الرمز المميز لتفويض Hadoop عند عدم تعيين tokenRenewalInterval.
- [SPARK-49367] [SC-175012][PS] توازي حساب KDE لأعمدة متعددة (خلفية برسمية)
- [SPARK-49365] [SC-175011][PS] تبسيط تجميع المستودع في الرسم البياني
- [SPARK-49372] [SC-175003][SS] تأكد من تعيين latestSnapshot على none على مقربة لتجنب الاستخدام اللاحق
- [SPARK-49341] [SC-174785] إزالة
connector/docker
لصالحApache Spark Operator
- [SPARK-49344] [SC-174894][PS] دعم
json_normalize
واجهة برمجة تطبيقات Pandas على Spark - [SPARK-49306] [SC-174794][SQL] إنشاء دالات SQL جديدة 'zeroifnull' و'nullifzero'
- [SPARK-48796] [SC-174668][SS] تحميل معرف عائلة العمود من RocksDBCheckpointMetadata ل VCF عند إعادة التشغيل
- [SPARK-49342] [SC-174899][SQL] جعل وسيطة TO_AVRO SQL "jsonFormatSchema" اختيارية
- [SPARK-48628] [SC-174695][CORE] إضافة مقاييس ذاكرة كومة الذاكرة المؤقتة عند تشغيل/إيقاف تشغيل المهمة
- [SPARK-47407] [SC-159379][سلوك-126][SQL] دعم تعيين java.sql.Types.NULL إلى NullType
- [SPARK-48628] [SC-173407][CORE] إضافة مقاييس ذاكرة كومة الذاكرة المؤقتة عند تشغيل/إيقاف تشغيل المهمة
- [SPARK-49166] [SC-173987][SQL] دعم OFFSET في الاستعلام الفرعي المترابط
- [SPARK-49269] [SC-174676][SQL] تقييم قائمة VALUES() بفارغ الصبر في AstBuilder
- [SPARK-49281] [SC-174782][SQL] Optimze parquet binary getBytes with getBytesUnsafe لتجنب تكلفة النسخ
- [SPARK-49113] [SC-174734] عدم التأكيد على أخطاء الترجمة - ابتلاع الاستثناء بصمت
- [SPARK-49098] [SC-173253][SQL] إضافة خيارات الكتابة ل INSERT
- [SPARK-48638] [SC-174694][متابعة][CONNECT] إصلاح وثائق ExecutionInfo
- [SPARK-49250] [ES-1222826][SQL] تحسين رسالة الخطأ لWindowExpression المتداخلة التي لم يتم حلها في CheckAnalysis
- [SPARK-48755] [SC-174258][SS][PYTHON] transformWithState pyspark base implementation and ValueState support
- [SPARK-48966] [SC-174329][SQL] تحسين رسالة الخطأ مع مرجع عمود غير صالح لم يتم حله في استدعاء UDTF
- [SPARK-46590] [SC-154115][SQL] فشل إصلاح الاندماج مع وجود كيانات غير متوقعة للقسم
- [SPARK-49235] [SC-174159][SQL] إعادة بناء التعليمات البرمجية لقاعدة ResolveInlineTables بحيث لا تعبر الشجرة بأكملها
- [SPARK-49060] [SC-173107][CONNECT] تنظيف قواعد Mima لعمليات التحقق من التوافق الثنائي SQL-Connect
- [SPARK-48762] [SC-172525][SQL] تقديم clusterBy DataFrameWriter API ل Python
- [SPARK-49207] [SC-173852][SQL] إصلاح تعيين حالة واحد إلى متعدد في SplitPart و StringSplitSQL
- [SPARK-49204] [SC-173850][SQL] إصلاح معالجة الزوج البديل في StringInstr وStringLocate
- [SPARK-36680] [SC-170640][SQL] يدعم خيارات الجدول الديناميكي ل Spark SQL
- [SPARK-49204] [SC-173849][SQL] إصلاح معالجة الزوج البديل في SubstringIndex
- [SPARK-49204] [SC-173848][SQL] إصلاح معالجة الزوج البديل في StringTrim
- [SPARK-48967] [SC-173993]إصلاح اختبار SparkConfigOwnershipSuite للأمام OPTIMIZE_INSERT_INTO_VALUES_PARSER
- [SPARK-49204] [SC-173851][SQL] إصلاح معالجة الزوج البديل في StringReplace
- [SPARK-48967] [SC-173993][SQL][16.x] تحسين الأداء وبصمة الذاكرة ل "INSERT INTO ... عبارات القيم"
- [SPARK-49099] إرجاع "[SC-173229][SQL] CatalogManager.setCurrent...
- [SPARK-48347] [SC-173812][SQL] دعم عبارة WHILE
- [SPARK-49128] [SC-173344][CORE] دعم عنوان واجهة مستخدم خادم المحفوظات المخصص
- [SPARK-49146] [SC-173825][SS] نقل أخطاء التأكيد المتعلقة بالعلامة المائية المفقودة في استعلامات دفق وضع الإلحاق إلى إطار عمل الخطأ
- [SPARK-45787] [SC-172197][SQL] دعم Catalog.listColumns لتكتل الأعمدة
- [SPARK-49099] [SC-173229][SQL] يجب أن تحترم CatalogManager.setCurrentNamespace كتالوج جلسة العمل المخصص
- [SPARK-49138] [SC-173483][SQL] إصلاح CollationTypeCasts لتعبيرات متعددة
- [SPARK-49163] [SC-173666][SQL] يجب أن تؤدي محاولة إنشاء جدول استنادا إلى نتائج بيانات قسم parquet المقطوعة إلى إرجاع خطأ يواجه المستخدم
- [SPARK-49201] [SC-173793][PS][PYTHON][CONNECT] مخطط إعادة التنفيذ
hist
باستخدام Spark SQL - [SPARK-49188] [SC-173682][SQL] خطأ داخلي في concat_ws تم استدعاؤه على صفيف صفائف السلسلة
- [SPARK-49137] [SC-173677][SQL] عندما يكون الشرط المنطقي في
if statement
غير صالح، يجب طرح استثناء - [SPARK-49193] [SC-173672][SQL] تحسين أداء RowSetUtils.toColumnBasedSet
- [SPARK-49078] [SC-173078][SQL] دعم إظهار بناء جملة الأعمدة في جدول v2
- [SPARK-49141] [SC-173388][SQL] وضع علامة على المتغير كنوع بيانات غير متوافق مع الخلية
- [SPARK-49059] [Cherry-Pick][15.x][SC-172528][CONNECT] الانتقال
SessionHolder.forTesting(...)
إلى حزمة الاختبار - [SPARK-49111] [SC-173661][SQL] الانتقال باستخدامProjectAndFilter إلى الكائن المصاحب DataSourceV2Strategy
- [SPARK-49185] [SC-173688][PS][PYTHON][CONNECT] مخطط إعادة التنفيذ
kde
باستخدام Spark SQL - [SPARK-49178] [SC-173673][SQL] تحسين أداء
Row#getSeq
لمطابقة الأداء عند استخدام Spark 3.5 مع Scala 2.12 - [SPARK-49093] [SC-172958][SQL] GROUP BY مع MapType متداخل داخل النوع المعقد
- [SPARK-49142] [SC-173469][CONNECT][PYTHON] انخفاض مستوى سجل عميل Spark Connect لتصحيح الأخطاء
- [SPARK-48761] [SC-172048][SQL] تقديم clusterBy DataFrameWriter API ل Scala
- [SPARK-48346] [SC-173083][SQL] دعم عبارات IF ELSE في البرامج النصية SQL
- [SPARK-48338] [SC-173112][SQL] تحسين الاستثناءات التي تم طرحها من المحلل/المترجم
- [SPARK-48658] [SC-169474][SQL] تقوم وظائف الترميز/فك الترميز بالإبلاغ عن أخطاء الترميز بدلا من mojibake للأحرف غير القابلة للتطبيق
- [SPARK-49071] [SC-172954][SQL] إزالة سمة ArraySortLike
- [SPARK-49107] Revert "Revert "[SC-173103][SQL]
ROUTINE_ALREADY_EXISTS
يدعم RoutineType"" - [SPARK-49070] [SC-172907][SS][SQL] تتم إعادة كتابة TransformWithStateExec.initialState بشكل غير صحيح لإنتاج خطة استعلام غير صالحة
- [SPARK-49114] [SC-173217] لا يمكن لتصنيف فرعي تحميل أخطاء مخزن الحالة
- [SPARK-49107] يدعم Revert "[SC-173103][SQL]
ROUTINE_ALREADY_EXISTS
RoutineType" - [SPARK-49048] [SC-173223][SS] إضافة دعم لقراءة بيانات تعريف عامل التشغيل ذات الصلة في معرف الدفعة المحدد
- [SPARK-49094] [SC-173049][SQL] تصحيح ignoreCorruptFiles non-function for hive orc impl with mergeSchema off
- [SPARK-49108] [SC-173102][مثال] إضافة
submit_pi.sh
مثال واجهة برمجة تطبيقات REST - [SPARK-49107] [SC-173103][SQL]
ROUTINE_ALREADY_EXISTS
يدعم نوع الروتين - [SPARK-48997] [SC-172484][SS] تنفيذ عمليات تفريغ فردية لفشل مؤشر ترابط تجمع مؤشرات الترابط للصيانة
- [SPARK-49063] [SC-173094][SQL] الإصلاح بين باستخدام ScalarSubqueries
- [SPARK-45891] [SC-172305][SQL][PYTHON][متغير] إضافة دعم أنواع الفواصل الزمنية في مواصفات المتغير
- [SPARK-49074] [سلوك-110][SC-172815][SQL] إصلاح المتغير باستخدام
df.cache()
- [SPARK-49003] [SC-172613][SQL] إصلاح تجزئة مسار التعليمات البرمجية المفسرة لتكون على علم بالترميز
- [SPARK-48740] [SC-172430][SQL] خطأ مواصفات النافذة المفقودة في وقت مبكر
- [SPARK-48999] [SC-172245][SS] قسمة PythonStreamingDataSourceSimpleSuite
- [SPARK-49031] [SC-172602] تنفيذ التحقق من صحة عامل تشغيل TransformWithStateExec باستخدام OperatorStateMetadataV2
- [SPARK-49053] [SC-172494][PYTHON][ML] جعل وظائف مساعد حفظ/تحميل النموذج تقبل جلسة عمل spark
- [SPARK-49032] [Backport][15.x][SS] إضافة مسار مخطط في إدخال جدول بيانات التعريف، والتحقق من الإصدار المتوقع وإضافة اختبار بيانات تعريف عامل التشغيل ذي الصلة لتنسيق بيانات تعريف عامل التشغيل v2
- [SPARK-49034] [SC-172306][CORE] دعم الاستبدال من جانب
sparkProperties
الخادم في واجهة برمجة تطبيقات إرسال REST - [SPARK-48931] [SC-171895][SS] تقليل تكلفة واجهة برمجة تطبيقات قائمة مخزن السحابة لمهمة صيانة مخزن الحالة
- [SPARK-48849] [SC-172068][SS]إنشاء OperatorStateMetadataV2 لعامل تشغيل TransformWithStateExec
- [SPARK-49013] [SC-172322] تغيير المفتاح في collationsMap لنوعي الخريطة والصفيف في scala
- [SPARK-48414] [SC-171884][PYTHON] إصلاح التغيير العاجل في python
fromJson
- [SPARK-48910] [SC-171001][SQL] استخدام HashSet/HashMap لتجنب عمليات البحث الخطية في PreprocessTableCreation
- [SPARK-49007] [SC-172204][CORE] تحسين
MasterPage
لدعم العنوان المخصص - [SPARK-49009] [SC-172263][SQL][PYTHON] جعل واجهات برمجة تطبيقات العمود والوظائف تقبل التعدادات
- [SPARK-49033] [SC-172303][CORE] دعم الاستبدال من جانب
environmentVariables
الخادم في واجهة برمجة تطبيقات إرسال REST - [SPARK-48363] [SC-166470][SQL] تنظيف بعض الرموز المكررة في
from_xml
- [SPARK-46743] [SC-170867][SQL][سلوك-84] حساب الخطأ بعد طي ScalarSubqery إذا كان له علاقة فارغة
- [SPARK-49040] [SC-172351][SQL] إصلاح المستند
sql-ref-syntax-aux-exec-imm.md
- [SPARK-48998] [SC-172212][ML] نموذج حفظ/تحميل خوارزميات التعريف باستخدام SparkSession
- [SPARK-48959] [SC-171708][SQL] إجراء
NoSuchNamespaceException
توسيعNoSuchDatabaseException
لاستعادة معالجة الاستثناء - [SPARK-48996] [SC-172130][SQL][PYTHON] السماح بالأحرف الحرفية المجراة ل و أو من عمود
- [SPARK-48990] [SC-171936] متابعة #101759 - إصلاح الاختبار
- [SPARK-48338] [SC-171912][SQL] التحقق من إعلانات المتغير
- [SPARK-48990] [SC-171936][SQL] الكلمات الأساسية لبناء جملة SQL ذات المتغير الموحد
- [SPARK-48988] [SC-171915][ML] جعل
DefaultParamsReader/Writer
بيانات تعريف التعامل مع جلسة spark - [SPARK-48974] [SC-171978][SQL][SS][التعلم الآلي][MLLIB] استخدم
SparkSession.implicits
بدلا منSQLContext.implicits
- [SPARK-48760] [SC-170870][SQL] إصلاح CatalogV2Util.applyClusterByChanges
- [SPARK-48928] [SC-171956] تحذير السجل لاستدعاء .unpersist() على مجموعات البيانات الموزعة المرنة المنقطة محليا
- [SPARK-48760] [SC-170139][SQL] تقديم ALTER TABLE ... بناء جملة CLUSTER BY SQL لتغيير أعمدة التجميع
- [SPARK-48844] إرجاع "[SC-170669][SQL] استخدام INVALID_EMPTY_LOCATION بدلا من UNSUPPORTED_DATASOURCE_FOR_DIRECT_QUERY عندما يكون المسار فارغا"
- [SPARK-48833] [SC-171914][SQL][متغير] متغير الدعم في
InMemoryTableScan
- [SPARK-48975] [SC-171894][PROTOBUF] إزالة التعريف غير الضروري
ScalaReflectionLock
منprotobuf
- [SPARK-48970] [SC-171800][PYTHON][ML] تجنب استخدام SparkSession.getActiveSession في قارئ/كاتب spark ML
- [SPARK-48844] [SC-170669][SQL] استخدام INVALID_EMPTY_LOCATION بدلا من UNSUPPORTED_DATASOURCE_FOR_DIRECT_QUERY عندما يكون المسار فارغا
- [SPARK-48714] [SC-170136] إصلاح اختبارات df.mergeInto الفاشلة في PySpark وUC
- [SPARK-48957] [SC-171797][SS] إرجاع فئة الخطأ المصنفة الفرعية على تحميل مخزن الحالة لموفر hdfs و rocksdb
- [SPARK-48891] [Backport][15x][SC-171677][SS] إعادة بناء التعليمات البرمجية StateSchemaCompatibilityChecker لتوحيد كافة تنسيقات مخطط الحالة
- [SPARK-48972] [SC-171795][PYTHON] توحيد معالجة السلسلة الحرفية في الدوال
- [SPARK-48388] [SC-171337][SQL] إصلاح سلوك عبارة SET ل SQL Scripts
- [SPARK-48743] [SC-170552][SQL][SS] يجب أن يعالج MergingSessionIterator بشكل أفضل عند إرجاع getStruct فارغ
- [SPARK-48623] [15.x][SC-171322][CORE] ترحيل سجلات FileAppender إلى التسجيل المنظم
- [SPARK-36680] [DBRRM-1123] العودة إلى "[SC-170640][SQL] يدعم خيارات الجدول الديناميكي ل Spark SQL"
- [SPARK-48841] [SC-170868][سلوك-83][SQL] تضمين
collationName
إلىsql()
منCollate
- [SPARK-48941] [SC-171703][PYTHON][ML] استبدال استدعاء واجهة برمجة تطبيقات قراءة / كتابة RDD بواجهة برمجة تطبيقات قراءة / كتابة Dataframe
- [SPARK-48938] [SC-171577][PYTHON] تحسين رسائل الخطأ عند تسجيل Python UDTFs
- [SPARK-48350] [SC-171040][SQL] مقدمة عن الاستثناءات المخصصة ل Sql Scripting
- [SPARK-48907] [SC-171158][SQL] إصلاح القيمة
explicitTypes
فيCOLLATION_MISMATCH.EXPLICIT
- [SPARK-48945] [SC-171658][PYTHON] تبسيط دوال regex باستخدام
lit
- [SPARK-48944] [SC-171576][CONNECT] توحيد معالجة مخطط تنسيق JSON في خادم الاتصال
- [SPARK-48836] [SC-171569] دمج مخطط SQL مع مخطط الحالة/بيانات التعريف
- [SPARK-48946] [SC-171504][SQL] NPE في أسلوب تنقيح عندما تكون جلسة العمل فارغة
- [SPARK-48921] [SC-171412][SQL] يجب حل ترميز ScalaUDF في الاستعلام الفرعي ل MergeInto
- [SPARK-45155] [SC-171048][CONNECT] إضافة مستندات API لعميل Spark Connect JVM/Scala
- [SPARK-48900] [SC-171319] إضافة
reason
حقل لcancelJobGroup
وcancelJobsWithTag
- [SPARK-48865] [SC-171154][SQL] إضافة دالة try_url_decode
- [SPARK-48851] [SC-170767][SQL] تغيير قيمة من
SCHEMA_NOT_FOUND
namespace
إلىcatalog.namespace
- [SPARK-48510] [SC-170893][2/2] دعم واجهة برمجة تطبيقات UDAF
toColumn
في Spark Connect - [SPARK-45190] [SC-171055][SPARK-48897][PYTHON][CONNECT] إنشاء
from_xml
مخطط StructType للدعم - [SPARK-48930] [SC-171304][CORE] تنقيح
awsAccessKeyId
عن طريق تضمينaccesskey
نمط - [SPARK-48909] [SC-171080][التعلم الآلي][MLLIB] يستخدم SparkSession عبر SparkContext عند كتابة بيانات التعريف
- [SPARK-48883] [SC-171133][التعلم الآلي][R] استبدال استدعاء واجهة برمجة تطبيقات القراءة / الكتابة RDD بواجهة برمجة تطبيقات قراءة / كتابة Dataframe
- [SPARK-48924] [SC-171313][PS] إضافة دالة مساعد تشبه
make_interval
pandas - [SPARK-48884] [SC-171051][PYTHON] إزالة دالة المساعد غير المستخدمة
PythonSQLUtils.makeInterval
- [SPARK-48817] [SC-170636][SQL] تنفيذ أوامر متعددة الاتحاد معا بفارغ الصبر
- [SPARK-48896] [SC-171079][التعلم الآلي][MLLIB] تجنب إعادة ال تقسيم عند كتابة بيانات التعريف
- [SPARK-48892] [SC-171127][ML] تجنب قراءة المعلمة لكل صف في
Tokenizer
- [SPARK-48927] [SC-171227][CORE] إظهار عدد مجموعات البيانات الموزعة المرنة المخزنة مؤقتا في
StoragePage
- [SPARK-48886] [15.x][Backport][SC-171039][SS] إضافة معلومات الإصدار إلى changelog v2 للسماح بالتطور الأسهل
- [SPARK-48903] [SC-171136][SS] تعيين إصدار اللقطة الأخير ل RocksDB بشكل صحيح على التحميل عن بعد
- [SPARK-48742] [SC-170538][SS] عائلة العمود الظاهري ل RocksDB
- [SPARK-48726] [15.x][SC-170753][SS] قم بإنشاء تنسيق ملف StateSchemaV3، واكتب هذا لعامل تشغيل TransformWithStateExec
- [SPARK-48794] [SC-170882][CONNECT][15.x] دعم df.mergeInto ل Spark Connect (Scala وPython)
- [SPARK-48714] [SC-170136][PYTHON] تنفيذ
DataFrame.mergeInto
في PySpark - [SPARK-48772] [SC-170642][SS][SQL] وضع قارئ موجز تغيير مصدر بيانات الحالة
- [SPARK-48666] [SC-170887][SQL] لا تدفع عامل التصفية لأسفل إذا كان يحتوي على PythonUDFs
- [SPARK-48845] [SC-170889][SQL] عامUDF التقاط استثناءات من الأطفال
- [SPARK-48880] [SC-170974][CORE] تجنب طرح NullPointerException إذا فشل المكون الإضافي لبرنامج التشغيل في تهيئة
- [SPARK-48888] [Backport][15x][SC-170973][SS] إزالة إنشاء لقطة استنادا إلى حجم عمليات سجل التغيير
- [SPARK-48871] [SC-170876] إصلاح التحقق من صحة INVALID_NON_DETERMINISTIC_EXPRESSIONS في...
- [SPARK-48883] [SC-170894][التعلم الآلي][R] استبدال استدعاء واجهة برمجة تطبيقات القراءة / الكتابة RDD بواجهة برمجة تطبيقات قراءة / كتابة Dataframe
- [SPARK-36680] [SC-170640][SQL] يدعم خيارات الجدول الديناميكي ل Spark SQL
- [SPARK-48804] [SC-170558][SQL] إضافة classIsLoadable و OutputCommitter.isAssignableFrom التحقق من تكوينات فئة ملتزم الإخراج
- [SPARK-46738] [SC-170791][PYTHON] إعادة تمكين مجموعة من المستقيمات
- [SPARK-48858] [SC-170756][PYTHON] إزالة استدعاء الأسلوب المهمل
setDaemon
لThread
فيlog_communication.py
- [SPARK-48639] [SC-169801][CONNECT][PYTHON] إضافة أصل إلى RelationCommon
- [SPARK-48863] [SC-170770][ES-1133940][SQL] إصلاح ClassCastException عند تحليل JSON مع تمكين "spark.sql.json.enablePartialResults"
- [SPARK-48343] [SC-170450][SQL] مقدمة عن مترجم البرمجة النصية SQL
- [SPARK-48529] [SC-170755][SQL] مقدمة عن التسميات في البرمجة النصية ل SQL
- [SPARK-45292] إرجاع "[SC-151609][SQL][HIVE] إزالة Guava من الفئات المشتركة من IsolatedClientLoader"
- [SPARK-48037] [SC-165330][CORE][3.5] إصلاح SortShuffleWriter يفتقر إلى مقاييس الكتابة العشوائية ذات الصلة مما يؤدي إلى بيانات يحتمل أن تكون غير دقيقة
- [SPARK-48720] [SC-170551][SQL] محاذاة الأمر
ALTER TABLE ... UNSET TBLPROPERTIES ...
في v1 وv2 - [SPARK-48485] [SC-167825][CONNECT][SS] دعم علامة المقاطعة والمقاطعةكل في استعلامات الدفق
- [SPARK-45292] [SC-151609][SQL][HIVE] إزالة Guava من الفئات المشتركة من IsolatedClientLoader
- [SPARK-48668] [SC-169815][SQL] دعم تغيير مساحة الاسم ... خصائص UNSET في الإصدار 2
- [SPARK-47914] [SC-165313][SQL] لا تعرض معلمة التقسيمات في النطاق
- [SPARK-48807] [SC-170643][SQL] دعم ثنائي لمورد بيانات CSV
- [SPARK-48220] [SC-167592][PYTHON][15.X] السماح بتمرير جدول PyArrow لإنشاء DataFrame()
- [SPARK-48545] [SC-169543][SQL] إنشاء to_avro ووظائف SQL from_avro لمطابقة مكافئات DataFrame
- [SPARK-47577] [SC-168875][SPARK-47579] الاستخدام المضلل الصحيح لمفتاح السجل TASK_ID
دعم برنامج تشغيل Databricks ODBC/JDBC
يدعم Databricks برامج تشغيل ODBC/JDBC التي تم إصدارها في العامين الماضيين. يرجى تنزيل برامج التشغيل التي تم إصدارها مؤخرا والترقية (تنزيل ODBC، تنزيل JDBC).
بيئة النظام
- نظام التشغيل: Ubuntu 24.04.1 LTS
- Java: Zulu17.50+19-CA
- Scala: 2.12.18
- Python: 3.12.3
- R: 4.4.0
- Delta Lake: 3.2.1
مكتبات Python المثبتة
مكتبة | إصدار | مكتبة | إصدار | مكتبة | إصدار |
---|---|---|---|---|---|
الأنواع ذات التعليقات التوضيحية | 0.7.0 | الرموز المميزة | 2.0.5 | astunparse | 1.6.3 |
الأوامر التلقائية | 2.2.2 | azure-core | 1.31.0 | azure-storage-blob | 12.23.0 |
azure-storage-file-datalake | 12.17.0 | backports.tarfile | 1.2.0 | black | 24.4.2 |
وامض | 1.7.0 | boto3 | 1.34.69 | روبوت الدردشة | 1.34.69 |
قوالب ذاكرة التخزين المؤقت | 5.3.3 | شهادة | 2024.6.2 | cffi | 1.16.0 |
تجزئة | 4.0.0 | charset-normalizer | 2.0.4 | نقر | 8.1.7 |
cloudpickle | 2.2.1 | الاتصالات | 0.2.1 | مخطط إحاطة | 1.2.0 |
التشفير | 42.0.5 | دورة | 0.11.0 | Cython | 3.0.11 |
databricks-sdk | 0.30.0 | dbus-python | 1.3.2 | تصحيح الأخطاء | 1.6.7 |
ديكور | 5.1.1 | مهملة | 1.2.14 | استياء | 0.3.8 |
docstring-to-markdown | 0.11 | نقاط الإدخال | 0.4 | تنفيذ | 0.8.3 |
نظرة عامة على الواجهات | 1.1.1 | قفل الملف | 3.15.4 | أصوام الخطوط | 4.51.0 |
gitdb | 4.0.11 | GitPython | 3.1.37 | google-api-core | 2.20.0 |
google-auth | 2.35.0 | google-cloud-core | 2.4.1 | google-cloud-storage | 2.18.2 |
google-crc32c | 1.6.0 | google-resumable-media | 2.7.2 | googleapis-common-protos | 1.65.0 |
grpcio | 1.60.0 | حالة grpcio | 1.60.0 | httplib2 | 0.20.4 |
idna | 3.7 | بيانات تعريف importlib | 6.0.0 | importlib_resources | 6.4.0 |
تحديد | 7.3.1 | ipyflow-core | 0.0.198 | ipykernel | 6.28.0 |
ipython | 8.25.0 | ipython-genutils | 0.2.0 | عناوين ipywidgets | 7.7.2 |
isodate | 0.6.1 | jaraco.context | 5.3.0 | jaraco.functools | 4.0.1 |
jaraco.text | 3.12.1 | jedi | 0.19.1 | مسار jmespath | 1.0.1 |
joblib | 1.4.2 | jupyter_client | 8.6.0 | jupyter_core | 5.7.2 |
kiwisolver | 1.4.4 | launchpadlib | 1.11.0 | lazr.restfulclient | 0.14.6 |
lazr.uri | 1.0.6 | matplotlib | 3.8.4 | matplotlib-inline | 0.1.6 |
مكابي | 0.7.0 | mlflow-skinny | 2.15.1 | المزيد من التكرارات | 10.3.0 |
mypy | 1.10.0 | mypy-extensions | 1.0.0 | nest-asyncio | 1.6.0 |
nodeenv | 1.9.1 | numpy | 1.26.4 | أواتهليب | 3.2.2 |
opentelemetry-api | 1.27.0 | opentelemetry-sdk | 1.27.0 | opentelemetry-semantic-conventions | 0.48b0 |
التغليف | 24.1 | pandas | 1.5.3 | parso | 0.8.3 |
pathspec | 0.10.3 | بتسي | 0.5.6 | pexpect | 4.8.0 |
pillow | 10.3.0 | pip | 24.2 | المنصات | 3.10.0 |
بشكل مخطط | 5.22.0 | توصيل | 1.0.0 | مجموعة أدوات المطالبة | 3.0.43 |
proto-plus | 1.24.0 | protobuf | 4.24.1 | psutil | 5.9.0 |
psycopg2 | 2.9.3 | عملية ptyprocess | 0.7.0 | تقييم خالص | 0.2.2 |
pyarrow | 15.0.2 | pyasn1 | 0.4.8 | وحدات pyasn1 | 0.2.8 |
pyccolo | 0.0.52 | pycparser | 2.21 | pydantic | 2.8.2 |
pydantic_core | 2.20.1 | pyflakes | 3.2.0 | Pygments | 2.15.1 |
PyGObject | 3.48.2 | PyJWT | 2.7.0 | pyodbc | 5.0.1 |
pyparsing | 3.0.9 | تمام | 1.1.294 | python-dateutil | 2.9.0.post0 |
python-lsp-jsonrpc | 1.1.2 | خادم python-lsp | 1.10.0 | تكوين pytool | 1.2.6 |
pytz | 2024.1 | PyYAML | 6.0.1 | pyzmq | 25.1.2 |
الطلبات | 2.32.2 | حبل | 1.12.0 | rsa | 4.9 |
s3transfer | 0.10.2 | scikit-learn | 1.4.2 | شفرة | 1.13.1 |
بحر محمول | 0.13.2 | أدوات الإعداد | 74.0.0 | ستة | 1.16.0 |
smmap | 5.0.0 | sqlparse | 0.5.1 | ssh-import-id | 5.11 |
بيانات المكدس | 0.2.0 | نماذج الإحصائيات | 0.14.2 | مثابره | 8.2.2 |
threadpoolctl | 2.2.0 | tokenize-rt | 4.2.1 | tomli | 2.0.1 |
اعصار | 6.4.1 | سمات السمات | 5.14.3 | typeguard | 4.3.0 |
أنواع protobuf | 3.20.3 | types-psutil | 5.9.0 | أنواع pytz | 2023.3.1.1 |
types-PyYAML | 6.0.0 | أنواع الطلبات | 2.31.0.0 | أنواع الإعدادات | 68.0.0.0 |
أنواع ستة | 1.16.0 | types-urllib3 | 1.26.25.14 | typing_extensions | 4.11.0 |
ujson | 5.10.0 | ترقيات غير مراقبة | 0.1 | urllib3 | 1.26.16 |
virtualenv | 20.26.2 | wadllib | 1.3.6 | wcwidth | 0.2.5 |
whatthepatch | 1.0.2 | دولاب | 0.43.0 | ملف التفافي | 1.14.1 |
yapf | 0.33.0 | zipp | 3.17.0 |
مكتبات R المثبتة
يتم تثبيت مكتبات R من لقطة Posit مدير الحِزَم CRAN.
مكتبة | إصدار | مكتبة | إصدار | مكتبة | إصدار |
---|---|---|---|---|---|
سهم | 16.1.0 | askpass | 1.2.0 | assertthat | 0.2.1 |
backports | 1.5.0 | الأساس | 4.4.0 | base64enc | 0.1-3 |
bigD | 0.2.0 | بت | 4.0.5 | bit64 | 4.0.5 |
bitops | 1.0-8 | كائن ثنائي كبير الحجم | 1.2.4 | boot | 1.3-30 |
المشروب | 1.0-10 | بريو | 1.1.5 | broom | 1.0.6 |
bslib | 0.8.0 | ذاكرة التخزين المؤقت | 1.1.0 | callr | 3.7.6 |
علامة إقحام | 6.0-94 | cellranger | 1.1.0 | كرون | 2.3-61 |
فئة | 7.3-22 | cli | 3.6.3 | clipr | 0.8.0 |
ساعة | 0.7.1 | نظام مجموعة | 2.1.6 | codetools | 0.2-20 |
colorspace | 2.1-1 | العلامة الشائعة | 1.9.1 | compiler | 4.4.0 |
config | 0.3.2 | تتعارض | 1.2.0 | cpp11 | 0.4.7 |
crayon | 1.5.3 | بيانات الاعتماد | 2.0.1 | curl | 5.2.1 |
data.table | 1.15.4 | مجموعات البيانات | 4.4.0 | DBI | 1.2.3 |
dbplyr | 2.5.0 | تنازلي | 1.4.3 | devtools | 2.4.5 |
الرسم التخطيطي | 1.6.5 | diffobj | 0.3.5 | digest | 0.6.36 |
إضاءة هابطة | 0.4.4 | dplyr | 1.1.4 | dtplyr | 1.3.1 |
e1071 | 1.7-14 | علامة الحذف | 0.3.2 | التقييم | 0.24.0 |
fansi | 1.0.6 | مسافة بعيدة | 2.1.2 | خريطة سريعة | 1.2.0 |
fontawesome | 0.5.2 | forcats | 1.0.0 | Foreach | 1.5.2 |
foreign | 0.8-86 | زور | 0.2.0 | fs | 1.6.4 |
future | 1.34.0 | future.apply | 1.11.2 | تغرغر | 1.5.2 |
generics | 0.1.3 | غيرت | 2.1.0 | ggplot2 | 3.5.1 |
غ | 1.4.1 | git2r | 0.33.0 | صور gitcred | 0.1.2 |
glmnet | 4.1-8 | عموميات | 0.16.3 | glue | 1.7.0 |
googledrive | 2.1.1 | googlesheets4 | 1.1.1 | gower | 1.0.1 |
graphics | 4.4.0 | grDevices | 4.4.0 | grid | 4.4.0 |
gridExtra | 2.3 | gsubfn | 0.7 | gt | 0.11.0 |
gtable | 0.3.5 | هاردات | 1.4.0 | haven | 2.5.4 |
highr | 0.11 | hms | 1.1.3 | htmltools | 0.5.8.1 |
htmlwidgets | 1.6.4 | httpuv | 1.6.15 | httr | 1.4.7 |
httr2 | 1.0.2 | ids | 1.0.1 | ini | 0.3.1 |
ipred | 0.9-15 | isoband | 0.2.7 | iterators | 1.0.14 |
jquerylib | 0.1.4 | jsonlite | 1.8.8 | اجتهادي | 0.1.0 |
KernSmooth | 2.23-22 | knitr | 1.48 | labeling | 0.4.3 |
فيما بعد | 1.3.2 | lattice | 0.22-5 | lava | 1.8.0 |
دورة الحياة | 1.0.4 | listenv | 0.9.1 | lubridate | 1.9.3 |
magrittr | 2.0.3 | markdown | 1.13 | MASS | 7.3-60.0.1 |
مصفوفة | 1.6-5 | المذكرة | 2.0.1 | الأساليب | 4.4.0 |
mgcv | 1.9-1 | mime | 0.12 | واجهة مستخدم مصغرة | 0.1.1.1 |
تدفق التعلم الآلي | 2.14.1 | ModelMetrics | 1.2.2.2 | modelr | 0.1.11 |
munsell | 0.5.1 | nlme | 3.1-165 | nnet | 7.3-19 |
numDeriv | 2016.8-1.1 | openssl | 2.2.0 | parallel | 4.4.0 |
بالتوازي | 1.38.0 | pillar | 1.9.0 | pkgbuild | 1.4.4 |
pkgconfig | 2.0.3 | pkgdown | 2.1.0 | pkgload | 1.4.0 |
plogr | 0.2.0 | plyr | 1.8.9 | مدح | 1.0.0 |
prettyunits | 1.2.0 | بروك | 1.18.5 | processx | 3.8.4 |
prodlim | 2024.06.25 | ملفات تعريفية | 0.3.8 | التقدم | 1.2.3 |
متدرج التقدم | 0.14.0 | الوعود | 1.3.0 | proto | 1.0.0 |
الوكيل | 0.4-27 | ps | 1.7.7 | purrr | 1.0.2 |
R6 | 2.5.1 | رعوج | 1.3.2 | randomForest | 4.7-1.1 |
طيور الراب | 0.3.3 | rcmdcheck | 1.4.0 | RColorBrewer | 1.1-3 |
Rcpp | 1.0.13 | RcppEigen | 0.3.4.0.0 | قابلة للتفاعل | 0.4.4 |
reactR | 0.6.0 | readr | 2.1.5 | readxl | 1.4.3 |
recipes | 1.1.0 | rematch | 2.0.0 | إعادة المباراة2 | 2.1.2 |
أجهزة التحكم عن بعد | 2.5.0 | reprex | 2.1.1 | reshape2 | 1.4.4 |
rlang | 1.1.4 | rmarkdown | 2.27 | RODBC | 1.3-23 |
roxygen2 | 7.3.2 | rpart | 4.1.23 | rprojroot | 2.0.4 |
Rserve | 1.8-13 | RSQLite | 2.3.7 | rstudioapi | 0.16.0 |
تحويلات | 2.1.2 | rvest | 1.0.4 | ساس | 0.4.9 |
scales | 1.3.0 | selectr | 0.4-2 | معلومات الجلسة | 1.2.2 |
شكل | 1.4.6.1 | بَرَّاق | 1.9.1 | قوالب المصدر | 0.1.7-1 |
sparklyr | 1.8.6 | spatial | 7.3-17 | splines | 4.4.0 |
sqldf | 0.4-11 | SQUAREM | 2021.1 | stats | 4.4.0 |
stats4 | 4.4.0 | stringi | 1.8.4 | stringr | 1.5.1 |
survival | 3.6-4 | غرور | 5.17.14.1 | sys | 3.4.2 |
الشبكات الأساسية للنظام | 1.1.0 | tcltk | 4.4.0 | اختبار الذي | 3.2.1.1 |
تشكيل النص | 0.4.0 | tibble | 3.2.1 | tidyr | 1.3.1 |
tidyselect | 1.2.1 | tidyverse | 2.0.0 | تغيير الوقت | 0.3.0 |
timeDate | 4032.109 | tinytex | 0.52 | الأدوات | 4.4.0 |
tzdb | 0.4.0 | محدد موقع المعلومات (urlchecker) | 1.0.1 | استخدام هذا | 3.0.0 |
utf8 | 1.2.4 | utils | 4.4.0 | uuid | 1.2-1 |
الإصدار 8 | 4.4.2 | vctrs | 0.6.5 | viridisLite | 0.4.2 |
غرفة vroom | 1.6.5 | والدو | 0.5.2 | whisker | 0.4.1 |
withr | 3.0.1 | xfun | 0.46 | xml2 | 1.3.6 |
xopen | 1.0.1 | xtable | 1.8-4 | yaml | 2.3.10 |
zeallot | 0.1.0 | zip | 2.3.1 |
مكتبات Java و Scala المثبتة (إصدار مجموعة Scala 2.12)
معرف مجموعة | معرف البيانات الاصطناعية | إصدار |
---|---|---|
antlr | antlr | 2.7.7 |
com.amazonaws | amazon-kinesis-client | 1.12.0 |
com.amazonaws | aws-java-sdk-autoscaling | 1.12.638 |
com.amazonaws | aws-java-sdk-cloudformation | 1.12.638 |
com.amazonaws | aws-java-sdk-cloudfront | 1.12.638 |
com.amazonaws | aws-java-sdk-cloudhsm | 1.12.638 |
com.amazonaws | aws-java-sdk-cloudsearch | 1.12.638 |
com.amazonaws | aws-java-sdk-cloudtrail | 1.12.638 |
com.amazonaws | aws-java-sdk-cloudwatch | 1.12.638 |
com.amazonaws | aws-java-sdk-cloudwatchmetrics | 1.12.638 |
com.amazonaws | aws-java-sdk-codedeploy | 1.12.638 |
com.amazonaws | aws-java-sdk-cognitoidentity | 1.12.638 |
com.amazonaws | aws-java-sdk-cognitosync | 1.12.638 |
com.amazonaws | aws-java-sdk-config | 1.12.638 |
com.amazonaws | aws-java-sdk-core | 1.12.638 |
com.amazonaws | aws-java-sdk-datapipeline | 1.12.638 |
com.amazonaws | aws-java-sdk-directconnect | 1.12.638 |
com.amazonaws | aws-java-sdk-directory | 1.12.638 |
com.amazonaws | aws-java-sdk-dynamodb | 1.12.638 |
com.amazonaws | aws-java-sdk-ec2 | 1.12.638 |
com.amazonaws | aws-java-sdk-ecs | 1.12.638 |
com.amazonaws | aws-java-sdk-efs | 1.12.638 |
com.amazonaws | aws-java-sdk-elasticache | 1.12.638 |
com.amazonaws | aws-java-sdk-elasticbeanstalk | 1.12.638 |
com.amazonaws | aws-java-sdk-elasticloadbalancing | 1.12.638 |
com.amazonaws | aws-java-sdk-elastictranscoder | 1.12.638 |
com.amazonaws | aws-java-sdk-emr | 1.12.638 |
com.amazonaws | aws-java-sdk-glacier | 1.12.638 |
com.amazonaws | aws-java-sdk-glue | 1.12.638 |
com.amazonaws | aws-java-sdk-iam | 1.12.638 |
com.amazonaws | aws-java-sdk-importexport | 1.12.638 |
com.amazonaws | aws-java-sdk-kinesis | 1.12.638 |
com.amazonaws | aws-java-sdk-kms | 1.12.638 |
com.amazonaws | aws-java-sdk-lambda | 1.12.638 |
com.amazonaws | aws-java-sdk-logs | 1.12.638 |
com.amazonaws | aws-java-sdk-machinelearning | 1.12.638 |
com.amazonaws | aws-java-sdk-opsworks | 1.12.638 |
com.amazonaws | aws-java-sdk-rds | 1.12.638 |
com.amazonaws | aws-java-sdk-redshift | 1.12.638 |
com.amazonaws | aws-java-sdk-route53 | 1.12.638 |
com.amazonaws | aws-java-sdk-s3 | 1.12.638 |
com.amazonaws | aws-java-sdk-ses | 1.12.638 |
com.amazonaws | aws-java-sdk-simpledb | 1.12.638 |
com.amazonaws | aws-java-sdk-simpleworkflow | 1.12.638 |
com.amazonaws | aws-java-sdk-sns | 1.12.638 |
com.amazonaws | aws-java-sdk-sqs | 1.12.638 |
com.amazonaws | aws-java-sdk-ssm | 1.12.638 |
com.amazonaws | aws-java-sdk-storagegateway | 1.12.638 |
com.amazonaws | aws-java-sdk-sts | 1.12.638 |
com.amazonaws | دعم aws-java-sdk | 1.12.638 |
com.amazonaws | مكتبات aws-java-sdk-swf | 1.11.22 |
com.amazonaws | مساحات عمل aws-java-sdk | 1.12.638 |
com.amazonaws | jmespath-java | 1.12.638 |
com.clearspring.analytics | استدر | 2.9.6 |
com.databricks | Rserve | 1.8-3 |
com.databricks | databricks-sdk-java | 0.27.0 |
com.databricks | jets3t | 0.7.1-0 |
com.databricks.scalapb | scalapb-runtime_2.12 | 0.4.15-10 |
com.esotericsoftware | kryo مظلل | 4.0.2 |
com.esotericsoftware | سجل الحد الأدنى | 1.3.0 |
com.fasterxml | زميل | 1.3.4 |
com.fasterxml.jackson.core | التعليقات التوضيحية ل جاكسون | 2.15.2 |
com.fasterxml.jackson.core | جاكسون النواة | 2.15.2 |
com.fasterxml.jackson.core | جاكسون-databind | 2.15.2 |
com.fasterxml.jackson.dataformat | جاكسون-dataformat-cbor | 2.15.2 |
com.fasterxml.jackson.dataformat | جاكسون-dataformat-yaml | 2.15.2 |
com.fasterxml.jackson.datatype | جاكسون-datatype-joda | 2.15.2 |
com.fasterxml.jackson.datatype | jackson-datatype-jsr310 | 2.16.0 |
com.fasterxml.jackson.module | jackson-module-paranamer | 2.15.2 |
com.fasterxml.jackson.module | jackson-module-scala_2.12 | 2.15.2 |
com.github.ben-manes.كافيين | كافايين | 2.9.3 |
com.github.fommil | أداة تحميل jniloader | 1.1 |
com.github.fommil.netlib | native_ref-java | 1.1 |
com.github.fommil.netlib | native_ref-java | 1.1 من السكان الأصليين |
com.github.fommil.netlib | native_system-java | 1.1 |
com.github.fommil.netlib | native_system-java | 1.1 من السكان الأصليين |
com.github.fommil.netlib | netlib-native_ref-linux-x86_64 | 1.1 من السكان الأصليين |
com.github.fommil.netlib | netlib-native_system-linux-x86_64 | 1.1 من السكان الأصليين |
com.github.luben | zstd-jni | 1.5.5-4 |
com.github.wendykierp | JTransforms | 3.1 |
com.google.code.findbugs | jsr305 | 3.0.0 |
com.google.code.gson | gson | 2.10.1 |
com.google.crypto.tink | تينك | 1.9.0 |
com.google.errorprone | error_prone_annotations | 2.10.0 |
com.google.flatbuffers | flatbuffers-java | 23.5.26 |
com.google.guava | الجوافه | 15.0 |
com.google.protobuf | protobuf-java | 3.25.1 |
com.helger | profiler | 1.1.1 |
com.ibm.icu | icu4j | 75.1 |
com.jcraft | jsch | 0.1.55 |
com.jolbox | cp عظمي | 0.8.0.RELEASE |
com.lihaoyi | sourcecode_2.12 | 0.1.9 |
com.microsoft.azure | azure-data-lake-store-sdk | 2.3.9 |
com.microsoft.sqlserver | mssql-jdbc | 11.2.2.jre8 |
com.ning | ضغط lzf | 1.1.2 |
com.sun.mail | javax.mail | 1.5.2 |
com.sun.xml.bind | jaxb-core | 2.2.11 |
com.sun.xml.bind | jaxb-impl | 2.2.11 |
com.tdunning | json | 1.8 |
com.thoughtworks.paranamer | paranamer | 2.8 |
com.trueaccord.lenses | lenses_2.12 | 0.4.12 |
com.twitter | برد-java | 0.10.0 |
com.twitter | chill_2.12 | 0.10.0 |
com.twitter | util-app_2.12 | 7.1.0 |
com.twitter | util-core_2.12 | 7.1.0 |
com.twitter | util-function_2.12 | 7.1.0 |
com.twitter | util-jvm_2.12 | 7.1.0 |
com.twitter | util-lint_2.12 | 7.1.0 |
com.twitter | util-registry_2.12 | 7.1.0 |
com.twitter | util-stats_2.12 | 7.1.0 |
com.typesafe | config | 1.4.3 |
com.typesafe.scala-logging | scala-logging_2.12 | 3.7.2 |
com.uber | h3 | 3.7.3 |
com.univocity | محللات أحادية التكافؤ | 2.9.1 |
com.zaxxer | HikariCP | 4.0.3 |
commons-cli | commons-cli | 1.5.0 |
commons-codec | commons-codec | 1.16.0 |
المجموعات المشتركة | المجموعات المشتركة | 3.2.2 |
commons-dbcp | commons-dbcp | 1.4 |
commons-fileupload | commons-fileupload | 1.5 |
commons-httpclient | commons-httpclient | 3.1 |
commons-io | commons-io | 2.13.0 |
commons-lang | commons-lang | 2.6 |
تسجيل المشتركات | تسجيل المشتركات | 1.1.3 |
تجمع مشترك | تجمع مشترك | 1.5.4 |
dev.ludovic.netlib | arpack | 3.0.3 |
dev.ludovic.netlib | بلاس | 3.0.3 |
dev.ludovic.netlib | lapack | 3.0.3 |
info.ganglia.gmetric4j | gmetric4j | 1.0.10 |
io.airlift | أداة ضغط الهواء | 0.27 |
io.delta | delta-sharing-client_2.12 | 1.2.0 |
io.dropwizard.metrics | التعليقات التوضيحية للمقاييس | 4.2.19 |
io.dropwizard.metrics | metrics-core | 4.2.19 |
io.dropwizard.metrics | metrics-graphite | 4.2.19 |
io.dropwizard.metrics | المقاييس-الفحوصات الصحية | 4.2.19 |
io.dropwizard.metrics | metrics-jetty9 | 4.2.19 |
io.dropwizard.metrics | metrics-jmx | 4.2.19 |
io.dropwizard.metrics | metrics-json | 4.2.19 |
io.dropwizard.metrics | metrics-jvm | 4.2.19 |
io.dropwizard.metrics | metrics-servlets | 4.2.19 |
io.netty | netty-all | 4.1.108.Final |
io.netty | netty-buffer | 4.1.108.Final |
io.netty | netty-codec | 4.1.108.Final |
io.netty | netty-codec-http | 4.1.108.Final |
io.netty | netty-codec-http2 | 4.1.108.Final |
io.netty | netty-codec-socks | 4.1.108.Final |
io.netty | netty-common | 4.1.108.Final |
io.netty | معالج netty | 4.1.108.Final |
io.netty | netty-handler-proxy | 4.1.108.Final |
io.netty | محلل netty | 4.1.108.Final |
io.netty | netty-tcnative-مملة-ثابت | 2.0.61.Final |
io.netty | netty-tcnative-مملة-ثابت | 2.0.61.Final-linux-aarch_64 |
io.netty | netty-tcnative-مملة-ثابت | 2.0.61.Final-linux-x86_64 |
io.netty | netty-tcnative-مملة-ثابت | 2.0.61.Final-osx-aarch_64 |
io.netty | netty-tcnative-مملة-ثابت | 2.0.61.Final-osx-x86_64 |
io.netty | netty-tcnative-مملة-ثابت | 2.0.61.Final-windows-x86_64 |
io.netty | netty-tcnative-classes | 2.0.61.Final |
io.netty | netty-transport | 4.1.108.Final |
io.netty | netty-transport-classes-epoll | 4.1.108.Final |
io.netty | netty-transport-classes-kqueue | 4.1.108.Final |
io.netty | netty-transport-native-epoll | 4.1.108.Final |
io.netty | netty-transport-native-epoll | 4.1.108.Final-linux-aarch_64 |
io.netty | netty-transport-native-epoll | 4.1.108.Final-linux-riscv64 |
io.netty | netty-transport-native-epoll | 4.1.108.Final-linux-x86_64 |
io.netty | netty-transport-native-kqueue | 4.1.108.Final-osx-aarch_64 |
io.netty | netty-transport-native-kqueue | 4.1.108.Final-osx-x86_64 |
io.netty | netty-transport-native-unix-common | 4.1.108.Final |
io.prometheus | واجهة سطر الأوامر البسيطة | 0.7.0 |
io.prometheus | simpleclient_common | 0.7.0 |
io.prometheus | simpleclient_dropwizard | 0.7.0 |
io.prometheus | simpleclient_pushgateway | 0.7.0 |
io.prometheus | simpleclient_servlet | 0.7.0 |
io.prometheus.jmx | جامع | 0.12.0 |
jakarta.annotation | jakarta.annotation-api | 1.3.5 |
jakarta.servlet | jakarta.servlet-api | 4.0.3 |
jakarta.validation | jakarta.validation-api | 2.0.2 |
jakarta.ws.rs | jakarta.ws.rs-api | 2.1.6 |
javax.activation | التنشيط | 1.1.1 |
javax.el | javax.el-api | 2.2.4 |
javax.jdo | jdo-api | 3.0.1 |
javax.transaction | jta | 1.1 |
javax.transaction | واجهة برمجة تطبيقات المعاملات | 1.1 |
javax.xml.bind | jaxb-api | 2.2.11 |
التفاف دائري | التفاف دائري | 5.5.1 |
jline | jline | 2.14.6 |
joda-time | joda-time | 2.12.1 |
net.java.dev.jna | jna | 5.8.0 |
net.razorvine | مخلل | 1.3 |
net.sf.jpam | jpam | 1.1 |
net.sf.opencsv | opencsv | 2.3 |
net.sf.supercsv | super-csv | 2.2.0 |
net.snowflake | snowflake-ingest-sdk | 0.9.6 |
net.sourceforge.f2j | arpack_combined_all | 0.1 |
org.acplt.remotetea | remotetea-oncrpc | 1.1.2 |
org.antlr | ST4 | 4.0.4 |
org.antlr | وقت تشغيل antlr | 3.5.2 |
org.antlr | وقت تشغيل antlr4 | 4.9.3 |
org.antlr | سلسلة قوالب | 3.2.1 |
org.apache.ant | نمل | 1.10.11 |
org.apache.ant | نملة-jsch | 1.10.11 |
org.apache.ant | ant-launcher | 1.10.11 |
org.apache.سهم | تنسيق السهم | 15.0.0 |
org.apache.سهم | ذاكرة أساسية للسهم | 15.0.0 |
org.apache.سهم | سهم-ذاكرة-netty | 15.0.0 |
org.apache.سهم | خط متجه للسهم | 15.0.0 |
org.apache.avro | avro | 1.11.3 |
org.apache.avro | avro-ipc | 1.11.3 |
org.apache.avro | avro-mapred | 1.11.3 |
org.apache.commons | commons-collections4 | 4.4 |
org.apache.commons | ضغط الشائعات | 1.23.0 |
org.apache.commons | commons-crypto | 1.1.0 |
org.apache.commons | commons-lang3 | 3.12.0 |
org.apache.commons | commons-math3 | 3.6.1 |
org.apache.commons | commons-text | 1.10.0 |
org.apache.curator | عميل أمين | 2.13.0 |
org.apache.curator | إطار عمل أمين | 2.13.0 |
org.apache.curator | وصفات أمين | 2.13.0 |
org.apache.datasketches | datasketches-java | 3.1.0 |
org.apache.datasketches | datasketches-memory | 2.0.0 |
org.apache.derby | الدربي | 10.14.2.0 |
org.apache.hadoop | وقت تشغيل عميل hadoop | 3.3.6 |
org.apache.hive | hive-beeline | 2.3.9 |
org.apache.hive | hive-cli | 2.3.9 |
org.apache.hive | hive-jdbc | 2.3.9 |
org.apache.hive | عميل hive-llap | 2.3.9 |
org.apache.hive | hive-llap-common | 2.3.9 |
org.apache.hive | hive-serde | 2.3.9 |
org.apache.hive | hive-shims | 2.3.9 |
org.apache.hive | hive-storage-api | 2.8.1 |
org.apache.hive.shims | hive-shims-0.23 | 2.3.9 |
org.apache.hive.shims | hive-shims-common | 2.3.9 |
org.apache.hive.shims | hive-shims-scheduler | 2.3.9 |
org.apache.httpcomponents | httpclient | 4.5.14 |
org.apache.httpcomponents | httpcore | 4.4.16 |
org.apache.ivy | لبلاب | 2.5.2 |
org.apache.logging.log4j | log4j-1.2-api | 2.22.1 |
org.apache.logging.log4j | log4j-api | 2.22.1 |
org.apache.logging.log4j | log4j-core | 2.22.1 |
org.apache.logging.log4j | log4j-layout-template-json | 2.22.1 |
org.apache.logging.log4j | log4j-slf4j2-impl | 2.22.1 |
org.apache.orc | orc-core | 1.9.2-shaded-protobuf |
org.apache.orc | orc-mapreduce | 1.9.2-shaded-protobuf |
org.apache.orc | orc-shims | 1.9.2 |
org.apache.thrift | libfb303 | 0.9.3 |
org.apache.thrift | libthrift | 0.12.0 |
org.apache.ws.xmlschema | xmlschema-core | 2.3.0 |
org.apache.xbean | xbean-asm9-shaded | 4.23 |
org.apache.yetus | التعليقات التوضيحية للجمهور | 0.13.0 |
org.apache.zookeeper | zookeeper | 3.9.2 |
org.apache.zookeeper | zookeeper-jute | 3.9.2 |
org.checkerframework | مدقق كهومي | 3.31.0 |
org.codehaus.jackson | jackson-core-asl | 1.9.13 |
org.codehaus.jackson | جاكسون-mapper-asl | 1.9.13 |
org.codehaus.janino | محول برمجي مشترك | 3.0.16 |
org.codehaus.janino | جانينو | 3.0.16 |
org.datanucleus | datanucleus-api-jdo | 4.2.4 |
org.datanucleus | datanucleus-core | 4.1.17 |
org.datanucleus | datanucleus-rdbms | 4.1.19 |
org.datanucleus | javax.jdo | 3.2.0-m3 |
org.eclipse.collections | مجموعات الكسوف | 11.1.0 |
org.eclipse.collections | eclipse-collections-api | 11.1.0 |
org.eclipse.jetty | عميل jetty | 9.4.52.v20230823 |
org.eclipse.jetty | متابعة jetty | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-http | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-io | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-jndi | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-plus | 9.4.52.v20230823 |
org.eclipse.jetty | وكيل jetty | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-security | 9.4.52.v20230823 |
org.eclipse.jetty | خادم jetty | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-servlet | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-servlets | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-util | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-util-ajax | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-webapp | 9.4.52.v20230823 |
org.eclipse.jetty | jetty-xml | 9.4.52.v20230823 |
org.eclipse.jetty.websocket | websocket-api | 9.4.52.v20230823 |
org.eclipse.jetty.websocket | عميل websocket | 9.4.52.v20230823 |
org.eclipse.jetty.websocket | websocket-common | 9.4.52.v20230823 |
org.eclipse.jetty.websocket | خادم websocket | 9.4.52.v20230823 |
org.eclipse.jetty.websocket | websocket-servlet | 9.4.52.v20230823 |
org.fusesource.leveldbjni | leveldbjni-all | 1.8 |
org.glassfish.hk2 | hk2-api | 2.6.1 |
org.glassfish.hk2 | محدد موقع hk2 | 2.6.1 |
org.glassfish.hk2 | hk2-utils | 2.6.1 |
org.glassfish.hk2 | osgi-resource-locator | 1.0.3 |
org.glassfish.hk2.external | إعادة حزم الأوبالين | 2.6.1 |
org.glassfish.hk2.external | jakarta.inject | 2.6.1 |
org.glassfish.jersey.containers | جيرسي حاوية-servlet | 2.40 |
org.glassfish.jersey.containers | جيرسي-حاوية-servlet-core | 2.40 |
org.glassfish.jersey.core | جيرسي-العميل | 2.40 |
org.glassfish.jersey.core | جيرسي المشتركة | 2.40 |
org.glassfish.jersey.core | خادم جيرسي | 2.40 |
org.glassfish.jersey.inject | جيرسي-hk2 | 2.40 |
org.hibernate.validator | مدقق الإسبات | 6.1.7.Final |
org.ini4j | ini4j | 0.5.4 |
org.javassist | javassist | 3.29.2-GA |
org.jboss.logging | تسجيل jboss | 3.3.2.Final |
org.jdbi | jdbi | 2.63.1 |
org.jetbrains | التعليقات التوضيحية | 17.0.0 |
org.joda | joda-convert | 1.7 |
org.jodd | jodd-core | 3.5.2 |
org.json4s | json4s-ast_2.12 | 3.7.0-M11 |
org.json4s | json4s-core_2.12 | 3.7.0-M11 |
org.json4s | json4s-jackson_2.12 | 3.7.0-M11 |
org.json4s | json4s-scalap_2.12 | 3.7.0-M11 |
org.lz4 | lz4-java | 1.8.0 |
org.mlflow | mlflow-spark_2.12 | 2.9.1 |
org.objenesis | داء objenesis | 2.5.1 |
org.postgresql | postgresql | 42.6.1 |
org.roaringbitmap | هديرBitmap | 0.9.45-databricks |
org.roaringbitmap | الحشوات | 0.9.45-databricks |
org.rocksdb | rocksdbjni | 9.2.1 |
org.rosuda.REngine | REngine | 2.1.0 |
org.scala-lang | scala-compiler_2.12 | 2.12.15 |
org.scala-lang | scala-library_2.12 | 2.12.15 |
org.scala-lang | scala-reflect_2.12 | 2.12.15 |
org.scala-lang.modules | scala-collection-compat_2.12 | 2.11.0 |
org.scala-lang.modules | scala-java8-compat_2.12 | 0.9.1 |
org.scala-lang.modules | scala-parser-combinators_2.12 | 1.1.2 |
org.scala-lang.modules | scala-xml_2.12 | 1.2.0 |
org.scala-sbt | واجهة الاختبار | 1.0 |
org.scalacheck | scalacheck_2.12 | 1.14.2 |
org.scalactic | scalactic_2.12 | 3.2.16 |
org.scalanlp | macros_2.12 | 2.1.0 |
org.scalanlp | breeze_2.12 | 2.1.0 |
org.scalatest | المتوافق مع التحجيم | 3.2.16 |
org.scalatest | scalatest-core_2.12 | 3.2.16 |
org.scalatest | scalatest-diagrams_2.12 | 3.2.16 |
org.scalatest | scalatest-featurespec_2.12 | 3.2.16 |
org.scalatest | scalatest-flatspec_2.12 | 3.2.16 |
org.scalatest | scalatest-freespec_2.12 | 3.2.16 |
org.scalatest | scalatest-funspec_2.12 | 3.2.16 |
org.scalatest | scalatest-funsuite_2.12 | 3.2.16 |
org.scalatest | scalatest-matchers-core_2.12 | 3.2.16 |
org.scalatest | scalatest-mustmatchers_2.12 | 3.2.16 |
org.scalatest | scalatest-propspec_2.12 | 3.2.16 |
org.scalatest | scalatest-refspec_2.12 | 3.2.16 |
org.scalatest | scalatest-shouldmatchers_2.12 | 3.2.16 |
org.scalatest | scalatest-wordspec_2.12 | 3.2.16 |
org.scalatest | scalatest_2.12 | 3.2.16 |
org.slf4j | jcl-over-slf4j | 2.0.7 |
org.slf4j | jul-to-slf4j | 2.0.7 |
org.slf4j | slf4j-api | 2.0.7 |
org.slf4j | slf4j-simple | 1.7.25 |
org.threeten | ثلاثتين إضافية | 1.7.1 |
org.tukaani | xz | 1.9 |
مستوى org.typelevel | algebra_2.12 | 2.0.1 |
مستوى org.typelevel | cats-kernel_2.12 | 2.1.1 |
مستوى org.typelevel | spire-macros_2.12 | 0.17.0 |
مستوى org.typelevel | spire-platform_2.12 | 0.17.0 |
مستوى org.typelevel | spire-util_2.12 | 0.17.0 |
مستوى org.typelevel | spire_2.12 | 0.17.0 |
org.wildfly.openssl | wildfly-openssl | 1.1.3.Final |
org.xerial | sqlite-jdbc | 3.42.0.0 |
org.xerial.snappy | snappy-java | 1.1.10.3 |
org.yaml | ثعبان الثعبان | 2.0 |
oro | oro | 2.0.8 |
pl.edu.icm | JLargeArrays | 1.5 |
software.amazon.cryptools | AmazonCorrettoCryptoProvider | 1.6.2-linux-x86_64 |
stax | stax-api | 1.0.1 |