Bagikan melalui

Mendapatkan data dari Amazon S3

  • Artikel

Penyerapan data adalah proses yang digunakan untuk memuat data dari satu atau beberapa sumber ke dalam tabel di Azure Data Explorer. Setelah diserap, data menjadi tersedia untuk kueri. Dalam artikel ini, Anda mempelajari cara mendapatkan data dari Amazon S3 ke dalam tabel baru atau yang sudah ada.

Untuk informasi selengkapnya tentang Amazon S3, lihat Apa itu Amazon S3?.

Untuk informasi umum tentang penyerapan data, lihat Gambaran umum penyerapan data Azure Data Explorer.

Prasyarat

  • Akun Microsoft atau identitas pengguna Microsoft Entra. Langganan Azure tidak diperlukan.
  • Masuk ke antarmuka pengguna web Azure Data Explorer.
  • Kluster dan database Azure Data Explorer. Membuat kluster dan database.

Dapatkan data

  1. Dari menu sebelah kiri, pilih Kueri.

  2. Klik kanan pada database tempat Anda ingin menyerap data, lalu pilih Dapatkan data.

    Cuplikan layar tab kueri, dengan klik kanan pada database dan dialog dapatkan opsi terbuka.

Sumber

Di jendela Dapatkan data, tab Sumber dipilih.

Pilih sumber data dari daftar yang tersedia. Dalam contoh ini, Anda menyerap data dari Amazon S3.

Cuplikan layar jendela dapatkan data dengan tab sumber dipilih.

Konfigurasikan

  1. Pilih database dan tabel target. Jika Anda ingin menyerap data ke dalam tabel baru, pilih +Tabel baru dan masukkan nama tabel.

    Catatan

    Nama tabel dapat mencapai 1024 karakter termasuk spasi, alfanumerik, tanda hubung, dan garis bawah. Karakter khusus tidak didukung.

  2. Di bidang URI, tempelkan string koneksi wadah tunggal, atau objek individual dalam format berikut.

    Wadah: https://Nama Wilayah BucketName.s3..amazonaws.com

    Objek: ObjectName;AwsCredentials=AwsAccessID,AwsSecretKey

    Secara opsional, Anda dapat menerapkan filter wadah untuk memfilter data sesuai dengan ekstensi file tertentu.

    Cuplikan layar tab konfigurasi dengan tabel baru dimasukkan dan Amazon S3 string koneksi ditempelkan.

    Catatan

    Penyerapan mendukung ukuran file maksimum 6 GB. Rekomendasinya adalah menyerap file antara 100 MB dan 1 GB.

  3. Pilih Selanjutnya.

Memeriksa

Tab inspeksi terbuka dengan pratinjau data.

Untuk menyelesaikan proses penyerapan, pilih Selesai.

Cuplikan layar tab inspeksi.

Opsional:

Edit kolom

Catatan

  • Untuk format tabular (CSV, TSV, PSV), Anda tidak dapat memetakan kolom dua kali. Untuk memetakan ke kolom yang sudah ada, pertama-tama hapus kolom baru.
  • Anda tidak dapat mengubah tipe kolom yang sudah ada. Jika Anda mencoba memetakan ke kolom yang memiliki format yang berbeda, Anda mungkin berakhir dengan kolom kosong.

Perubahan yang dapat Anda lakukan dalam tabel tergantung pada parameter berikut:

  • Jenis tabel baru atau sudah ada
  • Jenis pemetaan baru atau sudah ada
Jenis tabel Jenis Pemetaan Penyesuaian yang tersedia
Tabel Baru Tambahkan Pemetaan Baru Ganti nama kolom, ubah jenis data, ubah sumber data, transformasi pemetaan, tambahkan kolom, hapus kolom
Tabel yang sudah ada Tambahkan Pemetaan Baru Tambahkan kolom (di mana Anda kemudian dapat mengubah jenis data, mengganti nama, dan memperbarui)
Tabel yang sudah ada Pemetaan yang ada tidak ada

Cuplikan layar kolom terbuka untuk pengeditan.

Memindahkan transformasi

Some data format mappings (Parquet, JSON, and Avro) support simple ingest-time transformations. Untuk menerapkan transformasi pemetaan, buat atau perbarui kolom di jendela Edit kolom .

Transformasi pemetaan dapat dilakukan pada kolom string jenis atau tanggalwaktu, dengan sumber memiliki tipe data int atau panjang. Supported mapping transformations are:

  • DateTimeFromUnixSeconds
  • DateTimeFromUnixMilliseconds
  • DateTimeFromUnixMicroseconds
  • DateTimeFromUnixNanoseconds

Opsi tingkat lanjut berdasarkan jenis data

Tabular (CSV, TSV, PSV):

  • Jika Anda menyerap format tabular dalam tabel yang sudah ada, Anda bisa memilih Tingkat Lanjut>Pertahankan skema tabel saat ini. Data tabular tidak selalu menyertakan nama kolom yang digunakan untuk memetakan data sumber ke kolom yang ada. Ketika opsi ini dicentang, pemetaan dilakukan secara berurutan, dan skema tabel tetap sama. Jika opsi ini tidak dicentang, kolom baru dibuat untuk data masuk, terlepas dari struktur data.

  • Untuk menggunakan baris pertama sebagai nama kolom, pilih Baris pertama Tingkat Lanjut>adalah header kolom.

    Cuplikan layar opsi CSV tingkat lanjut.

JSON:

  • Untuk menentukan pembagian kolom data JSON, pilih Tingkat Berlapis Tingkat Lanjut>, dari 1 hingga 100.

  • Jika Anda memilih Kesalahan format data Abaikan Tingkat Lanjut>, data diserap dalam format JSON. Jika Anda membiarkan kotak centang ini tidak dipilih, data diserap dalam format multijson.

    Cuplikan layar opsi JSON tingkat lanjut.

Ringkasan

Di jendela Persiapan data, ketiga langkah ditandai dengan tanda centang hijau saat penyerapan data berhasil diselesaikan. Anda bisa menampilkan perintah yang digunakan untuk setiap langkah, atau memilih kartu untuk mengkueri, memvisualisasikan, atau menghilangkan data yang diserap.

Cuplikan layar halaman ringkasan dengan penyerapan yang berhasil diselesaikan.

Konten terkait