Tanya Jawab Umum untuk kemampuan permintaan dan pembuatan teks
Pertanyaan yang sering diajukan (FAQ) ini menjelaskan dampak AI dari fitur perintah AI Builder.
Apa itu prompt?
Fitur prompt dalam AI Builder menawarkan kepada pengguna kemampuan serbaguna untuk mengembangkan alur kerja bertenaga AI, aplikasi, transformasi data, dan kustomisasi kopilot. Memungkinkan pembuatan alur kerja dan aplikasi yang meringkas dokumen, membuat draf tanggapan, mengklasifikasikan teks, dan menerjemahkan bahasa. Kemampuan ini didukung oleh Azure OpenAI Service, yang memanfaatkan teknologi Generative Pre-trained Transformer (GPT). Model-model ini dilatih pada sejumlah besar data teks, yang memungkinkannya menghasilkan teks yang menyerupai konten tulisan manusia.
Pelajari selengkapnya di Catatan Transparansi untuk Layanan Azure OpenAI .
Apa saja tujuan penggunaan prompt?
Perintah dalam AI Builder memberdayakan Anda untuk membangun aplikasi cerdas, alur kerja, dan memperluas kopilot. Mereka memanfaatkan kemampuan model GPT yang telah dilatih sebelumnya, yang menghilangkan kebutuhan untuk pelatihan model khusus. Misalnya, tujuannya mungkin untuk membangun alur kerja yang merangkum keluhan pelanggan yang masuk. Kemudian, ia membuat tiket di alat manajemen insiden berdasarkan kategori keluhan yang masuk. Dalam contoh ini, pembuat dapat menginstruksikan model untuk mengkategorikan dan meringkas keluhan yang masuk untuk membuat insiden baru.
Daftar berikut berisi kasus penggunaan paling populer untuk layanan ini:
- Ringkasan email, percakapan, transkrip, dokumen, dan banyak lagi.
- Saran rancangan tanggapan terhadap pertanyaan pelanggan, keluhan, email, dan lainnya.
- Ekstraksi informasi dari kontrak, email, faktur, pesanan, dan banyak lagi.
- Klasifikasi konten dalam kategori yang diinginkan (misalnya, apakah email tersebut merupakan pesanan, keluhan, atau pengembalian).
- Analisis sentimen suatu teks (misalnya, mengidentifikasi sentimen ulasan produk).
Dalam semua kasus ini, pengguna bertanggung jawab atas hasil akhir sistem. Mereka diharuskan meninjau konten yang dihasilkan untuk setiap potensi ketidakakuratan atau ketidaklengkapan sebelum menggunakannya.
Bagaimana kesiapan fitur prompt dievaluasi? Metrik apa yang digunakan untuk mengukur kinerja?
Evaluasi kemampuan ini melibatkan pengujian komprehensif pada berbagai parameter keselamatan. Pengujian ini memastikan bahwa fitur tersebut selaras dengan standar dan prinsip AI yang menjadi tanggung jawab organisasi kami. Layanan ini juga terus dinilai untuk mengetahui potensi kerentanannya. Metrik kinerja yang kami gunakan terutama melibatkan efisiensi penyaringan konten dan tingkat kesesuaian antara manusia dan mesin pada konten yang difilter versus yang tidak difilter.
Moderasi konten seperti apa yang diterapkan untuk prompt?
Model GPT dilatih pada data internet, yang sangat bagus untuk membangun model dunia umum. Pada saat yang sama, ia dapat mewarisi konten yang beracun, berbahaya, dan bias dari sumber yang sama. Model-model tersebut dilatih untuk berperilaku aman dan tidak menghasilkan konten yang berbahaya, tetapi terkadang dapat menghasilkan output yang beracun. AI Builder mendorong pemanfaatan layanan Azure AI Content Satefy untuk membuat kemampuan moderasi konten tercanggih dalam perintah AI. Ini termasuk layanan untuk menganalisis keluaran yang dihasilkan dengan pemindai teks multi-tingkat keparahan dan keamanan terhadap serangan injeksi cepat. Output juga dipindai untuk mendeteksi regurgitasi materi yang dilindungi.
Apa batasan fitur prompt? Bagaimana pengguna dapat meminimalkan dampak keterbatasan perintah saat menggunakan sistem?
Penggunaan teknologi ini harus sesuai dengan persyaratan dalam Kode etik untuk Layanan OpenAI Azure. Teknologi ini tidak boleh digunakan untuk menghasilkan konten yang terkait dengan propaganda politik, ujaran kebencian, misinformasi, tindakan menyakiti diri sendiri, diskriminasi, materi seksual eksplisit, atau konten lain yang dilarang oleh Kode Etik. Aplikasi yang tidak didukung dari teknologi ini mencakup pemberian saran, penggunaan untuk panduan hukum, keuangan, terkait kesehatan, atau prediksi masa depan, serta kalkulasi keuangan, ilmiah, atau matematika, dan penggunaan tidak didukung lainnya yang disebutkan dalam Catatan Transparansi untuk Layanan Azure OpenAI . Saat ini, layanan ini hanya didukung di Amerika Serikat dan hanya tersedia dalam bahasa Inggris.
Konten yang dihasilkan AI dapat mengandung kesalahan, oleh karena itu pembuat harus memberi tahu pengguna akhir solusi mereka bahwa pembuatan konten dengan model ini dibuat oleh AI dengan cara yang transparan. Komunikasi yang jelas tentang konten yang dihasilkan membantu menghindari ketergantungan yang berlebihan. Pembuat juga harus menyertakan kemungkinan langkah peninjauan manusia untuk memastikan bahwa konten yang dihasilkan AI akurat dan tepat sebelum menggunakannya.
Faktor dan pengaturan operasional apa yang memungkinkan penggunaan sistem ini secara bertanggung jawab?
Konten yang dihasilkan oleh model AI bersifat probabilistik, dan karenanya respons model dapat bervariasi untuk perintah yang sama. Respons yang dihasilkan mungkin salah atau menyesatkan dan dapat menyebabkan hasil yang tidak diinginkan dari aliran atau aplikasi. Misalnya, pelanggan bisnis mungkin menerima informasi, rekomendasi, atau dukungan yang salah atau tidak tepat. Pembuat harus menerapkan pengawasan manusia yang berarti dalam alur dan aplikasi mereka, dan menguji perintah mereka untuk mengetahui potensi yang mengarah pada perilaku berbahaya atau konten terlarang seperti tercantum dalam Kode Etik Microsoft. Pengembang kode rendah juga harus transparan tentang penggunaan AI dalam aplikasi dan alur mereka untuk memberi tahu pengguna bisnis, yang menunjukkan bahwa konten tersebut dihasilkan oleh AI. Selain itu, respons yang dihasilkan mungkin tidak sesuai dengan harapan pengembang kode rendah karena batasan panjang, pemfilteran konten, atau pemilihan model.
Apa nama model GPT, di mana ia dihosting, dan bagaimana cara mengaksesnya?
AI Builder mendukung GPT 4o keluarga model, yang dihosting di Azure OpenAI Melayani. Anda dapat mengakses model ini melalui petunjuk di seluruh Power Platform, dalam aplikasi, alur, dan kopilot Anda.
Pelajari lebih lanjut di Apa yang baru di Azure OpenAI Melayani?
Apakah data saya digunakan untuk melatih atau meningkatkan model bahasa besar yang tersedia di AI Builder ....
AI Builder prompt dijalankan pada Azure OpenAI Service yang dihosting oleh Microsoft. Data pelanggan tidak digunakan untuk melatih atau meningkatkan model dasar Azure OpenAI Service mana pun. Microsoft tidak membagikan data pelanggan Anda kepada pihak ketiga kecuali Anda memberikan izin untuk melakukannya. Baik perintah pelanggan (input) dengan data dasarnya maupun respons model (output) tidak digunakan untuk melatih atau meningkatkan model dasar Azure OpenAI Service.
Apakah konten yang ditambahkan ke tindakan 'Buat teks dengan GPT menggunakan perintah' dapat diakses publik?
Tab Tentang untuk tindakan tersebut menyatakan, Tindakan ini menyediakan akses ke perintah Anda dengan memanfaatkan model GPT yang berjalan pada Layanan Azure. OpenAI
Perintah yang Anda tambahkan ke tindakan Buat teks dengan GPT menggunakan perintah di Power Automate bersifat privat secara default. Mereka hanya terlihat dan dapat digunakan dalam organisasi Anda, tidak dapat diakses oleh dunia. Perintah tersebut bersifat pribadi dan ditujukan untuk penggunaan internal di perusahaan Anda.
Prompt yang baru dibuat bersifat pribadi secara default. Artinya, mereka terlihat dan dapat digunakan di Power Automate, Power Apps, dan Microsoft Copilot Studio hanya oleh orang yang membuatnya. Hal ini memberi pembuat waktu untuk menguji dan mengevaluasinya dalam aplikasi atau alur kerja dan memastikan keakuratannya sebelum membagikannya.
Jika Anda ingin pengguna lain di lingkungan atau grup menggunakan prompt Anda di Power Apps atau Power Automate, Anda perlu membagikannya.
Pelajari selengkapnya di Bagikan permintaan Anda.
Bagaimana gambar orang diproses dalam AI Builder prompt?
AI Builder tidak dimaksudkan untuk digunakan untuk mengidentifikasi individu berdasarkan fitur wajah atau data biometrik. Saat Anda mengirimkan gambar yang berisi orang di AI Builder, sistem secara otomatis menerapkan fitur pemburaman wajah sebelum menganalisis gambar untuk melindungi privasi individu. Langkah pengaburan ini membantu mengatasi masalah privasi dengan mencegah identifikasi berdasarkan fitur wajah. Dengan pengaburan, tidak ada pengenalan wajah atau pencocokan templat wajah yang terlibat. Sebaliknya, identifikasi individu terkenal bergantung pada isyarat kontekstual, seperti seragam atau latar unik, bukan pada wajah mereka. Tindakan privasi ini seharusnya tidak memengaruhi kualitas hasil yang Anda terima. Pengaburan wajah mungkin sesekali dirujuk dalam respons sistem.
Pelajari selengkapnya di Pengaburan wajah.
Potensi bahaya saat menggunakan gambar atau dokumen dalam prompt
AI Builder mengurangi sebagian besar risiko yang terlibat saat menggunakan gambar atau dokumen dalam perintah, tetapi beberapa risiko masih memerlukan kehati-hatian ekstra dari pembuat perintah:
- Gambar atau dokumen dapat berisi teks atau visual berbahaya yang dapat memengaruhi proses hilir Anda.
- Gambar atau dokumen dapat menyertakan instruksi khusus dan mungkin tersembunyi yang dapat membahayakan atau mengesampingkan perintah awal.
- Gambar atau dokumen dapat berisi instruksi yang dapat mengarah pada pembuatan konten yang berada di bawah hak kekayaan intelektual (HKI).
- Perintah dapat menghasilkan komentar yang bias pada gambar atau dokumen.
- Mengekstrak informasi dari gambar atau dokumen berkualitas rendah dapat menyebabkan halusinasi.
Apa itu perintah khusus dan fungsi AI?
Perintah khusus
Perintah khusus memberikan kebebasan kepada pembuat untuk menginstruksikan model bahasa besar (LLM) untuk berperilaku dengan cara tertentu, atau untuk melakukan tugas tertentu. Dengan menyusun permintaan secara cermat, Anda dapat menghasilkan respons yang sesuai dengan kebutuhan bisnis spesifik Anda. Ini mengubah model LLM menjadi alat yang fleksibel untuk menyelesaikan berbagai tugas.
Contoh
Dengan model bahasa, perintah khusus dapat memandu model untuk menjawab pertanyaan, melengkapi teks, menerjemahkan bahasa, meringkas dokumen, dan mengidentifikasi tugas, hal yang harus dilakukan, serta item tindakan dalam teks. Kompleksitas perintah khusus dapat berkisar dari satu kalimat hingga sesuatu yang lebih rumit, tergantung pada tugasnya.
Fungsi AI
Fungsi AI yang telah dibangun sebelumnya merupakan perintah yang telah dikonfigurasikan sebelumnya yang dibuat oleh tim Microsoft untuk membantu para pembuat dalam menyelesaikan tugas-tugas umum dengan mudah. Mereka menawarkan kemampuan AI siap pakai di berbagai kasus penggunaan, yang menyederhanakan pengalaman pembuat untuk menanamkan kecerdasan dalam solusi mereka.
Contoh
Prompt yang telah dibuat sebelumnya pada model bahasa bisa terlihat seperti ini:
Ekstrak sebagai daftar bernomor poin-poin tindakan dari: [TextToExtract]
Dalam kasus ini, pengguna hanya perlu menyediakan teks [TextToExtract] dari mana mereka ingin mengekstrak poin tindakan. Prompt yang telah dibuat sebelumnya akan mengurus sisanya.