Tanya Jawab Umum tentang jawaban generatif
Pertanyaan umum (FAQ) ini menjelaskan efek AI dari fitur jawaban generatif di Copilot Studio.
Apa itu jawaban generatif?
Jawaban generatif membuat agen Anda berharga di luar kotak dan meningkatkan jumlah topik yang digunakan agen Anda untuk percakapan, tanpa memerlukan penulisan pohon dialog manual.
Apa itu kemampuan jawaban generatif?
Saat pengguna mengajukan pertanyaan kepada agen yang tidak memicu topik yang dikonfigurasi, agen dapat secara opsional mencari konten yang relevan dari sumber pilihan Anda. Pencarian ini mencakup situs web publik, SharePoint atau sumber data kustom Anda sendiri, termasuk elemen non-teks dalam file yang diunggah, seperti gambar, data tabular, dan diagram. Agen menggunakan AI generatif untuk meringkas informasi tersebut menjadi respons yang dikembalikan ke pengguna agen.
Apa yang dimaksud dengan jawaban generatif yang dimaksudkan?
Jawaban generatif dapat digunakan sebagai sumber informasi utama di agen Anda, atau sebagai penggantian ketika topik yang ditulis tidak dapat menjawab kueri pengguna.
Bagaimana jawaban generatif dievaluasi, dan metrik apa yang digunakan untuk mengukur kinerja?
Kemampuan ini terus dievaluasi pada kumpulan kumpulan data tanya jawab yang dikuratori secara manual, yang mencakup berbagai industri. Evaluasi lebih lanjut dilakukan atas kumpulan data khusus untuk perintah dan respons yang ofensif dan berbahaya, melalui sesi manual otomatis dan khusus yang dirancang untuk memperluas rangkaian pengujian.
Apa batasan jawaban generatif?
Anda harus mengaktifkan opsi jawaban generatif untuk setiap agen.
Lihat Dukungan bahasa untuk daftar bahasa yang didukung oleh fitur ini dan tahapannya masing-masing. Anda mungkin dapat menggunakan bahasa lain, tetapi jawaban yang dihasilkan mungkin tidak konsisten dan agen mungkin tidak merespons dengan benar atau seperti yang Anda harapkan.
Kemampuan ini mungkin tunduk pada batas penggunaan atau pembatasan kapasitas.
Tanggapan yang dihasilkan oleh kemampuan jawaban generatif tidak selalu sempurna dan dapat mengandung kesalahan.
Sistem ini dirancang untuk menanyakan pengetahuan dari situs web pilihan Anda dan untuk mengemas temuan yang relevan ke dalam respons yang mudah dikonsumsi. Namun, penting untuk mengingat beberapa karakteristik AI yang dapat menyebabkan respons yang tidak terduga:
Korpus tempat model dilatih tidak menyertakan data yang dibuat setelah tahun 2021.
Ada mitigasi untuk mencegah model menggunakan korpus pelatihannya sebagai sumber jawaban, namun jawaban dapat menyertakan konten dari situs web selain yang Anda pilih.Sistem tidak melakukan pemeriksaan akurasi, jadi jika sumber data yang dipilih berisi informasi yang tidak akurat, sumber data tersebut dapat ditampilkan kepada pengguna agen Anda. Kami menerapkan mitigasi untuk menyaring respons yang tidak relevan dan menyinggung, dan fitur ini dirancang untuk tidak merespons saat bahasa yang menyinggung terdeteksi. Filter dan mitigasi ini tidak sangat mudah.
Catatan
Anda harus selalu menguji dan meninjau agen Anda sebelum menerbitkannya, dan mempertimbangkan untuk mengumpulkan umpan balik dari pengguna agen Anda. Admin Anda dapat menonaktifkan kemampuan untuk menerbitkan agen dengan jawaban generatif untuk penyewa Anda di Power Platform pusat admin.
Data apa yang dikumpulkan oleh kemampuan? Bagaimana data digunakan?
Jika pelanggan secara eksplisit menyetujui percakapan mereka dengan agen Anda dicatat, kemampuan tersebut mengumpulkan perintah pengguna, respons yang dikembalikan oleh sistem, dan umpan balik apa pun yang Anda berikan.
Kami menggunakan data ini untuk mengevaluasi dan meningkatkan kualitas kemampuan.
Faktor dan pengaturan operasional apa yang memungkinkan penggunaan jawaban generatif yang efektif dan bertanggung jawab?
Jawaban generatif bekerja paling baik ketika Anda menunjuk sumber tepercaya dan valid dari mana konten harus ditanyakan. Sumber ini mungkin situs web perusahaan Anda, misalnya# www.microsoft.com. Semua halaman web yang termasuk dalam domain ini akan dicari untuk kecocokan dengan pertanyaan pengguna.
Kami menggunakan umpan balik yang Anda berikan atas kepuasan Anda dengan tanggapan yang dihasilkan untuk meningkatkan kualitas sistem. Anda dapat memberikan umpan balik dengan memilih ikon jempol ke atas atau jempol ke bawah untuk respons yang dihasilkan. Anda juga dapat menyertakan lebih banyak umpan balik dalam teks bebas.
Perlindungan apa yang ada di dalam AI Copilot Studio yang bertanggung jawab?
Jawaban generatif mencakup berbagai perlindungan untuk memastikan admin, pembuat, dan pengguna menikmati pengalaman yang aman dan patuh. Admin memiliki kontrol penuh atas fitur di penyewa mereka dan selalu dapat menonaktifkan kemampuan untuk menerbitkan agen dengan jawaban generatif di organisasi Anda. Pembuat dapat menambahkan instruksi khusus untuk memengaruhi jenis respons yang dikembalikan agen mereka. Untuk informasi selengkapnya tentang praktik terbaik untuk menulis instruksi kustom, lihat Menggunakan modifikasi prompt untuk memberikan instruksi kustom kepada agen Anda.
Pembuat juga dapat membatasi sumber pengetahuan yang dapat digunakan agen untuk menjawab pertanyaan. Untuk memungkinkan agen menjawab pertanyaan di luar cakupan sumber pengetahuan yang dikonfigurasi, pembuat dapat mengaktifkan fitur Pengetahuan Umum AI. Untuk membatasi agen agar hanya menjawab pertanyaan ke cakupan sumber pengetahuan yang dikonfigurasi, pembuat harus menonaktifkan fitur ini.
Copilot Studio juga menerapkan kebijakan moderasi konten pada semua permintaan AI generatif untuk melindungi admin, pembuat, dan pengguna dari konten yang menyinggung atau berbahaya. Kebijakan moderasi konten ini juga mencakup upaya berbahaya dalam jailbreaking, injeksi cepat, eksfiltrasi cepat, dan pelanggaran hak cipta. Semua konten diperiksa dua kali: pertama selama input pengguna dan lagi saat agen akan merespons. Jika sistem menemukan konten berbahaya, menyinggung, atau berbahaya, agen Anda tidak merespons.
Terakhir, ini adalah praktik terbaik untuk mengomunikasikan kepada pengguna bahwa agen menggunakan kecerdasan buatan, oleh karena itu pesan default berikut memberi tahu pengguna: "Agar Anda sadar, saya terkadang menggunakan AI untuk menjawab pertanyaan Anda."