Domande frequenti sulle risposte generative
Queste domande frequenti (FAQ) descrivono l'effetto sull'intelligenza artificiale delle risposte generative in Copilot Studio.
Cosa sono le risposte generative?
Le risposte generative rendono il tuo agente prezioso fin dall'inizio e aumentano il numero di argomenti in cui l'agente può eseguire conversazioni, senza richiedere la creazione manuale della struttura di finestre di dialogo.
Quali sono le funzionalità delle risposte generative?
Quando un utente pone all'agente una domanda che non attiva un argomento configurato, l'agente può facoltativamente cercare contenuto pertinente da una fonte di tua scelta. Questa ricerca include siti Web SharePoint pubblici oppure origini dati personalizzate, inclusi elementi non di testo nei file caricati, ad esempio immagini, dati tabulari e diagrammi. L'agente utilizza l'intelligenza artificiale generativa per riepilogare tali informazioni in una risposta restituita all'utente dell'agente.
Qual è l'uso previsto delle risposte generative?
Le risposte generative possono essere utilizzate come fonti di informazioni primarie nel tuo agente o come fallback quando gli argomenti creati non sono in grado di rispondere alla query di un utente.
Come sono state valutate le risposte generative e quali parametri vengono utilizzati per misurarne le prestazioni?
La funzionalità viene continuamente valutata su una raccolta di set di dati di domande e risposte selezionati manualmente, che coprono più settori. Viene eseguita una valutazione aggiuntiva su set di dati personalizzati per richieste e risposte offensive e dannose, sia automaticamente che tramite sessioni manuali dedicate progettate per espandere la suite di test.
Quali sono le restrizioni delle risposte generative?
Devi abilitare l'opzione risposte generative per ogni agente.
Vedi Supporto di versioni in lingue diverse per l'elenco delle lingue supportate da questa funzione e la rispettiva fase. Potresti essere in grado di utilizzare altre lingue, ma le risposte generate potrebbero essere incoerenti e l'agente potrebbe non rispondere correttamente o come previsto.
Questa funzionalità potrebbe essere soggetta a limiti di utilizzo o limitazione della larghezza di banda della rete della capacità.
Le risposte generate dalla funzionalità Risposte generative non sono sempre perfette e possono contenere errori.
Il sistema è progettato per interrogare la knowledge base dal sito Web di tua scelta e per impacchettare i risultati pertinenti in una risposta facilmente consumabile. Tuttavia, è importante tenere a mente alcune caratteristiche dell'IA che potrebbero portare a risposte inaspettate:
Il corpus su cui è stato addestrato il modello non include dati creati dopo il 2021.
Sono disponibili misure attenuanti per impedire al modello di utilizzare il proprio corpus di addestramento come fonte di risposte, tuttavia è possibile che le risposte includano contenuti provenienti da siti Web diversi da quello selezionato.Il sistema non esegue un controllo di accuratezza, quindi se l'origine dati selezionata contiene informazioni imprecise, potrebbe essere mostrata agli utenti del tuo agente. Abbiamo implementato mitigazioni per filtrare le risposte irrilevanti e offensive e la funzionalità è progettata per non rispondere quando viene rilevato un linguaggio offensivo. Questi filtri e mitigazioni non sono infallibili.
Nota
Dovresti sempre testare e rivedere i tuoi agenti prima di pubblicarli e prendere in considerazione la possibilità di raccogliere feedback dagli utenti del tuo agente. L'amministratore può disattivare la possibilità di pubblicare agenti che usano risposte generative per il tenant nell'interfaccia di amministrazione di Power Platform.
Quali dati vengono raccolti dalla funzionalità? Come vengono usati i dati?
Se un cliente acconsente esplicitamente alla registrazione della conversazione con l'agente, la funzionalità raccoglie le richieste dell'utente, le risposte restituite dal sistema e qualsiasi feedback fornito.
Usiamo questi dati per valutare e migliorare la qualità della funzionalità.
Quali fattori operativi e impostazioni consentono un uso efficace e responsabile delle risposte generative?
Le risposte generative funzionano meglio quando si designa un sito Web affidabile e valido da cui interrogare il contenuto. Questa origine potrebbe essere il sito Web della tua azienda, ad esempio www.microsoft.com. In tutte le pagine Web che appartengono a questo dominio verrà cercata una corrispondenza con la domanda dell'utente.
Utilizziamo il feedback che fornisci sulla tua soddisfazione per le risposte generate per migliorare la qualità del sistema. Puoi fornire feedback selezionando l'icona Mi piace o Non mi piace per le risposte generate. Puoi anche includere più feedback nel testo libero.
Quali sono le tutele previste in Copilot Studio per un'IA responsabile?
Le risposte generative includono varie protezioni per garantire ad amministratori, autori e utenti un'esperienza sicura e conforme. Gli amministratori hanno il controllo completo sulle funzionalità del proprio tenant e possono sempre disattivare la possibilità di pubblicare agenti con risposte generative nell'organizzazione. Gli autori possono aggiungere istruzioni personalizzate per influenzare i tipi di risposte restituite dai loro agenti. Per ulteriori informazioni sulle procedure consigliate per la scrittura di istruzioni personalizzate, consulta Utilizzare la modifica delle richieste per fornire istruzioni personalizzate all'agente.
Gli autori possono anche limitare le fonti di conoscenza che gli agenti possono utilizzare per rispondere alle domande. Per consentire agli agenti di rispondere a domande al di fuori dell'ambito delle origini della Knowledge Base configurate, gli autori possono attivare la funzionalità Conoscenza generale dell'intelligenza artificiale. Per limitare gli agenti a rispondere solo alle domande nell'ambito delle origini della conoscenza configurate, gli autori devono disattivare questa funzionalità.
Copilot Studio applica inoltre i criteri di moderazione dei contenuti a tutte le richieste dell'IA generativa per proteggere amministratori, autori e utenti da contenuti offensivi o dannosi. Questi criteri di moderazione dei contenuti si estendono anche ai tentativi dannosi di jailbreak, prompt injection, esfiltrazione di prompt e violazione del copyright. Tutti i contenuti vengono controllati due volte: la prima durante l'input dell'utente e di nuovo quando l'agente sta per rispondere. Se il sistema trova contenuti dannosi, offensivi o nocivi, impedisce all'agente di rispondere.
Infine, è buona norma comunicare agli utenti che l'agente utilizza l'intelligenza artificiale, pertanto il seguente messaggio predefinito informa gli utenti: "Solo perché tu sia consapevole, a volte uso l'intelligenza artificiale per rispondere alle tue domande".