Domande frequenti sulle azioni generative nei flussi cloud
Queste domande frequenti (FAQ) descrivono l'impatto sull'intelligenza artificiale delle azioni generative in Power Automate.
Cosa sono le azioni generative?
Le azioni generative sono un nuovo tipo di azione creato, testato ed eseguito tramite un runtime IA. Devi specificare solo l'intento dell'automazione e l'IA sceglie il giusto set di azioni nell'ordine corretto in base all'input, al contesto e al tuo intento.
Importante
- Questa è una funzionalità di anteprima.
- Le funzionalità di anteprima non sono destinate ad essere utilizzate per la produzione e sono soggette a restrizioni. Vengono rese disponibili prima di una versione ufficiale in modo che i clienti possano accedervi con anticipo e fornire i loro commenti.
Quali sono le capacità delle azioni generative?
Le azioni generative semplificano l'automazione riducendo la necessità di specifiche dettagliate, si adattano a scenari mutevoli utilizzando l'intelligenza artificiale e gestiscono attività complesse che comportano più passaggi e integrazioni.
Le azioni generative possono creare un piano prestabilito per l'esecuzione del flusso tramite il linguaggio naturale. Le azioni generative possono semplificare e accelerare il processo di automazione riducendo la necessità di specificare i set di azioni e di condizioni da eseguire. Vengono visualizzati input, output e azioni consigliati per completare l'attività descritta. All'utente viene quindi chiesto di convalidare questi consigli prima di eseguire le azioni generative e può apportare le modifiche necessarie.
Le azioni generative possono inoltre adattarsi a scenari e origini dati in evoluzione sfruttando le capacità di ragionamento e l'intelligenza del runtime IA. Azione generativa può orchestrare le azioni all'interno del flusso in base al ragionamento su input e documenti della Knowledge Base. Quindi esegue il piano inserendo gli input richiesti per il flusso.
Le azioni generative possono gestire attività complesse e dinamiche che coinvolgono più passaggi, condizioni, cicli, rami e integrazioni. Una volta completato, condivide le azioni eseguite e il ragionamento alla base del riempimento dei parametri.
Qual è l'uso previsto delle azioni generative?
È possibile utilizzare l'azione generativa per orchestrare in modo intelligente e le azioni di riempimento dei parametri all'interno del flusso. L'azione generativa può agire in base agli input definiti.
Come è stata valutata la funzionalità delle azioni generative? Quali metriche vengono utilizzate per misurare le prestazioni?
La qualità end-to-end della funzionalità delle azioni generative viene valutata in ogni passaggio del processo. La qualità viene misurata in termini di capacità del sistema di creare ed eseguire un piano che risponde correttamente alla richiesta dell'utente. Valutiamo la qualità su varie query, richieste e azioni degli utenti. Valutiamo anche la capacità del sistema di ignorare i contenuti dannosi di utenti e autori e la capacità del sistema di evitare la produzione di contenuti dannosi.
Quali sono i limiti delle azioni generative? In che modo gli utenti possono ridurre al minimo i limiti dell'azione generativa durante l'utilizzo del sistema?
Per ottenere i migliori risultati, assicurati che il prompt azione generativa includa descrizioni di alta qualità. L'azione generativa può agire solo sugli input e sul documento di riferimento forniti; per ottenere le migliori prestazioni, assicurati che il contenuto sia completo. L'azione generativa può anche orchestrare solo le azioni definite e autenticate.
Quali fattori operativi e impostazioni consentono un uso efficace e responsabile delle azioni generative?
La funzionalità di azioni generative è attualmente solo in inglese. Una volta creata un'azione generativa, è possibile testare il sistema per verificarne le prestazioni attraverso un test. È possibile eseguire il test e attivare le azioni manualmente per comprendere come verrà eseguita l'azione generativa. È sempre possibile modificare la richiesta per cambiare il modo in cui l'azione generativa viene eseguito.
Che tipo di problemi potrebbero verificarsi quando si usano le azioni generative?
Le azioni potrebbero non funzionare sempre come previsto. Possono verificarsi errori durante la preparazione dell'input per l'azione o durante la generazione di una risposta basata sull'output dell'azione. L'azione generativa potrebbe anche richiamare l'azione sbagliata durante l'orchestrazione delle azioni fornite. Per mitigare il rischio di tali errori, assicurati di avere descrizioni di alta qualità, pertinenti e inequivocabili configurate per le azioni. Limita anche le azioni che l'azione generativa potrebbe essere in grado di usare nell'esecuzione del piano.
Quali sono le tutele previste per un'IA responsabile di Power Automate?
Sono disponibili molte funzionalità di mitigazione per proteggere i flussi. Puoi configurare l'azione generativa con un set di riferimenti e valori di input definiti all'interno del flusso. Le azioni generative non eseguono mai un'azione che non fa parte del loro piano. Le azioni generative rispettano i criteri di prevenzione della perdita di dati (DLP) delle organizzazioni. Qualsiasi azione non consentita per il flusso viene bloccata nell'azione generativa.
Inoltre, disponiamo di classificatori che esaminano l'input del sistema per rilevare contenuti dannosi e attacchi jailbreak. Secondo i nostri test, questi classificatori hanno un alto tasso di successo nel bloccare contenuti dannosi e attacchi jailbreak, mentre hanno anche un alto successo nel non bloccare contenuti non dannosi o un attacco jailbreak. Tuttavia, i classificatori non possono essere perfetti, quindi ci sono rischi che un'azione generativa produca contenuti dannosi o risponda a un attacco jailbreak. Questi rischi includono attacchi di prompt injection tra domini, in cui le istruzioni potrebbero essere aggiunte all'output di un'azione o di un'origine di conoscenza che il azione generativa tenta quindi di seguire.