FAQ sur les réponses génératives
Ces questions fréquentes (FAQ) décrivent l’effet de l’IA sur la fonctionnalité de réponses génératives dans Copilot Studio.
En quoi consistent les réponses génératives ?
Les réponses génératives rendent votre agent utile dès le début et augmentent le nombre de rubriques dans lesquelles votre agent est en conversation, sans nécessiter la création manuelle d’une arborescence de boîtes de dialogue.
Quelles sont les capacités des réponses génératives ?
Lorsqu’un utilisateur pose à l’agent une question qui ne déclenche pas de rubrique configurée, l’agent peut éventuellement rechercher du contenu pertinent à partir d’une source de votre choix. Cette recherche inclut des sites web publics, SharePoint ou vos propres sources de données personnalisées, y compris des éléments non textuels dans les fichiers chargés, tels que des images, des données tabulaires et des diagrammes. L’agent utilise l’IA générative pour résumer ces informations en une réponse renvoyée à l’utilisateur de l’agent.
Quelle est l’utilisation prévue des réponses génératives ?
Les réponses génératives peuvent être utilisées comme sources d’informations principales dans votre agent, ou comme solution de secours lorsque les rubriques créées ne parviennent pas à répondre à la requête d’un utilisateur.
Comment les réponses génératives ont-elles été évaluées et quelles mesures sont utilisées pour mesurer les performances ?
La capacité est continuellement évaluée sur une collection d’ensembles de données de questions et réponses sélectionnés manuellement, couvrant plusieurs secteurs. Une évaluation supplémentaire est effectuée sur des ensembles de données personnalisés pour les invites et réponses offensantes et malveillantes, via des sessions manuelles automatisées et dédiées conçues pour étendre la suite de tests.
Quelles sont les limitations des réponses génératives ?
Vous devez activer l’option de réponses génératives pour chaque agent.
Voir Prise en charge des langues pour connaître la liste des langues prises en charge par cette fonctionnalité et leur étape respective. Vous pouvez peut-être utiliser d’autres langues, mais les réponses générées peuvent être incohérentes et l’agent peut ne pas répondre correctement ou comme prévu.
Cette fonctionnalité pourrait être soumise à des limites d’utilisation ou à une limitation de capacité.
Les réponses générées par la fonctionnalité Réponses génératives ne sont pas toujours parfaites et peuvent contenir des erreurs.
Le système est conçu pour interroger les connaissances du site web de votre choix et pour regrouper les résultats pertinents dans une réponse facilement consommable. Cependant, il est important de garder à l’esprit certaines caractéristiques de l’IA qui pourraient générer des réponses inattendues :
Le corpus sur lequel le modèle a été formé n’inclut pas les données créées après 2021.
Il existe des mesures d’atténuation pour empêcher le modèle d’utiliser son corpus de formation comme source pour les réponses : toutefois, il est possible que les réponses incluent du contenu de sites Web autres que celui que vous avez sélectionné.Le système n’effectue pas de contrôle d’exactitude, donc si la source de données sélectionnée contient des informations inexactes, elles peuvent être montrées aux utilisateurs de votre agent. Nous avons mis en place des mesures d’atténuation pour filtrer les réponses non pertinentes et offensantes, et la fonctionnalité est conçue pour ne pas réagir lorsqu’un langage offensant est détecté. Ces filtres et mesures d’atténuation ne sont pas infaillibles.
Nonte
Vous devez toujours tester et examiner vos agents avant de les publier, et envisager de recueillir les commentaires des utilisateurs de votre agent. Votre administrateur peut désactiver la possibilité de publier des agents avec des réponses génératives pour votre client dans le centre d’administration Power Platform.
Quelles données la fonctionnalité recueille-t-elle ? Comment les données sont-elles utilisées ?
Si un client consent explicitement à ce que sa conversation avec votre agent soit enregistrée, la fonctionnalité collecte les invites de l’utilisateur, les réponses renvoyées par le système et tous les commentaires que vous fournissez.
Nous utilisons ces données afin d’évaluer et d’améliorer la qualité de la fonctionnalité.
Quels facteurs et paramètres opérationnels permettent une utilisation efficace et responsable des réponses génératives ?
Les réponses génératives fonctionnent mieux lorsque vous désignez une source fiable et valide à partir de laquelle le contenu doit être interrogé. Cette source peut être le site web de votre entreprise, par exemple www.microsoft.com. Toutes les pages Web appartenant à ce domaine sont recherchées pour trouver une correspondance avec la question de l’utilisateur.
Nous utilisons les commentaires que vous fournissez sur votre satisfaction à l’égard des réponses générées pour améliorer la qualité du système. Vous pouvez fournir des commentaires en sélectionnant les icônes de pouce vers le haut ou de pouce vers le bas pour les réponses générées. Vous pouvez également inclure davantage de commentaires sous forme de texte libre.
Quelles protections sont mises en place dans Copilot Studio pour une IA responsable ?
Les réponses génératives incluent diverses protections pour garantir que les administrateurs, les créateurs et les utilisateurs bénéficient d’une expérience sûre et conforme. Les administrateurs ont un contrôle total sur les fonctionnalités de leur client et peuvent toujours désactiver la possibilité de publier des agents avec des réponses génératives dans votre organisation. Les créateurs peuvent ajouter des instructions personnalisées pour influencer les types de réponses renvoyées par leurs agents. Pour plus d’informations sur les meilleures pratiques de rédaction d’instructions personnalisées, consultez Utiliser la modification d’invite pour fournir des instructions personnalisées à votre agent.
Les créateurs peuvent également limiter les sources de connaissances que les agents peuvent utiliser pour répondre aux questions. Pour permettre aux agents de répondre à des questions en dehors du cadre de leurs sources de connaissances configurées, les créateurs peuvent activer la fonctionnalité Connaissance générale de l’IA. Pour limiter les agents à répondre uniquement aux questions dans le cadre de leurs sources de connaissances configurées, les créateurs doivent désactiver cette fonctionnalité.
Copilot Studio applique également des stratégies de modération du contenu sur toutes les requêtes de l’IA génératrice afin de protéger les administrateurs, les créateurs et les utilisateurs contre les contenus offensants ou nuisibles. Ces stratégies de modération du contenu s’étendent également aux tentatives malveillantes de jailbreaking, à l’injection de commandes, à l’exfiltration de données et à la violation des droits d’auteur. Tout le contenu est vérifié deux fois : d’abord lors de la saisie de l’utilisateur, puis à nouveau lorsque l’agent est sur le point de répondre. Si le système détecte du contenu nuisible, offensant ou malveillant, il empêche votre agent de répondre.
Enfin, il est recommandé de communiquer aux utilisateurs que l’agent utilise l’intelligence artificielle ; par conséquent, le message par défaut suivant informe les utilisateurs : « Juste pour que vous le sachiez, j’utilise parfois l’IA pour répondre à vos questions. »