生成式回复常见问题解答
这些常见问题（FAQ）描述了 Copilot Studio 中的生成式答案功能的 AI 影响。
什么是生成式答案？
生成式答案使您的代理具有开箱即用的价值，并增加了您的代理对话的主题数量，而无需任何手动对话树创作。
生成式答案的能力是什么？
当用户向代理提出未触发配置主题的问题时，代理可以选择从您选择的来源中搜索相关内容。 这种搜索包括公共网站、SharePoint 或您自己的自定义数据源，包括上传文件中的非文本元素，如图像、表格数据和图表。 代理使用生成式 AI 将该信息汇总到返回给代理用户的回复中。
生成式答案的预期用途是什么？
生成式答案可作为代理中的主要信息来源，或者在撰写的主题无法解决用户查询时作为备用信息。
如何评估生成式答案？使用什么指标来衡量表示？
我们在一系列人工整理的问答数据集上对该功能进行了持续评估，这些数据集涵盖多个行业。 通过旨在扩展测试套件的自动和专用手动会话，对攻击性和恶意提示和回复的自定义数据集进行进一步评估。
生成式答案有哪些局限性？
您必须为每位代理启用生成式答案选项。
有关此功能支持的语言列表及其各自的阶段，请参阅语言支持。 您也许可以使用其他语言，但生成的答案可能不一致，并且代理可能无法正确响应或无法按照您的预期进行响应。
此功能可能会受到使用限制或容量限制。
生成式答案功能生成的响应并不总是完美的，并且可能包含错误。
该系统旨在从您选择的网站查询知识，并将相关发现打包成易于使用的响应。 然而，重要的是要记住 AI 的一些可能导致意外响应的特征：
训练模型所用的语料库不包括 2021 年之后创建的数据。
有一些缓解措施可以防止模型使用其训练语料库作为答案的来源，但是答案可能包含来自您选择的网站之外的网站的内容。系统不执行准确性检查，因此，如果所选数据源包含不准确的信息，则可能会向代理用户显示该数据源。 我们实施了缓解措施来过滤掉不相关和令人反感的回复，并且该功能旨在在检测到冒犯性语言时不响应。 这些筛选器和缓解措施并非万无一失。
备注
在发布代理之前，应始终对其进行测试和审查，并考虑收集代理用户的反馈。 管理员可以在 Power Platform 管理中心关闭为租户发布带有生成式答案的代理的功能。
该功能收集哪些数据？ 如何使用数据？
如果客户明确同意记录他们与代理的对话，则该功能将收集用户提示、系统返回的回复以及您提供的任何反馈。
我们使用这些数据来评估和改进此功能的质量。
哪些操作因素和设置允许有效和负责任地使用生成式答案？
当您将一个可信且有效的来源指定为应该查询其内容的来源时，生成式答案的效果最佳。 此来源可能是您公司的网站，例如 www.microsoft.com。 将在属于该域的所有网页中搜索与用户问题匹配的内容。
我们使用您提供的关于您对生成的回复的满意度的反馈来提高系统质量。 您可以选择拇指向上或拇指向下图标，为生成的回复提供反馈。 您也可以在自由文本中包含更多反馈。
Copilot Studio 对负责任的人工智能有哪些保护措施？
生成式答案包括各种保护措施，以确保管理员、制作者和用户享受安全、合规的体验。 管理员可以完全控制其租户中的功能，并可以随时关闭在您的组织中发布带有生成式答案的代理的功能。 制作者可以添加自定义说明来影响其代理返回的回复类型。 有关编写自定义指令的最佳实践的更多信息，请参阅使用提示修改为代理提供自定义指令。
制作者还可以限制代理可以用来回答问题的知识源。 为了让代理能够回答其配置知识源范围之外的问题，制作者可以打开 AI 常识功能。 要限制代理只能在其配置的知识源范围内回答问题，制作者应关闭此功能。
Copilot Studio 还对所有生成式人工智能请求应用内容审核策略，以保护管理员、制作者和用户免受攻击性或有害内容的影响。 这些内容节制策略也适用于越狱、提示注入、提示渗出和版权侵犯等恶意尝试。 所有内容都会检查两次：第一次是在用户输入期间，第二次是在代理即将响应时。 如果系统发现有害、冒犯性或恶意内容，则会阻止您的代理做出响应。
最后，最佳做法是向用户传达代理使用人工智能，因此以下默认消息通知用户：“只是为了让您知道，我有时会使用 AI 来回答您的问题。