生成型の回答に関するよくあるご質問
これらのよくある質問 (FAQ) は、Copilot Studio の生成回答機能の AI への影響について説明しています。
生成型回答とは？
生成型の回答により、エージェントはすぐに使える価値あるものになり 手動でダイアログ ツリーを作成することなく、エージェントが会話するトピックの数が増えます。
生成型回答とは何ですか？
設定されたトピックをトリガーしない質問をユーザーがエージェントにした場合、エージェントはオプションで、選択したソースから関連するコンテンツを検索できます。 この検索には、一般向け Web サイト、SharePoint、または独自のカスタム データ ソース (画像、表形式データ、図など、アップロードされたファイル内のテキスト以外の要素を含む) が含まれます。 エージェントは生成型 AI を使用して、その情報をエージェント ユーザーに返される応答に要約します。
生成型回答の目的とは？
生成型の回答は、エージェントの主要な情報ソースとして、または作成されたトピックがユーザーのクエリに対処できない場合のフォールバックとして使用できます。
生成型回答はどのようにテストされましたか? また、そのパフォーマンスを測定するためにどのような指標が使用されましたか?
この機能は、複数の業界をカバーする手動で厳選された質問と回答のデータセットのコレクションに基づいて継続的に評価されます。 さらなる評価は、攻撃的で悪意のあるプロンプトと応答について、テスト スイートを拡張するために設計された自動セッションと専用の手動セッションを通じて、カスタム データセットに対して実行されます。
生成型回答にはどのような制限がありますか？
エージェントごとに 生成型回答 オプションを有効にする必要があります。
この機能でのサポート言語のリストとそれぞれのステージについては、サポート言語セクションを参照してください。 他の言語を使用できる場合でも、生成される回答に一貫性がなく、エージェントが適切に応答しない、または期待どおりに応答しない可能性があります。
この機能は、使用制限または容量帯域幅調整の対象となる場合があります。
生成型会話 機能によって生成される応答は、必ずしも完璧ではなく、間違いを含む可能性があります。
このシステムは、選択した Web サイトからサポート情報を照会し、関連する検索結果を使いやすい応答にパッケージ化するように設計されています。 ただし、予期しない応答につながる可能性のある AI の特性に留意することが重要です。
モデルがトレーニングされたコーパスには、2021 年より後に作成されたデータは含まれていません。
モデルがトレーニング コーパスを回答のソースとして使用することを防ぐための緩和策はありますが、選択した Web サイト以外の Web サイトのコンテンツが回答に含まれる可能性があります。システムは精度チェックを実行しないため、選択したデータソースに不正確な情報が含まれている場合、エージェントのユーザーに表示される可能性があります。 無関係で不快な反応を フィルター する緩和策を実装し、この機能は不快な言葉が検出されたときに応答しないように設計されています。 これらのフィルターと緩和策は、完全なものではありません。
注意
エージェントを公開する前に必ずエージェントをテストして確認し、エージェントのユーザーからフィードバックを収集することを検討する必要があります。 管理者は、Power Platform 管理センターを使用して、テナントの 生成 AI 機能を使用するエージェントの公開機能をオフにする ことができます。
この機能はどのようなデータを収集しますか? データはどのように使用されますか?
顧客がエージェントとの会話をログに記録することに明示的に同意した場合、この機能はユーザーのプロンプト、システムから返された応答、および提供されたフィードバックを収集します。
このデータは、機能の品質評価と改善のために活用させていただきます。
生成型回答を効果的かつ責任を持って使用するためには、どのような運用要因や設定が必要ですか？
生成型の回答は、コンテンツのクエリ元となる信頼できる有効なソースを指定する場合に最適です。 このソースは、会社の Web サイト (例 www.microsoft.com) である可能性があります。 このドメインに属するすべての Web ページで、ユーザーの質問と一致するものが検索されます。
生成された回答に対する満足度に関するフィードバックは、システム品質の向上に役立てられます。 生成された応答に対して「賛成」または「反対」のアイコンを選択することで、フィードバックを提供できます。 自由テキストにさらに多くのフィードバックを含めることもできます。
Copilot Studio では、責任あるAIのためにどのような保護策が講じられていますか？
生成型の回答には、管理者、作成者、ユーザーがコンプライアンスに準拠した安全なエクスペリエンスを享受できるようにするためのさまざまな保護機能が含まれています。 管理者は、テナント内の機能について完全に制御することができ、組織内で生成応答機能を持つエージェントを常に無効にすることができます。 作成者は、カスタム指示を追加して、エージェントが返す応答の種類に影響を与えることができます。 カスタム手順を記述するためのベストプラクティスの詳細については、プロンプトの変更を使用してエージェントにカスタム指示を提供するを参照してください。
作成者は、エージェントが質問に答えるために使用できるナレッジ ソースを制限することもできます。 エージェントが構成されたナレッジ ソースの範囲外の質問に回答できるようにするために、作成者は AI の一般ナレッジ 機能をオンにすることができます。 エージェントが構成されたナレッジ ソースの範囲の質問にのみ回答するように制限するには、作成者はこの機能をオフにする必要があります。
Copilot Studio はまた、すべての生成 AI 要求にコンテンツ モデレーション ポリシーを適用して、攻撃的または有害なコンテンツから管理者、作成者、ユーザーを保護します。 これらのコンテンツモデレーションポリシーは、ジェイルブレイク、プロンプトインジェクション、プロンプト流出、著作権侵害などの悪意のある試みにも及びます。 すべてのコンテンツは 2 回チェックされます (1 回目はユーザー入力時、もう 1 回目はエージェントが応答しようとしているとき)。 システムが有害、攻撃的、または悪意のあるコンテンツを検出すると、エージェントからの応答が防止されます。
最後に、エージェントが人工知能を使用していることをユーザーに伝えることがベストプラクティスです。そのため、以下の既定のメッセージをユーザーに通知します: 「念のためお伝えしますが、私は AI を使用して質問に答えることがあります。」