생성형 답변 관련 FAQ
이 FAQ(자주 묻는 질문)는 Copilot Studio의 생성형 답변 기능이 AI에 미치는 영향에 대해 설명합니다.
생성형 답변이란 무엇입니까?
생성형 답변은 에이전트를 즉시 가치 있게 만들고 수동 대화 트리를 작성할 필요 없이 에이전트가 대화할 수 있는 토픽의 수를 늘립니다.
생성형 답변의 기능은 무엇입니까?
사용자가 구성된 주제를 트리거하지 않는 질문을 상담원에게 하면 상담원은 선택적으로 선택한 소스에서 관련 콘텐츠를 검색할 수 있습니다. 이 검색에는 공개 웹 사이트, SharePoint 또는 업로드된 파일의 텍스트가 아닌 요소(예: 이미지, 표 형식 데이터 및 다이어그램)를 포함한 사용자 지정 데이터 원본이 포함됩니다. 에이전트는 생성형 AI를 사용하여 해당 정보를 에이전트 사용자에게 반환되는 응답으로 요약합니다.
생성형 답변의 용도는 무엇입니까?
생성형 답변은 에이전트의 기본 정보 소스로 사용하거나 작성된 주제가 사용자의 쿼리를 처리할 수 없는 경우 대체로 사용할 수 있습니다.
생성형 답변은 어떻게 평가되었으며 성과를 측정하는 데 어떤 지표가 사용됩니까?
이 기능은 여러 산업을 포괄하는 수동으로 선별된 질문 및 답변 데이터 세트 모음을 통해 지속적으로 평가됩니다. 테스트 제품군을 확장하도록 설계된 자동화 및 전용 수동 세션을 통해 공격적이고 악의적인 프롬프트 및 응답에 대한 사용자 지정 데이터 세트에 대한 추가 평가가 수행됩니다.
생성형 답변의 제한 사항은 무엇인가요?
각 에이전트에 대해 생성형 답변 옵션을 활성화해야 합니다.
이 기능과 해당 단계에서 지원되는 언어 목록을 보려면 언어 지원을 참조하세요. 다른 언어를 사용할 수 있지만 생성된 답변이 일관되지 않을 수 있으며 상담원이 제대로 응답하지 않거나 예상대로 응답하지 않을 수 있습니다.
이 기능에는 사용량 제한이나 용량 제한이 적용될 수 있습니다.
생성형 답변 기능에 의해 생성된 응답은 항상 완벽하지 않으며 실수를 포함할 수 있습니다.
이 시스템은 선택한 웹 사이트에서 지식을 쿼리하고 관련 결과를 쉽게 사용할 수 있는 응답으로 패키징하도록 설계되었습니다. 하지만 예상치 못한 반응으로 이어질 수 있는 AI의 몇 가지 특성을 명심하는 것이 중요합니다.
모델이 학습된 자료에는 2021년 이후에 생성된 데이터가 포함되지 않습니다.
모델이 학습 자료를 답변 소스로 사용하지 못하도록 하는 해결 방법이 있지만 답변에 선택한 웹 사이트가 아닌 다른 웹 사이트의 콘텐츠가 포함될 수도 있습니다.시스템은 정확성 검사를 수행하지 않으므로 선택한 데이터 소스에 부정확한 정보가 포함되어 있으면 에이전트 사용자에게 표시될 수 있습니다. 관련성이 없고 공격적인 응답을 필터링하기 위해 완화 조치를 구현했으며, 이 기능은 불쾌감을 주는 언어가 감지될 때 응답하지 않도록 설계되었습니다. 이러한 필터와 해결 방법은 완벽하지 않습니다.
참고
상담원을 게시하기 전에 항상 상담원을 테스트하고 검토해야 하며, 상담원 사용자로부터 피드백을 수집하는 것이 좋습니다. 관리자는 Power Platform 관리 센터에서 테넌트에 대해 생성형 답변이 있는 에이전트를 게시하는 기능을 해제할 수 있습니다.
기능은 어떤 데이터를 수집합니까? 데이터는 어떻게 사용되나요?
고객이 에이전트와의 대화를 기록하는 데 명시적으로 동의하는 경우 이 기능은 사용자 프롬프트, 시스템에서 반환된 응답 및 사용자가 제공하는 모든 피드백을 수집합니다.
이 데이터를 사용하여 기능의 품질을 평가하고 개선합니다.
생성형 답변을 효과적이고 책임감 있게 사용할 수 있도록 하는 운영 요소 및 설정은 무엇입니까?
생성형 답변은 콘텐츠를 쿼리해야 하는 신뢰할 수 있고 유효한 소스를 지정할 때 가장 잘 작동합니다. 이 소스는 회사 웹 사이트(예: www.microsoft.com)일 수 있습니다. 이 도메인에 속하는 모든 웹페이지는 사용자의 질문과 일치하는 항목을 검색합니다.
생성된 응답에 대한 만족도에 대해 제공한 피드백은 시스템 품질을 개선하는 데 사용됩니다. 생성된 응답에 대해 좋아요 또는 싫어요 아이콘을 선택하여 피드백을 제공할 수 있습니다. 자유 텍스트로 더 많은 피드백을 포함할 수도 있습니다.
책임감 있는 AI를 위해 Copilot Studio에는 어떤 보호 장치가 마련되어 있나요?
생성형 답변에는 관리자, 제작자 및 사용자가 안전하고 규정을 준수하는 환경을 즐길 수 있도록 하는 다양한 보호 기능이 포함되어 있습니다. 관리자는 테넌트의 기능을 완벽하게 제어할 수 있으며, 조직 내에서 생성형 답변을 제공하는 에이전트를 게시하는 기능을 항상 해제할 수 있습니다. 제작자는 사용자 지정 지침을 추가하여 상담원이 반환하는 응답 유형에 영향을 줄 수 있습니다. 맞춤형 지침 작성 모범 사례에 대한 자세한 내용은 프롬프트 수정을 사용하여 에이전트에게 맞춤형 지침 제공을 참조하세요.
제작자는 에이전트가 질문에 답변하는 데 사용할 수 있는 참조 자료 원본을 제한할 수도 있습니다. 에이전트가 구성된 참조 자료 원본 범위를 벗어난 질문에 답변할 수 있도록 하려면 제작자는 AI 일반 참조 자료 기능을 켤 수 있습니다. 상담원이 구성된 지식 소스의 범위에 대한 질문에만 답변하도록 제한하려면 작성자가 이 기능을 해제해야 합니다.
또한 Copilot Studio는 모든 생성형 AI 요청에 콘텐츠 조정 정책을 적용하여 공격적이거나 유해한 콘텐츠로부터 관리자, 제작자 및 사용자를 보호합니다. 이러한 콘텐츠 조정 정책은 악의적인 탈옥 시도, 즉각적인 삽입, 즉각적인 반출 및 저작권 침해에도 확장됩니다. 모든 콘텐츠는 사용자 입력 시 첫 번째로, 그리고 에이전트가 응답하려고 할 때 다시 한 번 확인됩니다. 시스템에서 유해하거나 공격적이거나 악의적인 콘텐츠를 발견하면, 에이전트가 응답하는 것을 방지합니다.
마지막으로, 에이전트가 인공 지능을 사용한다는 것을 사용자에게 알리는 것이 가장 좋으므로 다음 기본 메시지는 사용자에게 "저는 때때로 AI를 사용해 질문에 답합니다"라고 알립니다.