Часто задаваемые вопросы о генеративных ответах
В этих часто задаваемых вопросах (FAQ) описывается влияние ИИ функции генеративных ответов в Copilot Studio.
Что такое генеративные ответы?
Генеративные ответы делают вашего агента полезным без какой-либо настройки и увеличивают количество тем, по которым агент общается, не требуя ручного создания дерева диалогов.
Каковы возможности генеративных ответов?
Когда пользователь задает агенту вопрос, который не активирует настроенную тему, агент может при необходимости искать релевантное содержимое из выбранного вами источника. Этот поиск включает общедоступные веб-сайты, SharePoint или ваши собственные пользовательские источники данных, включая нетекстовые элементы в отправленных файлах, такие как изображения, табличные данные и диаграммы. Агент использует генеративный ИИ для обобщения этой информации в ответ, возвращаемый пользователю агента.
Каково предполагаемое использование генеративных ответов?
Генеративные ответы можно использовать в качестве основного источника информации в агенте или в качестве резервного варианта, когда созданные темы не могут ответить на запрос пользователя.
Как оценивались генеративные ответы и какие метрики используются для измерения производительности?
Эта возможность постоянно оценивается на основе набора вручную созданных наборов данных вопросов и ответов, охватывающих различные отрасли. Далее пользовательские наборы данных оцениваются на предмет оскорбительных и вредоносных запросов и ответов — как автоматически, так и вручную в рамках сеансов, предназначенных для расширения набора тестов.
Какие ограничения генеративных ответов?
Необходимо включить для каждого агента параметр генеративных ответов.
См. раздел Поддержка языков, где приведен список поддерживаемых языков этой функцией и их соответствующих стадий. Возможно, вы сможете использовать другие языки, но сгенерированные ответы могут быть непоследовательными, и агент может ответить не так, как вы ожидаете.
На эту возможность могут распространяться ограничения на использование или регулирование емкости.
Ответы, генерируемые с использованием генеративных ответов, не всегда идеальны и могут содержать ошибки.
Cистема разработана так, чтобы находить релевантные знания на выбранном вами веб-сайте и компоновать из них легко воспринимаемый ответ. Однако важно помнить о некоторых характеристиках ИИ, которые могут привести к неожиданным ответам:
Корпус, на котором обучалась модель, не включает данные, созданные после 2021 года.
Существуют меры, позволяющие модели не использовать свой обучающий корпус в качестве источника ответов, однако ответы могут включать контент с веб-сайтов, отличных от выбранного вами.Система не выполняет проверку точности, поэтому, если выбранный источник данных содержит неточную информацию, она может быть показана пользователям вашего агента. Мы внедрили меры по устранению рисков, чтобы отфильтровать неуместные и оскорбительные ответы, и эта функция предназначена для того, чтобы не реагировать при обнаружении оскорбительных выражений. Эти фильтры и меры не являются стопроцентно надежными.
Заметка
Вы всегда должны тестировать и проверять своих агентов перед их публикацией, а также собирать отзывы от пользователей вашего агента. Ваш администратор может отключить возможность публикации агентов с генеративными ответами для вашего клиента в центре администрирования Power Platform.
Какие данные собирает эта возможность? Как эти данные используются?
Если клиент явно дает согласие на ведение журнала своего разговора с вашим агентом, эта возможность собирает запросы пользователей, ответы, возвращаемые системой, и все предоставленные вами отзывы.
Мы используем эти данные для оценки и улучшения качества работы этой возможности.
Какие рабочие факторы и настройки позволяют эффективно и ответственно использовать генеративные ответы?
Генеративные ответы работают лучше всего, когда вы назначаете надежный и действительный источник, из которого должен запрашиваться контент. Таким источником может быть веб-сайт вашей компании, например www.microsoft.com. На всех веб-страницах, относящихся к этому домену, будет осуществляться поиск информации, соответствующей запросу пользователя.
Мы используем предоставленные вами отзывы о вашей удовлетворенности сгенерированными ответами для улучшения качества системы. Вы можете предоставить отзыв, выбирая значки «палец вверх» или «палец вниз» для сгенерированных ответов. Вы также можете включить дополнительные отзывы в форме произвольного текста.
Какие средства защиты предусмотрены в Copilot Studio для ответственного применения ИИ?
Генеративные ответы включают в себя различные средства защиты, обеспечивающие администраторам, создателям и пользователям безопасную работу в соответствии с нормативными требованиями. Администраторы имеют полный контроль над функциями в своем клиенте и всегда могут отключить возможность публикации агентов с генеративными ответами в вашей организации. Создатели могут добавлять пользовательские инструкции, чтобы влиять на типы ответов, которые возвращают их агенты. Дополнительные сведения о рекомендациях по написанию пользовательских инструкций см. в разделе Использование модификации запроса для предоставления пользовательских инструкций агенту.
Создатели также могут ограничить источники знаний, которые агенты могут использовать для ответов на вопросы. Чтобы агенты могли отвечать на вопросы, выходящие за рамки настроенных источников знаний, создатели могут включить функцию Общие знания ИИ. Чтобы агенты могли отвечать только на вопросы в рамках настроенных источников знаний, создателям следует отключить эту функцию.
Copilot Studio также применяет политики модерации контента ко всем запросам к генеративному ИИ, чтобы защитить администраторов, создателей и пользователей от оскорбительного или вредоносного контента. Эти политики модерации контента также распространяются на злонамеренные попытки джейлбрейка, внедрения запросов, несанкционированных запросов и нарушения авторских прав. Все содержимое проверяется дважды: сначала при вводе данных пользователем, а затем перед тем как агент ответит. Если система обнаружит вредоносный, оскорбительный или вредоносный контент, она предотвращает ответ вашего агента.
Наконец, рекомендуется сообщать пользователям, что агент использует искусственный интеллект, поэтому следующее сообщение по умолчанию информирует пользователей: «Чтобы вы знали, я иногда использую ИИ, чтобы ответить на ваши вопросы».