Вопросы и ответы о генеративных действиях в облачных потоках

В этих часто задаваемых вопросах (FAQ) описывается влияние ИИ функции генеративных действий в Power Automate.

Что такое генеративные действия?

Генеративные действия — это новый тип действий, которые создаются, тестируются и выполняются с помощью среды выполнения ИИ. Вы указываете только цель автоматизации, а ИИ выбирает правильный набор действий в правильном порядке на основе ваших входных данных, контекста и намерения.

Каковы возможности генеративных действий?

Генеративные действия упрощают автоматизацию, снижая потребность в подробных спецификациях, адаптируются к изменяющимся сценариям с помощью аналитики ИИ и справляются со сложными задачами, включающими несколько шагов и интеграций.

• Генеративные действия могут создавать заданный план выполнения потока с помощью естественного языка. Генеративные действия могут упростить и ускорить процесс автоматизации, уменьшая необходимость в указании условий и наборов действий для выполнения. Они отображают рекомендуемые входные и выходные данные и действия для выполнения описанной задачи. Затем пользователю предлагается проверить эти рекомендации перед выполнением генеративных действий, и он может внести необходимые изменения.

• Генеративные действия могут адаптироваться к изменяющимся сценариям и источникам данных, используя интеллектуальные и логические возможности среды выполнения ИИ. Генеративное действие может управлять действиями в потоке на основе рассуждений над входными данными и документами базы знаний. Затем он выполняет план, заполняя необходимые входные данные для потока.

• Генеративные действия могут обрабатывать сложные и динамические задачи, включающие несколько шагов, условий, циклов, ветвей и интеграций. После завершения он предоставляет информацию о выполненных действиях и причинах, лежащих в основе заполнения параметров.

Для чего предназначены генеративные действия?

Вы можете использовать генеративное действие для интеллектуальной оркестрации и заполнения параметров действий в потоке. генеративное действие может действовать на основе определенных входных данных.

Как оценивалась функция генеративных действий? Какие метрики используются для измерения ее производительности?

Функция генеративных действий оценивается на предмет сквозного качества на каждом шаге процесса. Качество измеряется с точки зрения того, насколько хорошо система создает и выполняет план, который успешно отвечает на запрос пользователя. Мы оцениваем качество по различным запросам, подсказкам и действиям пользователей. Мы также оцениваем, насколько хорошо система игнорирует вредоносный контент от пользователей и авторов, а также насколько хорошо система избегает создания вредоносного контента.

Каковы ограничения генеративных действий? Как пользователи могут минимизировать влияние ограничений генеративных действий при использовании системы?

Для получения наилучших результатов убедитесь, что ваш запрос генеративного действия содержит качественные описания. Генеративное действие может действовать только на указанные входные данные и справочный документ, убедитесь, что содержимое является полным для наилучшей производительности. Генеративное действие также могут управлять только теми действиями, которые были определены и аутентифицированы.

Какие рабочие факторы и настройки позволяют эффективно и ответственно использовать генеративные действия?

Функция генеративных действий в настоящее время доступна только на английском языке. Создав генеративное действие, вы можете протестировать систему, чтобы увидеть, насколько хорошо оно работает, используя тестирование. Вы можете выполнить тест и вручную запустить действия, чтобы понять, как будет работать ваше генеративное действие. Вы всегда можете отредактировать или изменить запрос, чтобы изменить способ выполнения генеративного действия.

Какие проблемы могут возникнуть при использовании генеративных действий?

Действия могут не всегда работать так, как задумано. Ошибки могут возникать при подготовке входных данных для действия или при генерации ответа на основе выходных данных действия. Генеративное действие также может вызвать неправильное действие во время оркестрации заданных действий. Чтобы снизить риск возникновения таких ошибок, убедитесь, что у вас есть качественные, релевантные и однозначные описания, настроенные для действий. Также ограничьте действия, которые генеративное действие может использовать для выполнения плана.

Какие средства защиты предусмотрены в Power Automate для ответственного применения ИИ?

Существует множество функций устранения рисков для защиты ваших потоков. Вы можете настроить генеративное действие с помощью набора ссылок и входных значений, определенных в облаке. Генеративные действия никогда не выполняют действия, которые не являются частью их плана. Генеративные действия соответствуют политике организации по защите от потери данных (DLP). Любое запрещенное действие для облака блокируется в генеративном действии.

Кроме того, у нас есть классификаторы, которые анализируют входные данные в системе для обнаружения вредоносного контента и джейлбрейк-атак. Согласно нашим тестам, эти классификаторы имеют высокий уровень успеха в блокировке вредоносного контента и джейлбрейк-атак, а также в том, что они не блокируют контент, который не является вредным, или не является джейлбрейк-атакой. Однако классификаторы не могут быть идеальными, поэтому существует риск того, что генеративное действие создаст вредоносный контент или отреагирует на джейлбрейк-атаку. К таким рискам относятся междоменные атаки с внедрением запросов, когда инструкции могут быть добавлены в выходные данные действия или источника знаний, которым затем пытается следовать генеративное действие.

Дополнительные сведения

Создание генеративных действий в облачных потоках (предварительная версия)