Preguntas frecuentes para respuestas generativas
Estas preguntas frecuentes (FAQ) describen el efecto de IA de la característica de respuestas generativas en Copilot Studio.
¿Qué son respuestas generativas?
Las respuestas generativas hacen que su agente sea valioso desde el primer momento y aumentan la cantidad de temas en los que conversa su agente, sin necesidad de crear manualmente un árbol de diálogos.
¿Cuáles son las capacidades de respuestas generativas?
Cuando un usuario hace una pregunta al agente que no desencadena un tema configurado, el agente puede buscar opcionalmente contenido relevante de una fuente de su elección. Esta búsqueda incluye sitios web públicos, SharePoint o sus propios orígenes de datos personalizados, incluidos los elementos que no son de texto en los archivos cargados, como imágenes, datos tabulares y diagramas. El agente utiliza IA generativa para resumir esa información en una respuesta devuelta al usuario del agente.
¿Cuál es el uso previsto de las respuestas generativas?
Las respuestas generativas se pueden utilizar como orígenes de información primaria en su agente o como respaldo cuando los temas escritos no pueden abordar la consulta de un usuario.
¿Cómo se evaluaron las respuestas generativas y qué métricas se utilizan para medir su rendimiento?
La capacidad se evalúa continuamente en una colección de conjuntos de datos de preguntas y respuestas seleccionados manualmente, que cubren múltiples industrias. La evaluación posterior se realiza sobre conjuntos de datos personalizados para preguntas y respuestas ofensivas y maliciosas, mediante sesiones automatizadas y manuales específicas diseñadas para expandir el conjunto de pruebas.
¿Cuáles son las limitaciones de las respuestas generativas?
Debe habilitar la opción de respuestas generativas para cada agente.
Consulte Idiomas admitidos para obtener la lista de idiomas admitidos por esta función y su respectiva etapa. Es posible que pueda usar otros idiomas, pero las respuestas generadas podrían ser incoherentes y es posible que el agente no responda correctamente o como espera.
Esta capacidad puede estar sujeta a límites de uso o limitación de capacidad.
Las respuestas generadas por la capacidad de respuestas generativas no siempre son perfectas y pueden contener errores.
El sistema está diseñado para consultar el conocimiento del sitio web de su elección y empaquetar los hallazgos relevantes en una respuesta fácilmente consumible. Sin embargo, es importante tener en cuenta algunas características de la IA que podrían generar respuestas inesperadas:
El corpus sobre el que se entrenó el modelo no incluye datos creados después de 2021.
Existen mitigaciones para evitar que el modelo use su corpus de entrenamiento como origen de las respuestas, sin embargo es posible que las respuestas incluyan contenidos de páginas web distintas a la seleccionada.El sistema no realiza una comprobación de precisión, por lo que si el origen de datos seleccionado contiene información inexacta, podría mostrarse a los usuarios de su agente. Implementamos mitigaciones para filtrar las respuestas irrelevantes y ofensivas, y la función está diseñada para no responder cuando se detecta lenguaje ofensivo. Estos filtros y mitigaciones no son infalibles.
Nota
Siempre debes probar y revisar a tus agentes antes de publicarlos, y considerar la posibilidad de recopilar comentarios de los usuarios de tu agente. Su administrador puede usar el centro de administración de Power Platform para desactivar la capacidad de publicar agentes que usen características de IA generativa para su inquilino.
¿Qué datos recopila la capacidad? ¿Cómo se usan los datos?
Si un cliente da su consentimiento explícito para que se registre su conversación con el agente, la capacidad recopila las indicaciones del usuario, las respuestas devueltas por el sistema y cualquier comentario que proporcione.
Usaremos estos datos para evaluar y mejorar la calidad de la capacidad.
¿Qué factores operativos y configuraciones permiten un uso eficaz y responsable de respuestas generativas?
Las respuestas generativas funcionan mejor cuando se designa un origen válido y de confianza desde el que se debe consultar el contenido. Esta fuente podría ser el sitio web de su empresa, por ejemplo www.microsoft.com. Se buscarían todas las páginas web que pertenecen a este dominio para encontrar una coincidencia con la pregunta del usuario.
Utilizamos los comentarios que nos proporciona sobre su satisfacción con las respuestas generadas para mejorar la calidad del sistema. Puede proporcionar comentarios seleccionando los iconos de Me gusta o No me gusta para las respuestas generadas. También puedes incluir más comentarios en texto libre.
¿Qué protecciones existen en Copilot Studio para la IA responsable?
Las respuestas generativas incluyen varias protecciones para garantizar que los administradores, creadores y usuarios disfruten de una experiencia segura y conforme a las normas. Los administradores tienen control total sobre las características de su inquilino y siempre pueden desactivar la capacidad de publicar agentes con respuestas generativas en su organización. Los creadores pueden agregar instrucciones personalizadas para influir en los tipos de respuestas que devuelven sus agentes. Para obtener más información acerca de los procedimientos recomendados para escribir instrucciones personalizadas, consulte Usar modificación de indicaciones para proporcionar instrucciones personalizadas a su agente.
Los creadores también pueden limitar las fuentes de conocimiento que los agentes pueden utilizar para responder preguntas. Para permitir que los agentes respondan preguntas fuera del alcance de sus fuentes de conocimiento configuradas, los creadores pueden activar la característica Conocimiento general de IA. Para limitar a los agentes a responder solo preguntas en el ámbito de sus fuentes de conocimiento configuradas, los creadores deben desactivar esta característica.
Copilot Studio también aplica políticas de moderación de contenido en todas las solicitudes de IA generativa para proteger a los administradores, creadores y usuarios contra contenido ofensivo o dañino. Estas directivas de moderación de contenido también se extienden a los intentos maliciosos de liberación, inyección de avisos, exfiltración de avisos e infracción de derechos de autor. Todo el contenido se comprueba dos veces: primero durante la entrada del usuario y de nuevo cuando el agente está a punto de responder. Si el sistema encuentra contenido dañino, ofensivo o malintencionado, impide que el agente responda.
Por último, se recomienda comunicar a los usuarios que el agente utiliza inteligencia artificial, por lo que el siguiente mensaje predeterminado informa a los usuarios: "Solo para que lo tenga en cuenta, a veces utilizo IA para responder a sus preguntas".