Veelgestelde vragen over generatieve antwoorden
Deze veelgestelde vragen (FAQ) beschrijven het effect van AI van de functie voor generatieve antwoorden in Copilot Studio.
Wat zijn generatieve antwoorden?
Generatieve antwoorden maken uw agent direct waardevol en vergroten het aantal onderwerpen waarover uw agent gesprekken voert, zonder dat er handmatig een dialoogboom hoeft te worden opgesteld.
Wat zijn de mogelijkheden van generatieve antwoorden?
Wanneer een gebruiker de agent een vraag stelt die geen geconfigureerd onderwerp activeert, kan de agent optioneel zoeken naar relevante content uit een bron van uw keuze. Deze zoekopdracht omvat openbare websites, SharePoint of uw eigen aangepaste gegevensbronnen, inclusief niet-tekstuele elementen in geüploade bestanden, zoals afbeeldingen, tabelgegevens en diagrammen. De agent gebruikt generatieve AI om die informatie samen te vatten in een antwoord dat naar de agentgebruiker wordt teruggestuurd.
Wat is het beoogde gebruik van generatieve antwoorden?
Generatieve antwoorden kunnen worden gebruikt als primaire informatiebronnen in uw agent of als alternatieve optie wanneer de vraag van een gebruiker niet kan worden beantwoord met geschreven onderwerpen.
Hoe werden generatieve antwoorden geëvalueerd en welke statistieken worden gebruikt om de prestaties te meten?
De mogelijkheid wordt voortdurend geëvalueerd op basis van een verzameling handmatig samengestelde vraag-en-antwoord-datasets, die meerdere sectoren bestrijken. Verdere evaluatie wordt uitgevoerd op aangepaste datasets voor aanstootgevende en schadelijke aanwijzingen en reacties, via zowel geautomatiseerde als speciale handmatige sessies die zijn ontworpen om het testpakket uit te breiden.
Wat zijn de beperkingen van generatieve antwoorden?
U moet de optie generatieve antwoorden voor elke agent inschakelen.
Zie Taalondersteuning voor de lijst met ondersteunde talen op basis van deze functie en de respectieve fase. U kunt wellicht andere talen gebruiken, maar de gegenereerde antwoorden zijn mogelijk inconsistent en de agent reageert mogelijk niet correct of zoals u verwacht.
Deze mogelijkheid kan onderworpen zijn aan gebruikslimieten of capaciteitsbeperking.
Reacties die worden gegenereerd door de mogelijkheid voor generatieve antwoorden zijn niet altijd perfect en kunnen fouten bevatten.
Het systeem is ontworpen om kennis van de website van uw keuze op te vragen en relevante bevindingen te verpakken in een goed behapbare reactie. Het is echter belangrijk om rekening te houden met een aantal kenmerken van de AI die tot onverwachte reacties kunnen leiden:
Het corpus waarop het model is getraind, bevat geen gegevens die na 2021 zijn gemaakt.
Er zijn oplossingen om te voorkomen dat het model zijn trainingscorpus gebruikt als bron voor antwoorden, maar het is mogelijk dat antwoorden inhoud bevatten van andere websites dan de website die u hebt geselecteerd.Het systeem voert geen nauwkeurigheidscontrole uit. Als de geselecteerde gegevensbron onjuiste informatie bevat, kan deze aan gebruikers van uw agent worden getoond. We hebben maatregelen geïmplementeerd om irrelevante en aanstootgevende reacties eruit te filteren. De functie is zo ontworpen dat deze niet reageert wanneer aanstootgevende taal wordt gedetecteerd. Deze filters en oplossingen zijn niet waterdicht.
Notitie
U moet uw agents altijd testen en beoordelen voordat u ze publiceert. Overweeg ook om feedback te verzamelen van de gebruikers van uw agents. Uw beheerder kan in het Power Platform-beheercentrum de mogelijkheid uitschakelen om agenten met generatieve antwoorden te publiceren.
Welke gegevens worden door de mogelijkheid verzameld? Hoe worden de gegevens gebruikt?
Als een klant expliciet toestemming geeft om het gesprek met uw agent te registreren, worden de gebruikersvragen, de door het systeem geretourneerde antwoorden en alle feedback die u geeft, verzameld.
We gebruiken deze gegevens om de kwaliteit van de mogelijkheid te beoordelen en te verbeteren.
Welke operationele factoren en instellingen maken een effectief en verantwoordelijk gebruik van generatieve antwoorden mogelijk?
Generatieve antwoorden werken het beste wanneer u een vertrouwde en geldige bron aanwijst waaruit de inhoud moet worden opgevraagd. Deze bron kan bijvoorbeeld de website van uw bedrijf zijn: www.microsoft.com. Alle webpagina's die tot dit domein behoren, worden doorzocht op een match met de vraag van de gebruiker.
Wij gebruiken de feedback die u geeft over uw tevredenheid met de gegenereerde reacties om de kwaliteit van het systeem te verbeteren. U kunt feedback geven door de pictogrammen duim omhoog of duim omlaag te selecteren voor gegenereerde antwoorden. U kunt ook meer feedback in vrije tekst opnemen.
Welke beschermingsmaatregelen zijn er binnen Copilot Studio voor verantwoorde AI?
Generatieve antwoorden bevatten verschillende beschermingsmaatregelen om ervoor te zorgen dat beheerders, makers en gebruikers een veilige, conforme ervaring hebben. Beheerders hebben volledige controle over de functies in hun tenant en kunnen altijd de mogelijkheid uitschakelen om agenten met generatieve antwoorden te publiceren in uw organisatie. Makers kunnen aangepaste instructies toevoegen om het type reacties te beïnvloeden dat hun agenten terugsturen. Zie voor meer informatie over best practices voor het schrijven van aangepaste instructies Promptaanpassing gebruiken om aangepaste instructies te geven aan uw agent.
Makers kunnen ook de kennisbronnen beperken die agenten kunnen gebruiken om vragen te beantwoorden. Om agenten in staat te stellen vragen te beantwoorden die buiten het bereik van hun geconfigureerde kennisbronnen vallen, kunnen makers de functie Algemene AI-kennis inschakelen. Om ervoor te zorgen dat agenten alleen vragen beantwoorden die binnen het bereik van hun geconfigureerde kennisbronnen vallen, moeten makers deze functie uitschakelen.
Copilot Studio past ook beleidsregels voor inhoudsmoderatie toe op alle generatieve AI-verzoeken om beheerders, makers en gebruikers te beschermen tegen aanstootgevende of schadelijke content. Deze beleidsregels voor contentmoderatie gelden ook voor kwaadaardige pogingen tot jailbreaking, promptinjecties, promptexfiltratie en inbreuk op het auteursrecht. Alle inhoud wordt twee keer gecontroleerd: eerst tijdens de invoer door de gebruiker en nog een keer wanneer de agent op het punt staat te reageren. Als het systeem schadelijke, aanstootgevende of kwaadaardige inhoud vindt, voorkomt het dat uw agent reageert.
Tot slot is het een goede gewoonte om gebruikers te laten weten dat de agent gebruikmaakt van kunstmatige intelligentie. Daarom wordt gebruikers in het volgende standaardbericht geïnformeerd: "Ter informatie: ik gebruik soms AI om uw vragen te beantwoorden."