Vanlige spørsmål om generative svar
Disse vanlige spørsmålene beskriver hvordan kunstig intelligens virker inn på funksjonen for generative svar i Copilot Studio.
Hva er generative svar?
Generative svar gjør agenten din verdifull rett ut av esken og øker antall emner agenten din er samtalepartner i, uten å kreve manuell dialogtreredigering.
Hva er funksjonene for generative svar?
Når en bruker stiller agenten et spørsmål som ikke utløser et konfigurert emne, kan agenten eventuelt søke etter relevant innhold fra en kilde du velger. Dette søket inkluderer offentlige nettsteder SharePoint eller dine egne tilpassede datakilder, inkludert ikke-tekstelementer i opplastede filer, for eksempel bilder, tabelldata og diagrammer. Agenten bruker generativ kunstig intelligens til å oppsummere denne informasjonen i et svar som returneres til agentbrukeren.
Hva er generative svar ment å brukes til?
Generative svar kan brukes som primære informasjonskilder i agenten, eller som reserve når emner ikke kan løse en brukers forespørsel.
Hvordan ble generative svar evaluert, og hvilke beregninger brukes til å måle ytelsen?
Funksjonen evalueres kontinuerlig på en samling manuelt kuraterte spørsmåls- og svardatasett som dekker flere bransjer. Ytterligere evaluering utføres over egendefinerte datasett for skadelige og ondsinnede spørsmål og svar, både gjennom automatiske og dedikerte manuelle økter som er utformet for å utvide testpakken.
Hva er begrensningene for generative svar?
Du må aktivere alternativet for generative svar for hver agent.
Se Språkstøtte for å se listen over språk som støttes av denne funksjonen og de respektive trinnene. Du kan kanskje bruke andre språk, men svarene som genereres, kan være inkonsekvente, og agenten svarer kanskje ikke riktig eller som forventet.
Denne funksjonen kan være underlagt bruksbegrensninger eller kapasitetsbegrensning.
Svar som genereres av funksjonen generative svar , er ikke alltid perfekte, og de kan inneholde feil.
Systemet er utformet for å spørre om kunnskap fra nettstsedet du velger, og for å pakke inn relevante funn i et lettfattelig svar. Det er imidlertid viktig å huske på noen av egenskapene til kunstig intelligens som kan føre til uventede svar:
Settet som modellen ble trent på, inkluderer ikke data opprettet etter 2021.
Det er begrensninger for å forhindre at modellen bruker sitt treningssett som en kilde for svar, men det er mulig for svar å inkludere innhold fra andre nettsteder enn det du valgte.Systemet utfører ikke en nøyaktighetskontroll, så hvis den valgte datakilden inneholder unøyaktig informasjon, kan den vises til brukerne av agenten. Vi har implementert tiltak for å filtrere ut irrelevante og støtende svar, og funksjonen er utformet for ikke å svare når støtende språk oppdages. Disse filtrene og løsningene er ikke idiotsikre.
Notat
Du bør alltid teste og gjennomgå agentene dine før du publiserer dem, og vurdere å samle inn tilbakemeldinger fra agentens brukere. Administratoren kan deaktivere muligheten til å publisere agenter med generative svar for leieren din i Power Platform-administrasjonssenteret.
Hvilke data samler funksjonen inn? Hvordan brukes dataene?
Hvis en kunde uttrykkelig samtykker i at samtalen med agenten din loggføres, samler funksjonen inn brukermeldinger, svarene som returneres av systemet, og eventuelle tilbakemeldinger du gir.
Vi bruker disse dataene til å evaluere og forbedre kvaliteten på funksjonen.
Hvilke driftsfaktorer og innstillinger gjør at det går an å bruke generative svar på en effektiv og ansvarlig måte?
Generative svar fungerer best når du angir en klarert og gyldig kilde som innhold skal spørres fra. Denne kilden kan være firmaets nettsted, for eksempel www.microsoft.com. Det søkes etter et treff på alle websider som tilhører dette domenet, i tillegg til brukerens spørsmål.
Vi bruker tilbakemeldingene du gir om din tilfredshet med genererte svar, til å forbedre systemkvaliteten. Du kan gi tilbakemelding ved å velge tommel opp- eller tommel ned-ikoner for generative svar. Du kan også inkludere flere tilbakemeldinger i fritekst.
Hvilke beskyttelser er på plass i Copilot Studio for ansvarlig kunstig intelligens?
Generative svar inkluderer ulike beskyttelser for å sikre at administratorer, utviklere og brukere får en trygg og kompatibel opplevelse. Administratorer har full kontroll over funksjonene i leieren og kan alltid deaktivere muligheten til å publisere agenter med generative svar i organisasjonen. Opprettere kan legge til egendefinerte instruksjoner for å påvirke svartypene agentene returnerer. Hvis du vil ha mer informasjon om gode fremgangsmåter for å skrive egendefinerte instruksjoner, kan du se Bruk spørringsmodifikasjon til å gi egendefinerte instruksjoner til agenten.
Opprettere kan også begrense kunnskapskildene som agenter kan bruke til å svare på spørsmål. Hvis du vil gjøre det mulig for agenter å svare på spørsmål utenfor omfanget av de konfigurerte kunnskapskildene, kan opprettere aktivere funksjonen Generell kunnskap om kunstig intelligens. Hvis du vil begrense agenter til bare å svare på spørsmål om omfanget av de konfigurerte kunnskapskildene, bør opprettere deaktivere denne funksjonen.
Copilot Studio bruker også policyer for innholdsmoderering på alle generative KI-forespørsler for å beskytte administratorer, utviklere og brukere mot støtende eller skadelig innhold. Disse retningslinjene for innholdsmoderering omfatter også ondsinnede forsøk på jailbreaking, spørringsinjeksjon, spørringseksfiltrering og brudd på opphavsretten. Alt innhold kontrolleres to ganger: først under brukerinndata og igjen når agenten er i ferd med å svare. Hvis systemet finner skadelig, støtende eller ondsinnet innhold, hindrer det agenten i å svare.
Til slutt er det en god praksis å kommunisere til brukerne at agenten bruker kunstig intelligens, derfor informerer følgende standardmelding brukerne: «Bare så du er klar over det, bruker jeg noen ganger kunstig intelligens for å svare på spørsmålene dine.»