Nejčastější dotazy ke generativním odpovědím
Tyto často kladené otázky (FAQ) popisují efekt AI ve funkci generativních odpovědí v nástroji Copilot Studio.
Co jsou generativní odpovědi?
Díky generativním odpovědím je váš agent použitelný ihned z výroby a zvyšují počet témat, ve kterých váš agent konverzuje, aniž by bylo nutné ručně vytvářet dialogové stromy.
Co jsou funkce generativních odpovědí?
Když se uživatel zeptá agenta na otázku, která neaktivuje nakonfigurované téma, může agent volitelně vyhledat relevantní obsah ze zdroje podle vašeho výběru. Toto hledání zahrnuje veřejné webové stránky SharePoint nebo vlastní zdroje dat, včetně netextových prvků v nahraných souborech, jako jsou obrázky, tabulková data a schémata. Agent pomocí generativní AI shrnuje tyto informace do odpovědi vrácené uživateli agenta.
Jaké je zamýšlené použití generativních odpovědí?
Generativní odpovědi lze použít jako primární zdroje informací ve vašem agentovi nebo jako záložní v případě, že vytvořená témata nemohou odpovědět na dotaz uživatele.
Jak byly hodnoceny generativní odpovědi a jaké metriky se používají k měření jejího výkonu?
Tato funkce je neustále vyhodnocována na základě kolekce ručně kurátorovaných datových sad otázek a odpovědí, které pokrývají různá odvětví. Další vyhodnocení se provádí přes vlastní datové sady pro urážlivé a škodlivé výzvy a odpovědi, a to jak automaticky, tak prostřednictvím vyhrazených ručních relací navržených pro rozšíření testovací sady.
Jaká jsou omezení generativních odpovědí?
Pro každého agenta je nutné povolit možnost generativních odpovědí.
Seznam podporovaných jazyků podle této funkce a jejich příslušné fáze naleznete v části Podpora jazyků. Je možné, že budete moci používat jiné jazyky, ale vygenerované odpovědi mohou být nekonzistentní a agent nemusí reagovat správně nebo podle očekávání.
Tato funkce může podléhat omezením využití nebo kapacity.
Odpovědi generované funkcí generativních odpovědí nejsou vždy dokonalé a mohou obsahovat chyby.
Systém je navržen tak, aby se dotazoval na znalosti z webové stránky dle vašeho výběru a přepracoval relevantní zjištění do snadno použitelné odpovědi. Je však důležité mít na paměti některé vlastnosti AI, které mohou vést k neočekávaným reakcím:
Korpus, na kterém byl model trénován, nezahrnuje data vytvořená po roce 2021.
Existují zmírnění, která zabraňují modelu používat svůj cvičný korpus jako zdroj odpovědí, je však možné, aby odpovědi zahrnovaly obsah z jiných webových stránek, než které jste vybrali.Systém neprovádí kontrolu přesnosti, takže pokud vybraný zdroj dat obsahuje nepřesné informace, může se zobrazit uživatelům vašeho agenta. Implementovali jsme zmírnění rizik, abychom odfiltrovali irelevantní a urážlivé odpovědi, a tato funkce je navržená tak, aby nereagovala na zjištění urážlivého jazyka. Tyto filtry a zmírnění nejsou spolehlivé.
Poznámka:
Před publikováním byste měli agenty vždy otestovat a zkontrolovat a zvážit shromažďování zpětné vazby od uživatelů agenta. Správce může v centru pro správu Power Platform vypnout možnost publikovat agenty s generativními odpověďmi pro vašeho klienta.
Jaká data tato schopnost shromažďuje? Jak jsou tato data používána?
Pokud zákazník výslovně souhlasí s protokolováním konverzace s vaším agentem, funkce shromažďuje výzvy uživatelů, odpovědi vrácené systémem a veškerou zpětnou vazbu, kterou poskytnete.
Tyto údaje používáme k hodnocení a zlepšování kvality schopnosti.
Jaké provozní faktory a nastavení umožňují efektivní a odpovědné využívání generativních odpovědí?
Generativní odpovědi fungují nejlépe, když stanovíte důvěryhodný a platný zdroj, ze kterého by měl být obsah dotazován. Tímto zdrojem může být web vaší společnosti, jako je www.microsoft.com. Všechny webové stránky, které patří do této domény, budou prohledány, aby odpovídaly dotazu uživatele.
Zpětnou vazbu, kterou nám poskytnete ohledně vaší spokojenosti s generovanými odpověďmi, používáme ke zlepšení kvality systému. Názory na generativní odpovědi můžete poskytnout výběrem ikon palec nahoru nebo palec dolů. Do volného textu můžete také zahrnout další názory.
Jaká ochranná opatření platí v Copilot Studio pro zodpovědnou umělou inteligenci?
Generativní odpovědi zahrnují různé ochrany, které správcům, tvůrcům a uživatelům zajišťují bezpečné prostředí v souladu s předpisy. Správci mají úplnou kontrolu nad funkcemi ve svém klientovi a můžou kdykoli vypnout možnost publikování agentů s generativními odpověďmi ve vaší organizaci. Tvůrci mohou přidat vlastní pokyny, aby ovlivnili typy odpovědí, které jejich agenti vracejí. Další informace o osvědčených postupech pro psaní vlastních pokynů najdete v tématu Použití modifikace výzvy k poskytnutí vlastních pokynů agentovi.
Tvůrci mohou také omezit zdroje znalostí, které mohou agenti použít k zodpovězení otázek. Aby mohli agenti odpovídat na otázky mimo rozsah jejich nakonfigurovaných zdrojů znalostí, mohou tvůrci zapnout funkci Obecné znalosti AI. Chcete-li omezit agenty tak, aby odpovídali pouze na otázky v rozsahu jejich nakonfigurovaných zdrojů znalostí, měli by tvůrci tuto funkci vypnout.
U všech požadavků generativní umělé inteligence Copilot Studio také uplatňuje zásady moderování obsahu, aby chránil správce, tvůrce a uživatele před urážlivým nebo škodlivým obsahem. Tyto zásady moderování obsahu se vztahují také na škodlivé pokusy o prolomení zabezpečení, injekci výzev, exfiltraci výzev a porušování autorských práv. Veškerý obsah je kontrolován dvakrát: poprvé během vstupu uživatele a znovu, když se agent chystá odpovědět. Pokud systém najde škodlivý, urážlivý nebo záludný obsah, zabrání vašemu agentovi v reakci.
A konečně, osvědčeným postupem je sdělit uživatelům, že agent používá umělou inteligenci, proto uživatele informuje následující výchozí zpráva: "Jen abyste věděli, někdy používám umělou inteligenci k zodpovězení vašich otázek."