@azure-rest/ai-inference package

De weergave van één promptvoltooiing als onderdeel van een algemene aanvraag voor het voltooien van chats. Over het algemeen worden n keuzes gegenereerd per opgegeven prompt met een standaardwaarde van 1. Tokenlimieten en andere instellingen kunnen het aantal gegenereerde keuzes beperken.

Een hulpprogrammaselectie van een specifiek benoemd functieprogramma waarmee chatvoltooiingen worden beperkt tot het gebruik van de benoemde functie.

Een hulpprogrammaselectie van een specifiek benoemd functieprogramma waarmee chatvoltooiingen worden beperkt tot het gebruik van de benoemde functie.

Weergave van de antwoordgegevens van een aanvraag voor het voltooien van chats. Voltooiingen ondersteunen een groot aantal taken en genereren tekst die wordt voortgezet van of voltooide promptgegevens.

Een antwoordindeling voor chatvoltooiingen waarmee reacties worden beperkt tot het verzenden van geldige JSON-objecten. Als u de JSON-modus wilt inschakelen, moet u voor sommige AI-modellen mogelijk ook het model instrueren om JSON te produceren via een systeem- of gebruikersbericht.

Een antwoordindeling voor chatvoltooiingen waarmee reacties worden beperkt tot het verzenden van geldige JSON-objecten, met een JSON-schema dat is opgegeven door de beller.

Hiermee definieert u de antwoordindeling voor chatvoltooiingen als JSON met een bepaald schema. Het AI-model moet voldoen aan dit schema bij het genereren van voltooiingen.

Vertegenwoordigt de indeling die het model moet uitvoeren. Gebruik deze optie om de JSON-modus in te schakelen in plaats van de standaardtekstmodus. Als u de JSON-modus wilt inschakelen, moet u voor sommige AI-modellen mogelijk ook het model instrueren om JSON te produceren via een systeem- of gebruikersbericht.

Een antwoordindeling voor chatvoltooiingen waarmee tekstantwoorden worden verzonden. Dit is de standaardopmaak voor antwoorden.

Een functiehulpprogramma-aanroep aangevraagd door het AI-model.

Een functiehulpprogramma-aanroep aangevraagd door het AI-model.

De definitie van een hulpprogramma voor chatvoltooiingen waarmee een functie kan worden aangeroepen.

Een gestructureerd chatinhoudsitem voor audio-inhoud die wordt doorgegeven als met base64 gecodeerde gegevens.

Een gestructureerd chatinhoudsitem voor audio-inhoud die als URL is doorgegeven.

Een abstracte weergave van een gestructureerd inhoudsitem in een chatbericht.

Een gestructureerd chatinhoudsitem met een afbeeldingsreferentie.

Een internetlocatie van waaruit het model een afbeelding kan ophalen.

De details van de invoeraudiogegevens.

De details van de audio-URL.

Een gestructureerd chatinhoudsitem met tekst zonder opmaak.

Een chatbericht aanvragen dat antwoord of actie van de assistent vertegenwoordigt.

Een chatbericht voor aanvragen met instructies voor ontwikkelaars die van invloed zijn op hoe het model een antwoord op voltooiing van chats genereert. Sommige AI-modellen ondersteunen een ontwikkelaarsbericht in plaats van een systeembericht.

Een abstracte weergave van een chatbericht zoals opgegeven in een aanvraag.

Een aanvraagchatbericht met systeeminstructies die van invloed zijn op de wijze waarop het model een antwoord op voltooiing van een chat genereert.

Een chatbericht voor aanvragen dat de aangevraagde uitvoer van een geconfigureerd hulpprogramma vertegenwoordigt.

Een chatbericht aanvragen dat gebruikersinvoer aan de assistent vertegenwoordigt.

Een weergave van een chatbericht zoals ontvangen in een antwoord.

Weergave van het aantal tokens dat is verwerkt voor een voltooiingsaanvraag. Aantallen houden rekening met alle tokens voor prompts, keuzes, keuze-alternatieven, best_of generaties en andere consumenten.

Weergave van één insluitingsvergelijking.

Weergave van de antwoordgegevens van een insluitingsaanvraag. Met insluitingen worden de gerelateerdheid van teksttekenreeksen gemeten en worden vaak gebruikt voor zoeken, clusteren, aanbevelingen en andere vergelijkbare scenario's.

Meting van de hoeveelheid tokens die in deze aanvraag en reactie worden gebruikt.

Het foutobject.

De naam en argumenten van een functie die moet worden aangeroepen, zoals gegenereerd door het model.

De naam en argumenten van een functie die moet worden aangeroepen, zoals gegenereerd door het model.

De definitie van een door een beller opgegeven functie die chatvoltooiingen kan aanroepen als reactie op overeenkomende gebruikersinvoer.

De aanvraag is voltooid.

De aanvraag is voltooid.

De aanvraag is voltooid.

De aanvraag is voltooid.

Vertegenwoordigt een afbeelding met optionele tekst.

De optionele parameters voor de client

Vertegenwoordigt enkele basisinformatie over het AI-model.

Alias voor AudioContentFormat

Vertegenwoordigt de indeling die het model moet uitvoeren. Gebruik deze optie om de JSON-modus in te schakelen in plaats van de standaardtekstmodus. Als u de JSON-modus wilt inschakelen, moet u voor sommige AI-modellen mogelijk ook het model instrueren om JSON te produceren via een systeem- of gebruikersbericht.

Alias voor ChatCompletionsToolChoicePreset

Een abstracte weergave van een gestructureerd inhoudsitem in een chatbericht.

Alias voor ChatMessageImageDetailLevel

Een abstracte weergave van een chatbericht zoals opgegeven in een aanvraag.

Alias voor ChatRole

Alias voor ChatRoleOutput

Alias voor CompletionsFinishReasonOutput

Alias voor EmbeddingEncodingFormat

Alias voor EmbeddingInputType

Alias voor ExtraParameters

Alias voor ModelTypeOutput

Een nieuw exemplaar van ModelClient initialiseren