Delen via

Kosten voor modeldeductie plannen in Azure AI Services

  • Artikel

In dit artikel wordt beschreven hoe u kosten voor modeldeductie in Azure AI Services kunt plannen en beheren. Nadat u modeldeductie in Azure AI Services-resources hebt gebruikt, gebruikt u Cost Management-functies om budgetten in te stellen en de kosten te bewaken.

Hoewel dit artikel gaat over het plannen en beheren van kosten voor modeldeductie in Azure AI Services, wordt u gefactureerd voor alle Azure-services en -resources die in uw Azure-abonnement worden gebruikt.

Vereisten

  • Kostenanalyse in Cost Management ondersteunt de meeste Typen Azure-accounts, maar niet allemaal. Zie voor de volledige lijst met ondersteunde accounttypen Gegevens van Azure Cost Management begrijpen.
  • Als u kostengegevens wilt weergeven, hebt u ten minste leestoegang nodig voor een Azure-account. Zie Toegang tot gegevens toewijzen voor informatie over het toewijzen van toegang tot kostenbeheergegevens.

Inzicht in modeldeductiefactureringsmodel

Voor modellen die zijn geïmplementeerd in Azure AI Services worden kosten in rekening gebracht per 1000 tokens. Taalmodellen begrijpen en verwerken tekst door deze op te delen in tokens. Ter referentie: elk token bestaat uit ongeveer vier tekens voor normale Engelse tekst. De kosten per token variëren, afhankelijk van de modelreeks die u kiest. Modellen die afbeeldingen kunnen verwerken, splitsen afbeeldingen ook op in tokens. Het aantal tokens per afbeelding is afhankelijk van het model en de resolutie van de invoerafbeelding.

Tokenkosten gelden voor zowel invoer als uitvoer. Stel dat u een JavaScript-codevoorbeeld van 1000 token hebt dat u een model vraagt om te converteren naar Python. Er worden ongeveer 1000 tokens in rekening gebracht voor de initiële invoeraanvraag die wordt verzonden en 1000 meer tokens voor de uitvoer die wordt ontvangen als reactie op een totaal van 2000 tokens.

In de praktijk zou voor dit type voltooiingsoproep de tokeninvoer/uitvoer niet perfect 1:1 zijn. Een conversie van de ene programmeertaal naar de andere kan leiden tot een langere of kortere uitvoer, afhankelijk van veel factoren. Een dergelijke factor is de waarde die is toegewezen aan de max_tokens parameter.

Uitsplitsing van kosten

Om inzicht te hebben in de uitsplitsing van de kosten, kan het handig zijn om het hulpprogramma Kostenanalyse te gebruiken in Azure Portal. Volg deze stappen om inzicht te hebben in de kosten van deductie:

  1. Ga naar de Azure AI Foundry-portal.

  2. Selecteer in de rechterbovenhoek van het scherm de naam van uw Azure AI Services-resource of als u aan een AI-project werkt, op de naam van het project.

  3. Selecteer de naam van het project. Azure Portal wordt geopend in een nieuw venster.

    Schermopname van het openen van de pagina met details van de resourcegroep in Azure Portal vanuit de Azure AI Foundry-portal.

  4. Selecteer kostenanalyse onder Cost Management

  5. Kostenanalyse is standaard afgestemd op de geselecteerde resourcegroep.

    Belangrijk

    Het is belangrijk om kostenanalyse te bepalen voor de resourcegroep waarin de Azure AI Services-resource wordt geïmplementeerd. Kostenmeters die zijn gekoppeld aan sommige providermodelproviders, zoals Mistral AI of Cohere, worden weergegeven onder de resourcegroep in plaats van de Azure AI Services-resource.

  6. Groeperen op wijzigen in meter. U kunt nu zien dat voor deze specifieke resourcegroep de bron van de kosten afkomstig is van verschillende modellenreeksen.

    Schermopname van het weergeven van de kosten per meter in de resourcegroep.

In de volgende secties worden de vermeldingen in details uitgelegd.

Azure OpenAI- en Microsoft-modellen

Azure OpenAI en de microsoft-serie modellen (zoals Phi) worden rechtstreeks in rekening gebracht en ze worden weergegeven als factureringsmeters onder elke Azure AI-servicesresource. Deze facturering vindt rechtstreeks plaats via Microsoft. Wanneer u uw factuur inspecteert, ziet u dat factureringsmeters rekening hebben met invoer en uitvoer voor elk verbruikt model.

Schermopname van het dashboard voor kostenanalyse dat is gericht op de resourcegroep waarin de Azure AI Services-resource wordt geïmplementeerd, waarbij de meters voor Azure OpenAI- en Microsoft-modellen worden gemarkeerd. De kosten worden gegroepeerd op meter.

Providermodellen

Modellen die worden geleverd door een andere provider, zoals Mistral AI, Cohere, Meta AI of AI21 Labs, worden gefactureerd met behulp van Azure Marketplace. Net als bij Microsoft-factureringsmeters worden deze vermeldingen gekoppeld aan de resourcegroep waarin uw Azure AI-services worden geïmplementeerd in plaats van naar de Azure AI Services-resource zelf. U ziet vermeldingen onder de Service NameSaaS-boekhouding voor invoer en uitvoer voor elk verbruikt model.

Schermopname van het dashboard voor kostenanalyse dat is gericht op de resourcegroep waarin de Azure AI Services-resource wordt geïmplementeerd, waarbij de meters worden gemarkeerd voor modellen die in Azure Marketplace worden gefactureerd. De kosten worden gegroepeerd op meter.

Azure-vooruitbetaling gebruiken

U kunt betalen voor azure OpenAI- en Microsoft-modellen met uw Azure-vooruitbetalingstegoed. U kunt echter geen Azure-vooruitbetalingstegoed gebruiken om te betalen voor kosten voor andere providermodellen op basis van de facturering via Azure Marketplace.

HTTP-antwoordcode en factureringsstatus

Als de service verwerking uitvoert, worden er kosten in rekening gebracht, zelfs als de statuscode niet is geslaagd (niet 200). Bijvoorbeeld een 400-fout vanwege een inhoudsfilter of invoerlimiet, of een 408-fout vanwege een time-out.

Als de service geen verwerking uitvoert, worden er geen kosten in rekening gebracht. Bijvoorbeeld een 401-fout vanwege verificatie of een 429-fout vanwege het overschrijden van de frequentielimiet.

Overige kosten

Als u mogelijkheden inschakelt, zoals het verzenden van gegevens naar Azure Monitor-logboeken en waarschuwingen, worden extra kosten in rekening gebracht voor deze services. Deze kosten zijn zichtbaar onder die andere services en op abonnementsniveau, maar zijn niet zichtbaar wanneer het bereik alleen is gericht op uw Azure AI-servicesresource.

Kosten bewaken

De kosten voor azure-resourcegebruikseenheden variëren per tijdsinterval, zoals seconden, minuten, uren en dagen, of per eenheidsgebruik, zoals bytes en megabytes. Zodra azure AI-services worden gebruikt, kunnen er kosten worden gemaakt en kunt u de kosten in de kostenanalyse bekijken.

U kunt gedetailleerdere factureringsgegevens verkrijgen met behulp van Kostenanalyse:

Om inzicht te hebben in de uitsplitsing van de kosten, kan het handig zijn om het hulpprogramma Cost Analysis te gebruiken in Azure Portal.

  1. Ga naar de Azure AI Foundry-portal.

  2. Selecteer in de rechterbovenhoek van het scherm de naam van uw Azure AI Services-resource of als u aan een AI-project werkt, op de naam van het project.

  3. Selecteer de naam van het project. Azure Portal wordt geopend in een nieuw venster.

  4. Selecteer kostenanalyse onder Cost Management

  5. Kostenanalyse is standaard afgestemd op de resourcegroep die u hebt geselecteerd.

  6. Omdat we de kosten van alle resourcegroepen zien, is het handig om de kosten per resource te bekijken. In dat geval selecteert u Kosten per resource weergeven>.

    Schermopname van het weergeven van de kosten voor elke resource in de resourcegroep.

  7. Nu kunt u de resources zien die elk van de factureringsmeters genereren.

  8. Azure OpenAI-modellen en Microsoft-modellen, zoals eerder uitgelegd, worden weergegeven als meters onder elke Azure AI-servicesresource:

    Schermopname van het dashboard voor kostenanalyse dat is gericht op de resourcegroep waarin de Azure AI Services-resource wordt geïmplementeerd, waarbij de meters voor Azure OpenAI- en Microsoft-modellen worden gemarkeerd. Kosten worden gegroepeerd op resource.

  9. De modellen van sommige providers worden weergegeven als meters onder Globale resources. U ziet dat het woord Globalniet is gerelateerd aan de SKU van de modelimplementatie (bijvoorbeeld globale standaard). Als u meerdere Azure AI-servicesresources hebt, bevat uw factuur één vermelding voor elk model voor elke Azure AI-servicesresource. De resourcemeters hebben de indeling [model-name]-[GUID] waarbij [GUID] een id is die uniek is voor een bepaalde Azure AI Services-resource. U ziet dat factureringsmeters rekening hebben met invoer en uitvoer voor elk model dat u hebt verbruikt.

    Schermopname van het dashboard voor kostenanalyse dat is gericht op de resourcegroep waarin de Azure AI Services-resource wordt geïmplementeerd, waarbij de meters worden gemarkeerd voor modellen die in Azure Marketplace worden gefactureerd. Kosten worden gegroepeerd op resource.

Het is belangrijk om inzicht te hebben in het bereik wanneer u kosten evalueert die zijn gekoppeld aan Azure AI Services. Als uw resources deel uitmaken van dezelfde resourcegroep, kunt u kostenanalyse op dat niveau instellen om inzicht te krijgen in het effect op de kosten. Als uw resources zijn verdeeld over meerdere resourcegroepen, kunt u het abonnementsniveau bepalen.

Budgetten maken

U kunt budgetten maken om kosten te beheren en waarschuwingen te maken waarmee belanghebbenden op de hoogte worden gesteld van afwijkingen in uitgaven en risico's die worden overschreden. Waarschuwingen zijn gebaseerd op de vergelijking tussen uitgaven en drempelwaarden voor budgetten en kosten. U maakt budgetten en waarschuwingen voor Azure-abonnementen en -resourcegroepen. Ze zijn nuttig als onderdeel van een algehele strategie voor kostenbewaking.

U kunt budgetten maken met filters voor specifieke resources of services in Azure als u meer granulariteit in uw bewaking wilt. Filters helpen ervoor te zorgen dat u niet per ongeluk nieuwe resources maakt die u meer geld kosten. Zie Groeps- en filteropties voor meer informatie over de filteropties die beschikbaar zijn wanneer u een budget maakt.

Kostengegevens exporteren

U kunt uw kostengegevens ook exporteren naar een opslagaccount, wat handig is wanneer u anderen extra gegevensanalyse wilt laten uitvoeren voor kosten. Een financieel team kan bijvoorbeeld de gegevens analyseren met Excel of Power BI. U kunt uw kosten exporteren volgens een dagelijks, wekelijks of maandelijks schema en een aangepast datumbereik instellen. We raden u aan kostengegevens te exporteren als manier om kostengegevenssets op te halen.

Volgende stappen