Quickstart: Afbeeldingen gebruiken in uw AI-chats

Gebruik dit artikel om aan de slag te gaan met Azure AI Foundry om een voltooiingsmodel voor chats te implementeren en te testen met begrip van afbeeldingen.

Vereisten

• Een Azure-abonnement. Maak gratis een account.
• Zodra u uw Azure-abonnement hebt, maakt u een Azure OpenAI-resource . Zie de handleiding voor resource-implementatie voor meer informatie over het maken van resources.
• Een Azure AI Foundry-hub met uw Azure OpenAI-resource die als verbinding is toegevoegd.

Uw media voorbereiden

U hebt een installatiekopieën nodig om deze quickstart te voltooien. U kunt deze voorbeeldafbeelding of een andere afbeelding gebruiken die u beschikbaar hebt.

Ga naar Azure AI Foundry

1. Blader naar Azure AI Foundry en meld u aan met de referenties die zijn gekoppeld aan uw Azure OpenAI-resource. Selecteer tijdens of na de aanmeldingswerkstroom de juiste map, het Azure-abonnement en de Azure OpenAI-resource.
2. Selecteer de hub waarin u wilt werken.
3. Selecteer modellen en eindpunten in het linkernavigatiemenu en selecteer + Model implementeren.
4. Kies een implementatie die geschikt is voor installatiekopieën door de modelnaam te selecteren: gpt-4o of gpt-4o-mini. Selecteer een naam en implementatietype in het venster dat wordt weergegeven. Zorg ervoor dat uw Azure OpenAI-resource is verbonden. Zie de gids implementatiemodellen voor meer informatie over de implementatiemodellen.
5. Selecteer Implementeren.
6. Selecteer vervolgens uw nieuwe model en selecteer Openen in speeltuin. In de chatspeeltuin moet de implementatie die u hebt gemaakt, worden geselecteerd in de vervolgkeuzelijst Implementatie .

Speelplaats

In deze chatsessie geeft u de assistent instructies om u te helpen bij het begrijpen van afbeeldingen die u invoert.

Raadpleeg de quickstart voor chatsessies, instellingen en panelen voor algemene hulp bij het instellen van assistenten, chatsessies, instellingen en panelen.

Een chatsessie starten om afbeeldingen te analyseren

In deze chatsessie geeft u de assistent instructies om inzicht te krijgen in afbeeldingen die u invoert.

1. Controleer eerst of de implementatie die geschikt is voor installatiekopieën is geselecteerd in de vervolgkeuzelijst Implementatie .

2. Geef in het contexttekstvak in het installatievenster deze prompt op om de assistent te begeleiden: "You're an AI assistant that helps people find information." Of u kunt de prompt aanpassen aan uw afbeelding of scenario.

   Notitie

   U wordt aangeraden het systeembericht zo bij te werken dat dit specifiek is voor de taak om onhulpzame reacties van het model te voorkomen.

3. Selecteer Wijzigingen toepassen om uw wijzigingen op te slaan.

4. Selecteer in het chatsessievenster de knop Bijlage en upload vervolgens de afbeelding. Kies uw afbeelding.

5. Voeg de volgende prompt toe in het chatveld: Describe this imageen selecteer vervolgens het verzendpictogram om deze in te dienen.

6. Het verzendpictogram wordt vervangen door een stopknop. Als u deze selecteert, stopt de assistent met het verwerken van uw aanvraag. Laat de assistent voor deze quickstart het antwoord voltooien.

7. De assistent reageert met een beschrijving van de afbeelding.

8. Stel een vervolgvraag met betrekking tot de analyse van uw afbeelding. U kunt invoeren, "What should I highlight about this image to my insurance company?".

9. U moet een relevant antwoord ontvangen dat lijkt op wat hier wordt weergegeven:

   When reporting the incident to your insurance company, you should highlight the following key points from the image:  
   
   1. **Location of Damage**: Clearly state that the front end of the car, particularly the driver's side, is damaged. Mention the crumpled hood, broken front bumper, and the damaged left headlight.  
   
   2. **Point of Impact**: Indicate that the car has collided with a guardrail, which may suggest that no other vehicles were involved in the accident.  
   
   3. **Condition of the Car**: Note that the damage seems to be concentrated on the front end, and there is no visible damage to the windshield or rear of the car from this perspective.  
   
   4. **License Plate Visibility**: Mention that the license plate is intact and can be used for identification purposes.  
   
   5. **Environment**: Report that the accident occurred near a roadside with a guardrail, possibly in a rural or semi-rural area, which might help in establishing the accident location and context.  
   
   6. **Other Observations**: If there were any other circumstances or details not visible in the image that may have contributed to the accident, such as weather conditions, road conditions, or any other relevant information, be sure to include those as well.  
   
   Remember to be factual and descriptive, avoiding speculation about the cause of the accident, as the insurance company will conduct its own investigation.
   

Code weergeven en exporteren

Op elk gewenst moment in de chatsessie kunt u de onbewerkte JSON-switch weergeven boven aan het chatvenster inschakelen om het gesprek te zien dat is opgemaakt als JSON. Dit ziet er als volgt uit aan het begin van de quickstart-chatsessie:

[
	{
		"role": "system",
		"content": [
			"You are an AI assistant that helps people find information."
		]
	},
]

Resources opschonen

Als u een Azure OpenAI-resource wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle bijbehorende resources verwijderd.

• Azure-portal
• Azure-CLI

Gebruik dit artikel om aan de slag te gaan met de Azure OpenAI REST API's voor het implementeren en gebruiken van het GPT-4 Turbo with Vision-model.

Vereisten

• Een Azure-abonnement. Maak gratis een account.
• Python 3.8 of nieuwere versie.
• De volgende Python-bibliotheken: requests, json.
• Een Azure OpenAI-serviceresource met een GPT-4 Turbo met Vision-model geïmplementeerd. Zie beschikbaarheid van GPT-4- en GPT-4 Turbo Preview-modellen voor beschikbare regio's. Zie de handleiding voor resource-implementatie voor meer informatie over het maken van resources.

Sleutel en eindpunt ophalen

Als u de Azure OpenAI-API's wilt aanroepen, hebt u de volgende informatie nodig over uw Azure OpenAI-resource:

Ga naar uw resource in Azure Portal. Selecteer sleutels en eindpunt in het navigatiedeelvenster onder Resourcebeheer. Kopieer de eindpuntwaarde en een toegangssleutelwaarde. U kunt de waarde KEY 1 of KEY 2 gebruiken. Als u twee sleutels hebt, kunt u sleutels veilig roteren en opnieuw genereren zonder dat er een serviceonderbreking wordt veroorzaakt.

Een nieuwe Python-toepassing maken

Maak een nieuw Python-bestand met de naam quickstart.py. Open het nieuwe bestand in de gewenste editor of IDE.

1. Vervang de inhoud van quickstart.py door de volgende code.

   # Packages required:
   import requests 
   import json 
   
   api_base = '<your_azure_openai_endpoint>' 
   deployment_name = '<your_deployment_name>'
   API_KEY = '<your_azure_openai_key>'
   
   base_url = f"{api_base}openai/deployments/{deployment_name}" 
   headers = {   
       "Content-Type": "application/json",   
       "api-key": API_KEY 
   } 
   
   # Prepare endpoint, headers, and request body 
   endpoint = f"{base_url}/chat/completions?api-version=2023-12-01-preview" 
   data = { 
       "messages": [ 
           { "role": "system", "content": "You are a helpful assistant." }, 
           { "role": "user", "content": [  
               { 
                   "type": "text", 
                   "text": "Describe this picture:" 
               },
               { 
                   "type": "image_url",
                   "image_url": {
                       "url": "<image URL>"
                   }
               }
           ] } 
       ], 
       "max_tokens": 2000 
   }   
   
   # Make the API call   
   response = requests.post(endpoint, headers=headers, data=json.dumps(data))   
   
   print(f"Status Code: {response.status_code}")   
   print(response.text)
   

2. Breng de volgende wijzigingen aan:

   1. Voer uw eindpunt-URL en -sleutel in de juiste velden in.
   2. Voer uw GPT-4 Turbo met Vision-implementatienaam in het juiste veld in.
   3. Wijzig de waarde van het "image" veld in de URL van uw afbeelding.

      Tip

      U kunt ook een met base 64 gecodeerde afbeeldingsgegevens gebruiken in plaats van een URL. Zie de HANDLEIDING GPT-4 Turbo met Vision voor meer informatie.

3. De toepassing uitvoeren met de opdracht python:

   python quickstart.py
   

Resources opschonen

Als u een Azure OpenAI-resource wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle bijbehorende resources verwijderd.

• Azure-portal
• Azure-CLI

Gebruik dit artikel om aan de slag te gaan met de Azure OpenAI Python SDK om het GPT-4 Turbo with Vision-model te implementeren en te gebruiken.

| Broncodepakket bibliotheek (PyPi) |

Vereisten

• Een Azure-abonnement. Maak gratis een account.
• Python 3.8 of nieuwere versie.
• De volgende Python-bibliotheken: os
• Een Azure OpenAI-serviceresource met een GPT-4 Turbo met Vision-model geïmplementeerd. Zie beschikbaarheid van GPT-4- en GPT-4 Turbo Preview-modellen voor beschikbare regio's. Zie de handleiding voor resource-implementatie voor meer informatie over het maken van resources.

Instellingen

Installeer de OpenAI Python-clientbibliotheek met:

pip install openai

Sleutel en eindpunt ophalen

Als u azure OpenAI wilt aanroepen, hebt u een eindpunt en een sleutel nodig.

Ga naar uw resource in Azure Portal. De sectie Sleutels en eindpunt vindt u in de sectie Resourcebeheer . Kopieer uw eindpunt en toegangssleutel, omdat u beide nodig hebt voor het verifiëren van uw API-aanroepen. U kunt KEY1 of KEY2 gebruiken. Als u altijd twee sleutels hebt, kunt u sleutels veilig roteren en opnieuw genereren zonder een serviceonderbreking te veroorzaken.

Omgevingsvariabelen

Maak en wijs permanente omgevingsvariabelen toe voor uw sleutel en eindpunt.

setx AZURE_OPENAI_API_KEY "REPLACE_WITH_YOUR_KEY_VALUE_HERE" 
setx AZURE_OPENAI_ENDPOINT "REPLACE_WITH_YOUR_ENDPOINT_HERE" 

[System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_API_KEY', 'REPLACE_WITH_YOUR_KEY_VALUE_HERE', 'User')
[System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_ENDPOINT', 'REPLACE_WITH_YOUR_ENDPOINT_HERE', 'User')

export AZURE_OPENAI_API_KEY="REPLACE_WITH_YOUR_KEY_VALUE_HERE"
export AZURE_OPENAI_ENDPOINT="REPLACE_WITH_YOUR_ENDPOINT_HERE"

Een nieuwe Python-toepassing maken

Maak een nieuw Python-bestand met de naam quickstart.py. Open het nieuwe bestand in de gewenste editor of IDE.

1. Vervang de inhoud van quickstart.py door de volgende code.

   from openai import AzureOpenAI
   
   api_base = os.getenv("AZURE_OPENAI_ENDPOINT")
   api_key= os.getenv("AZURE_OPENAI_API_KEY")
   deployment_name = '<your_deployment_name>'
   api_version = '2023-12-01-preview' # this might change in the future
   
   client = AzureOpenAI(
       api_key=api_key,  
       api_version=api_version,
       base_url=f"{api_base}/openai/deployments/{deployment_name}"
   )
   
   response = client.chat.completions.create(
       model=deployment_name,
       messages=[
           { "role": "system", "content": "You are a helpful assistant." },
           { "role": "user", "content": [  
               { 
                   "type": "text", 
                   "text": "Describe this picture:" 
               },
               { 
                   "type": "image_url",
                   "image_url": {
                       "url": "<image URL>"
                   }
               }
           ] } 
       ],
       max_tokens=2000 
   )
   
   print(response)
   

2. Breng de volgende wijzigingen aan:

   1. Voer in het juiste veld de naam in van uw GPT-4 Turbo met Vision-implementatie.
   2. Wijzig de waarde van het "url" veld in de URL van uw afbeelding.

      Tip

      U kunt ook een met base 64 gecodeerde afbeeldingsgegevens gebruiken in plaats van een URL. Zie de HANDLEIDING GPT-4 Turbo met Vision voor meer informatie.

3. De toepassing uitvoeren met de opdracht python:

   python quickstart.py
   

Resources opschonen

Als u een Azure OpenAI-resource wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle bijbehorende resources verwijderd.

• Azure-portal
• Azure-CLI

Gebruik dit artikel om aan de slag te gaan met de OpenAI JavaScript SDK om het GPT-4 Turbo with Vision-model te implementeren en te gebruiken.

Deze SDK wordt geleverd door OpenAI met Azure-specifieke typen die worden geleverd door Azure.

Referentiedocumentatie | Bibliotheekbroncode | Pakket (npm) | Voorbeelden

Vereisten

• Een Azure-abonnement - Een gratis abonnement maken
• LTS-versies van Node.js
• Azure CLI die wordt gebruikt voor verificatie zonder wachtwoord in een lokale ontwikkelomgeving, maakt de benodigde context door u aan te melden met de Azure CLI.
• Een Azure OpenAI-resource die is gemaakt in een ondersteunde regio (zie beschikbaarheid van regio's). Zie Een resource maken en een model implementeren met Azure OpenAI voor meer informatie.

Vereisten voor Microsoft Entra-id

Voor de aanbevolen sleutelloze verificatie met Microsoft Entra-id moet u het volgende doen:

• Installeer de Azure CLI die wordt gebruikt voor sleutelloze verificatie met Microsoft Entra-id.
• Wijs de Cognitive Services User rol toe aan uw gebruikersaccount. U kunt rollen toewijzen in Azure Portal onder Toegangsbeheer (IAM)>Roltoewijzing toevoegen.

Resourcegegevens ophalen

U moet de volgende informatie ophalen om uw toepassing te verifiëren met uw Azure OpenAI-resource:

Een Node-toepassing maken

Maak in een consolevenster (zoals cmd, PowerShell of Bash) een nieuwe map voor de app, en navigeer naar deze map. Voer vervolgens de npm init opdracht uit om een knooppunttoepassing te maken met een package.json-bestand .

npm init

De clientbibliotheek installeren

Installeer de clientbibliotheken met:

npm install openai @azure/identity

Het package.json-bestand van uw app wordt bijgewerkt met de afhankelijkheden.

Een nieuwe JavaScript-toepassing maken voor prompts voor installatiekopieën

Selecteer een afbeelding in de azure-samples/cognitive-services-sample-data-files en stel de URL in voor een afbeelding in de omgevingsvariabelen.

Resources opschonen

Als u een Azure OpenAI-resource wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle bijbehorende resources verwijderd.

• Azure-portal
• Azure-CLI

Gebruik dit artikel om aan de slag te gaan met de OpenAI JavaScript SDK om het GPT-4 Turbo with Vision-model te implementeren en te gebruiken.

Deze SDK wordt geleverd door OpenAI met Azure-specifieke typen die worden geleverd door Azure.

Referentiedocumentatie | Bibliotheekbroncode | Pakket (npm) | Voorbeelden

Vereisten

• Een Azure-abonnement - Een gratis abonnement maken
• LTS-versies van Node.js
• TypeScript
• Azure CLI die wordt gebruikt voor verificatie zonder wachtwoord in een lokale ontwikkelomgeving, maakt de benodigde context door u aan te melden met de Azure CLI.
• Een Azure OpenAI-resource die is gemaakt in een ondersteunde regio (zie beschikbaarheid van regio's). Zie Een resource maken en een model implementeren met Azure OpenAI voor meer informatie.

Vereisten voor Microsoft Entra-id

Voor de aanbevolen sleutelloze verificatie met Microsoft Entra-id moet u het volgende doen:

• Installeer de Azure CLI die wordt gebruikt voor sleutelloze verificatie met Microsoft Entra-id.
• Wijs de Cognitive Services User rol toe aan uw gebruikersaccount. U kunt rollen toewijzen in Azure Portal onder Toegangsbeheer (IAM)>Roltoewijzing toevoegen.

Resourcegegevens ophalen

U moet de volgende informatie ophalen om uw toepassing te verifiëren met uw Azure OpenAI-resource:

Een Node-toepassing maken

Maak in een consolevenster (zoals cmd, PowerShell of Bash) een nieuwe map voor de app, en navigeer naar deze map. Voer vervolgens de npm init opdracht uit om een knooppunttoepassing te maken met een package.json-bestand .

npm init

De clientbibliotheek installeren

Installeer de clientbibliotheken met:

npm install openai @azure/identity

Het package.json-bestand van uw app wordt bijgewerkt met de afhankelijkheden.

Een nieuwe JavaScript-toepassing maken voor prompts voor installatiekopieën

Selecteer een afbeelding in de azure-samples/cognitive-services-sample-data-files en stel de URL in voor een afbeelding in de omgevingsvariabelen.

Resources opschonen

Als u een Azure OpenAI-resource wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle bijbehorende resources verwijderd.

• Azure-portal
• Azure-CLI

Gebruik dit artikel om aan de slag te gaan met de Azure OpenAI .NET SDK om het GPT-4 Turbo with Vision-model te implementeren en te gebruiken.

Vereisten

• Een Azure-abonnement. U kunt er gratis een maken.
• De .NET 8.0 SDK
• Een Azure OpenAI-serviceresource met een GPT-4 Turbo met Vision-model geïmplementeerd. Zie beschikbaarheid van GPT-4- en GPT-4 Turbo Preview-modellen voor beschikbare regio's. Zie de handleiding voor resource-implementatie voor meer informatie over het maken van resources.

Instellingen

Sleutel en eindpunt ophalen

Als u azure OpenAI wilt aanroepen, hebt u een eindpunt en een sleutel nodig.

Ga naar uw resource in Azure Portal. Het eindpunt en de sleutels vindt u in de sectie Resourcebeheer . Kopieer uw eindpunt en toegangssleutel naar behoefte voor verificatie van uw API-aanroepen. U kunt KEY1 of KEY2 gebruiken. Als u altijd twee sleutels hebt, kunt u sleutels veilig roteren en opnieuw genereren zonder een serviceonderbreking te veroorzaken.

De .NET-app maken

1. Maak een .NET-app met behulp van de dotnet new opdracht:

   dotnet new console -n OpenAISpeech
   

2. Ga naar de map van de nieuwe app:

   cd OpenAISpeech
   

De clientbibliotheek installeren

Installeer de Azure.OpenAI clientbibliotheek:

dotnet add package Azure.AI.OpenAI

Verificatie zonder wachtwoord wordt aanbevolen

Verificatie zonder wachtwoord is veiliger dan alternatieven op basis van sleutels en is de aanbevolen methode voor het maken van verbinding met Azure-services. Als u ervoor kiest om verificatie zonder wachtwoord te gebruiken, moet u het volgende voltooien:

1. Voeg het pakket Azure.Identity toe.

   dotnet add package Azure.Identity
   

2. Wijs de Cognitive Services User rol toe aan uw gebruikersaccount. Dit kan worden gedaan in Azure Portal op uw OpenAI-resource onder Toegangsbeheer (IAM)>Roltoewijzing toevoegen.

3. Meld u via Visual Studio of de Azure CLI az loginaan bij Azure.

De app-code bijwerken

1. Vervang de inhoud door program.cs de volgende code en werk de waarden van de tijdelijke aanduidingen bij met uw eigen waarden.

   using Azure;
   using Azure.AI.OpenAI;
   using Azure.Identity;
   using OpenAI.Chat; // Required for Passwordless auth
   
   var endpoint = new Uri("YOUR_AZURE_OPENAI_ENDPOINT");
   var credentials = new AzureKeyCredential("YOUR_AZURE_OPENAI_KEY");
   // var credentials = new DefaultAzureCredential(); // Use this line for Passwordless auth
   var deploymentName = "gpt-4"; // Default name, update with your own if needed
   
   var openAIClient = new AzureOpenAIClient(endpoint, credentials);
   var chatClient = openAIClient.GetChatClient(deploymentName);
   
   var imageUri = "YOUR_IMAGE_URL";
   
   List<ChatMessage> messages = [
       new UserChatMessage(
           ChatMessageContentPart.CreateTextMessageContentPart("Please describe the following image:"),
           ChatMessageContentPart.CreateImageMessageContentPart(new Uri(imageUri), "image/png"))
   ];
   
   ChatCompletion chatCompletion = await chatClient.CompleteChatAsync(messages);
   
   Console.WriteLine($"[ASSISTANT]:");
   Console.WriteLine($"{chatCompletion.Content[0].Text}");
   

1. Voer de toepassing uit met behulp van de dotnet run opdracht of de knop Uitvoeren bovenaan Visual Studio:

   dotnet run
   

De app genereert een audiobestand op de locatie die u voor de speechFilePath variabele hebt opgegeven. Speel het bestand op uw apparaat af om de gegenereerde audio te horen.

Resources opschonen

Als u een Azure OpenAI-resource wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle bijbehorende resources verwijderd.

• Azure-portal
• Azure-CLI