Apa itu Azure AI Agent Service (Pratinjau)?
Azure AI Agent Service adalah layanan terkelola penuh yang dirancang untuk memberdayakan pengembang untuk membangun, menyebarkan, dan menskalakan agen AI berkualitas tinggi dengan aman, dan dapat diperluas tanpa perlu mengelola sumber daya komputasi dan penyimpanan yang mendasar. Apa yang awalnya mengambil ratusan baris kode untuk mendukung panggilan fungsi sisi klien sekarang dapat dilakukan hanya dalam beberapa baris kode dengan Azure AI Agent Service.
Apa itu agen AI?
Dalam Azure AI Foundry, Agen AI bertindak sebagai layanan mikro "cerdas" yang dapat digunakan untuk menjawab pertanyaan (RAG), melakukan tindakan, atau mengotomatiskan alur kerja sepenuhnya. Ini mencapai ini dengan menggabungkan kekuatan model AI generatif dengan alat yang memungkinkannya mengakses dan berinteraksi dengan sumber data dunia nyata.
Karena Azure AI Agent Service menggunakan protokol kawat yang sama dengan Asisten Azure OpenAI, Anda dapat menggunakan SDK OpenAI atau Azure AI Foundry SDK untuk membuat dan menjalankan agen hanya dalam beberapa baris kode. Misalnya, untuk membuat Agen AI dengan Azure AI Foundry SDK, Anda cukup menentukan model mana yang digunakan AI, instruksi tentang cara menyelesaikan tugas, dan alat yang dapat digunakan untuk mengakses dan berinteraksi dengan layanan lain.
agent = project_client.agents.create_agent(
model="gpt-4o-mini",
name="my-agent",
instructions="You are helpful agent",
tools=code_interpreter.definitions,
tool_resources=code_interpreter.resources,
)
Setelah mendefinisikan agen, Anda dapat mulai memintanya untuk melakukan pekerjaan dengan memanggil eksekusi di atas utas aktivitas, yang hanya merupakan percakapan antara beberapa agen dan pengguna.
# Create a thread with messages
thread = project_client.agents.create_thread()
message = project_client.agents.create_message(
thread_id=thread.id,
role="user",
content="Could you please create a bar chart for the operating profit using the following data and provide the file to me? Company A: $1.2 million, Company B: $2.5 million, Company C: $3.0 million, Company D: $1.8 million",
)
# Ask the agent to perform work on the thread
run = project_client.agents.create_and_process_run(thread_id=thread.id, agent_id=agent.id)
# Fetch and log all messages to see the agent's response
messages = project_client.agents.list_messages(thread_id=thread.id)
print(f"Messages: {messages}")
Setiap kali operasi eksekusi dipanggil, Azure AI Agent Service akan menyelesaikan seluruh siklus hidup panggilan alat untuk Anda dengan 1) menjalankan model dengan instruksi yang disediakan, 2) memanggil alat saat agen memanggilnya, dan 3) mengembalikan hasilnya kepada Anda.
Setelah mendapatkan dasar-dasarnya, Anda dapat mulai menggunakan beberapa agen bersama-sama untuk mengotomatiskan alur kerja yang lebih kompleks dengan AutoGen dan Semantic Kernel. Karena Azure AI Agent Service adalah layanan terkelola penuh, Anda dapat fokus pada membangun alur kerja dan agen yang mendukungnya tanpa perlu khawatir tentang penskalaan, keamanan, atau manajemen infrastruktur yang mendasar untuk masing-masing agen.
Mengapa menggunakan Azure AI Agent Service?
Jika dibandingkan dengan mengembangkan dengan API Inferensi secara langsung, Azure AI Agent Service menyediakan cara yang lebih efisien dan aman untuk membangun dan menyebarkan agen AI. Drive ini termasuk:
- Panggilan alat otomatis - tidak perlu mengurai panggilan alat, memanggil alat, dan menangani respons; semua ini sekarang dilakukan sisi server
- Data yang dikelola dengan aman - alih-alih mengelola status percakapan Anda sendiri, Anda dapat mengandalkan utas untuk menyimpan semua informasi yang Anda butuhkan
- Alat siap pakai – Selain alat pengambilan file dan penerjemah kode yang disediakan oleh Asisten Azure OpenAI, Azure AI Agent Service juga dilengkapi dengan sekumpulan alat yang dapat Anda gunakan untuk berinteraksi dengan sumber data Anda, seperti Bing, Azure AI Search, dan Azure Functions.
Apa yang awalnya mengambil ratusan baris kode sekarang dapat dilakukan hanya dalam beberapa dengan Azure AI Agent Service.
Membandingkan agen Azure dan asisten Azure OpenAI
Kedua layanan memungkinkan Anda membangun agen menggunakan API dan SDK yang sama, tetapi jika Anda memiliki persyaratan perusahaan tambahan, Anda mungkin ingin mempertimbangkan untuk menggunakan Azure AI Agent Service. Azure AI Agent Service menyediakan semua kemampuan asisten selain:
Pemilihan model fleksibel - Buat agen yang menggunakan model Azure OpenAI, atau lainnya seperti Llama 3, Mistral, dan Cohere. Pilih model yang paling cocok untuk memenuhi kebutuhan bisnis Anda.
Integrasi data yang luas - Membumikan agen AI Anda dengan pengetahuan perusahaan yang relevan dan aman dari berbagai sumber data, seperti Microsoft Bing, Azure AI Search, dan API lainnya.
Keamanan tingkat perusahaan - Pastikan privasi dan kepatuhan data dengan penanganan data yang aman, autentikasi tanpa kunci, dan tidak ada jalan keluar publik.
Pilih solusi penyimpanan Anda - Bawa penyimpanan Azure Blob Anda sendiri untuk visibilitas penuh dan kontrol sumber daya penyimpanan Anda, atau gunakan penyimpanan yang dikelola platform untuk kemudahan penggunaan yang aman.
AI yang Bertanggung Jawab
Di Microsoft, kami berkomitmen untuk kemajuan AI yang didorong oleh prinsip-prinsip yang mengutamakan manusia. Model generatif seperti yang tersedia di Azure OpenAI memiliki manfaat potensial yang signifikan, tetapi tanpa desain yang cermat dan mitigasi yang bijaksana, model tersebut berpotensi menghasilkan konten yang salah atau bahkan berbahaya. Microsoft telah melakukan investasi signifikan untuk membantu melindungi dari penyalahgunaan dan bahaya yang tidak diinginkan, yang termasuk memasukkan prinsip-prinsip Microsoft untuk penggunaan AI yang bertanggung jawab, mengadopsi Kode Etik untuk penggunaan layanan, membangun filter konten untuk mendukung pelanggan, dan memberikan informasi dan panduan AI yang bertanggung jawab yang harus dipertimbangkan pelanggan saat menggunakan Azure AI Agent Service.
Mulai menggunakan Azure AI Agent Service
Untuk mulai menggunakan Azure AI Agent Service, Anda perlu membuat hub Azure AI Foundry dan proyek Agen di langganan Azure Anda.
Mulailah dengan panduan mulai cepat jika ini pertama kalinya Anda menggunakan layanan.
- Anda dapat membuat hub AI dan proyek dengan sumber daya yang diperlukan.
- Setelah membuat proyek, Anda dapat menyebarkan model yang kompatibel seperti GPT-4o.
- Ketika Anda memiliki model yang disebarkan, Anda juga dapat mulai melakukan panggilan API ke layanan menggunakan SDK.
Langkah berikutnya
Pelajari selengkapnya tentang model yang mendukung agen.