模擬 OpenAI API

發行項
03/10/2025

當您建置連線至 OpenAI 的應用程式時，通常只有部分應用程式會與 OpenAI API 互動。當您處理不需要 OpenAI API 實際回覆的應用程式部分時，您可以使用 Dev Proxy 來模擬回應。使用仿真的回應可讓您避免產生不必要的成本。 OpenAIMockResponsePlugin 使用在 Ollama 執行的本地語言模型來模擬 OpenAI API 的回應。

在您開始之前

若要使用 Dev Proxy 模擬 OpenAI API 回應，您需要在電腦上安裝 Ollama。若要安裝 Ollama，請遵循 Ollama 檔中的指示。

根據預設，Dev Proxy 會使用 phi-3 語言模型。若要使用不同的模型，請更新 model Dev Proxy組態檔中的屬性。

設定開發 Proxy 以模擬 OpenAI API 回應

提示

此教學中的步驟可適用於即用型的 Dev Proxy 預設。若要使用預設，請在命令行中執行 devproxy preset get simulate-openai，然後遵循指示。

若要使用 Dev Proxy 模擬 OpenAI API 回應，您必須在 OpenAIMockResponsePlugin 檔案中啟用 devproxyrc.json 。

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v0.24.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
    }
  ]
}

接下來，設定開發代理為攔截 OpenAI API 的請求。 OpenAI 建議使用 https://api.openai.com/v1/chat/completions 端點，這可讓您受益於最新的模型和功能。

{
  // [...] trimmed for brevity
  "urlsToWatch": [
    "https://api.openai.com/v1/chat/completions"
  ]
}

最後，將 Dev Proxy 設定為使用本機語言模型。

{
  // [...] trimmed for brevity
  "languageModel": {
    "enabled": true
  }
}

完整的組態檔看起來像這樣。

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v0.24.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
    }
  ],
  "urlsToWatch": [
    "https://api.openai.com/v1/chat/completions"
  ],
  "languageModel": {
    "enabled": true
  }
}