fix: azure o1 unsupported options (#995)
This commit is contained in:
parent
01e05a538b
commit
0d62ffd1cb
@ -15,6 +15,7 @@ M.api_key_name = "AZURE_OPENAI_API_KEY"
|
|||||||
|
|
||||||
M.parse_messages = O.parse_messages
|
M.parse_messages = O.parse_messages
|
||||||
M.parse_response = O.parse_response
|
M.parse_response = O.parse_response
|
||||||
|
M.parse_response_without_stream = O.parse_response_without_stream
|
||||||
|
|
||||||
M.parse_curl_args = function(provider, code_opts)
|
M.parse_curl_args = function(provider, code_opts)
|
||||||
local base, body_opts = P.parse_config(provider)
|
local base, body_opts = P.parse_config(provider)
|
||||||
@ -24,6 +25,14 @@ M.parse_curl_args = function(provider, code_opts)
|
|||||||
}
|
}
|
||||||
if P.env.require_api_key(base) then headers["api-key"] = provider.parse_api_key() end
|
if P.env.require_api_key(base) then headers["api-key"] = provider.parse_api_key() end
|
||||||
|
|
||||||
|
-- NOTE: When using "o1" set the supported parameters only
|
||||||
|
local stream = true
|
||||||
|
if base.model and string.find(base.model, "o1") then
|
||||||
|
body_opts.max_tokens = nil
|
||||||
|
body_opts.temperature = 1
|
||||||
|
stream = false
|
||||||
|
end
|
||||||
|
|
||||||
return {
|
return {
|
||||||
url = Utils.url_join(
|
url = Utils.url_join(
|
||||||
base.endpoint,
|
base.endpoint,
|
||||||
@ -34,7 +43,7 @@ M.parse_curl_args = function(provider, code_opts)
|
|||||||
headers = headers,
|
headers = headers,
|
||||||
body = vim.tbl_deep_extend("force", {
|
body = vim.tbl_deep_extend("force", {
|
||||||
messages = M.parse_messages(code_opts),
|
messages = M.parse_messages(code_opts),
|
||||||
stream = true,
|
stream = stream,
|
||||||
}, body_opts),
|
}, body_opts),
|
||||||
}
|
}
|
||||||
end
|
end
|
||||||
|
Loading…
x
Reference in New Issue
Block a user