Вызов инструментов и изображения
Как дать модели вызывать ваши функции и отправлять ей изображения.
Инструменты (function calling) работают как в оригинальных API: вы описываете свои функции, модель отвечает вызовом, который хочет сделать, вы выполняете его и отправляете результат обратно.
| Формат | API | Модели |
|---|---|---|
| OpenAI: tools, tool_calls | /v1/chat/completions, /v1/responses | Все модели с поддержкой инструментов |
| Anthropic: tools, tool_use | /v1/messages | Модели Claude |
Какие модели принимают инструменты и изображения, указано в https://freshrouter.com/models.json: поля supports_tools и input_modalities у каждой модели.
Вызов инструмента от начала до конца
Python
import json
from openai import OpenAI
client = OpenAI(base_url="https://freshrouter.com/v1", api_key="sk-your-freshrouter-key")
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the weather in a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What's the weather in Paris?"}]
# 1. The model answers with the call it wants made.
reply = client.chat.completions.create(model="claude-sonnet-5-5", messages=messages, tools=tools)
call = reply.choices[0].message.tool_calls[0]
args = json.loads(call.function.arguments) # {"city": "Paris"}
# 2. Run your function, send its result back, and get the final answer.
messages += [reply.choices[0].message, {"role": "tool", "tool_call_id": call.id, "content": "18°C, sunny"}]
final = client.chat.completions.create(model="claude-sonnet-5-5", messages=messages, tools=tools)
print(final.choices[0].message.content)Стриминг тоже работает: с "stream": true вызов приходит по частям, как в оригинальном API.
Изображения
Модели, у которых в input_modalities есть image, принимают изображения. В формате OpenAI добавьте часть image_url со ссылкой или data:-адресом:
Python
reply = client.chat.completions.create(
model="gpt-6.1-sol",
messages=[{
"role": "user",
"content": [
{"type": "text", "text": "What is in this picture?"},
{"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}},
],
}],
)Запрос вместе с изображениями может занимать не больше 32 МБ. Большие картинки отправляйте ссылкой или уменьшайте.