Streaming
កំណត់ stream: true ដើម្បីទទួល token តាម SSE — ដូច native APIs។
របៀបធ្វើការ
- បន្ថែម
"stream": trueក្នុង request body។ - Response ជា
text/event-streamជាមួយ chunks ទម្រង់ OpenAI ឬ Anthropic តាម endpoint។ - ការគិតថ្លៃត្រូវបានកត់ត្រាពីព័ត៌មាន usage ចុងក្រោយក្នុង stream — ម្តងទេ មិនមែន per-chunk ទេ។
- Retries មិនដំណើរការក្រោយពី chunk ដំបូង។
ឧទាហរណ៍
bash · OpenAI-style
curl https://api.laalaa.me/v1/chat/completions \
-H "Authorization: Bearer sk-xxxxxxxxxxxx" \
-H "Content-Type: application/json" \
-d '{
"model": "claude-opus-4-8",
"stream": true,
"messages": [{"role": "user", "content": "Count to five"}]
}'bash · Anthropic-style
curl https://api.laalaa.me/v1/messages \
-H "x-api-key: sk-xxxxxxxxxxxx" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "claude-opus-4-8",
"max_tokens": 1024,
"stream": true,
"messages": [{"role": "user", "content": "Count to five"}]
}'ក្នុង SDKs
Python · OpenAI SDK
stream = client.chat.completions.create(
model="claude-opus-4-8",
messages=[{"role": "user", "content": "Count to five"}],
stream=True,
)
for chunk in stream:
delta = chunk.choices[0].delta.content
if delta:
print(delta, end="")TypeScript · Anthropic SDK
const stream = client.messages.stream({
model: "claude-opus-4-8",
max_tokens: 1024,
messages: [{ role: "user", content: "Count to five" }],
});
stream.on("text", (t) => process.stdout.write(t));
const msg = await stream.finalMessage();SDK helpers ដូចជា stream() គ្រាន់តែជា SSE parsing — ការគិតថ្លៃដូចគ្នា។
កំហុសក្នុង stream
ប្រសិនបើ upstream បរាជ័យមុន chunk ដំបូង អ្នកទទួលបាន JSON error ធម្មតា។ បន្ទាប់ពី stream ចាប់ផ្តើម កំហុសចេញជា event ចុងក្រោយ។
ពិនិត្យ error codes → ·
POST /v1/chat/completionsទំព័រនេះមានប្រយោជន៍?