Laalaa Gateway
Laalaa Docs

Streaming

កំណត់ stream: true ដើម្បីទទួល token តាម SSE — ដូច native APIs។

របៀបធ្វើការ

  • បន្ថែម "stream": true ក្នុង request body។
  • Response ជា text/event-stream ជាមួយ chunks ទម្រង់ OpenAI ឬ Anthropic តាម endpoint។
  • ការគិតថ្លៃត្រូវបានកត់ត្រាពីព័ត៌មាន usage ចុងក្រោយក្នុង stream — ម្តងទេ មិនមែន per-chunk ទេ។
  • Retries មិនដំណើរការក្រោយពី chunk ដំបូង។

ឧទាហរណ៍

bash · OpenAI-style
curl https://api.laalaa.me/v1/chat/completions \
  -H "Authorization: Bearer sk-xxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-4-8",
    "stream": true,
    "messages": [{"role": "user", "content": "Count to five"}]
  }'
bash · Anthropic-style
curl https://api.laalaa.me/v1/messages \
  -H "x-api-key: sk-xxxxxxxxxxxx" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-4-8",
    "max_tokens": 1024,
    "stream": true,
    "messages": [{"role": "user", "content": "Count to five"}]
  }'

ក្នុង SDKs

Python · OpenAI SDK
stream = client.chat.completions.create(
    model="claude-opus-4-8",
    messages=[{"role": "user", "content": "Count to five"}],
    stream=True,
)
for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")
TypeScript · Anthropic SDK
const stream = client.messages.stream({
  model: "claude-opus-4-8",
  max_tokens: 1024,
  messages: [{ role: "user", content: "Count to five" }],
});
stream.on("text", (t) => process.stdout.write(t));
const msg = await stream.finalMessage();
SDK helpers ដូចជា stream() គ្រាន់តែជា SSE parsing — ការគិតថ្លៃដូចគ្នា។

កំហុសក្នុង stream

ប្រសិនបើ upstream បរាជ័យមុន chunk ដំបូង អ្នកទទួលបាន JSON error ធម្មតា។ បន្ទាប់ពី stream ចាប់ផ្តើម កំហុសចេញជា event ចុងក្រោយ។

ពិនិត្យ error codes → · POST /v1/chat/completions
ទំព័រនេះមានប្រយោជន៍?