ជម្រើស Server (Server Options)
Server Option គឺជា backing provider ដែល key របស់អ្នកត្រូវបានភ្ជាប់។
មានន័យដូចម្តេច?
- Strict binding — គ្មាន fallback ស្វ័យប្រវត្តិ។ សំណើរបស់អ្នកដំណើរការលើ Option ដែលភ្ជាប់តែប៉ុណ្ណោះ — ប្រសិនបើ Option ដំណើរការយឺត ឬឆ្លងដេន សំណើនឹងបញ្ជាក់ពីកំហុស មិនផ្លាស់ទៅ server ផ្សេងឡើយ។
- កូតាត្រូវបានគិតតាម markup របស់ Option។ Option នីមួយៗអាចមាន markup ខុសគ្នា — billable tokens អាចខុសពី actual tokens។
- Key ដែលភ្ជាប់ Option ហៅតែ model របស់ Option នោះ។ 404 invalid_model ប្រសិនបើ model មិននៅក្នុងបញ្ជី។
- GET /v1/models បង្ហាញតែ model នៃ Option ដែលភ្ជាប់។
មើល Option របស់អ្នក
ទំព័រ Check key បង្ហាញឈ្មោះ Option — មិនបង្ហាញ URLs ឬ credentials ទេ។
ឈ្មោះ Option មាននៅក្នុង response /v1/usage? ទេ — មានតែក្នុង Check key និងពេលបង្កើត key (serverName)។
សម្រាប់ vendors
Vendors រាយ Options ដែលអាចប្រើបានតាម GET /api/server-options រួចភ្ជាប់ serverId ពេលបង្កើត key — serverId ត្រូវបានកំណត់ជាអចិន្ត្រៃយ៍ មិនអាចផ្លាស់ប្តូរក្រោយពេលបង្កើតទេ។
ទំព័រនេះមានប្រយោជន៍?