রেট লিমিট

ডেভেলপার API প্রতি organization, প্রতি মিনিট রেট-লিমিটেড, বাজেট আপনার প্ল্যান দ্বারা নির্ধারিত। প্রতিটি key-প্রমাণীকৃত প্রতিক্রিয়া আপনাকে ঠিক কোথায় আছেন তা জানায়, যাতে আপনি লিমিটে পৌঁছানোর আগেই আপনার ট্রাফিক নিয়ন্ত্রণ করতে পারেন।

রেট-লিমিট হেডার

প্রতিটি key-প্রমাণীকৃত প্রতিক্রিয়া তিনটি হেডার বহন করে:

উইন্ডোটি একটি 60-সেকেন্ডের স্লাইডিং উইন্ডো — প্রতি-প্ল্যান বাজেট প্রতি মিনিটে প্রকাশিত। RateLimit-Remaining পড়ুন এবং এটি শূন্যের কাছাকাছি এলে গতি কমান।

HTTP/1.1 200 OK
RateLimit-Limit: 120
RateLimit-Remaining: 117
RateLimit-Reset: 41
Content-Type: application/json

যখন আপনি লিমিট অতিক্রম করেন

একটি বাজেট-অতিরিক্ত অনুরোধ স্ট্যান্ডার্ড ত্রুটি এনভেলপ এবং একটি Retry-After হেডার সহ 429 ফেরত দেয়, যা আপনাকে কত সেকেন্ড অপেক্ষা করতে হবে তা জানায়:

HTTP/1.1 429 Too Many Requests
Retry-After: 41
RateLimit-Limit: 120
RateLimit-Remaining: 0
RateLimit-Reset: 41
Content-Type: application/json

{
  "error": {
    "type": "rate_limit_error",
    "code": "rate_limit_exceeded",
    "message": "You have exceeded your plan's request allowance."
  }
}

429 হ্যান্ডল করা

• Retry-After সম্মান করুন — পুনরায় চেষ্টা করার আগে নির্দেশিত সেকেন্ড সংখ্যা অপেক্ষা করুন।
• আপনি যদি 429 পেতে থাকেন তবে এক্সপোনেনশিয়ালভাবে ব্যাক অফ করুন।
• বার্স্ট প্রত্যাখ্যাত হওয়ার আগেই থ্রটল করতে RateLimit-Remaining সক্রিয়ভাবে ব্যবহার করুন।

ফেইল-ওপেন

রেট লিমিটার ফেইল ওপেন করার জন্য ডিজাইন করা: লিমিটার নিজেই অনুপলব্ধ হলে, অনুরোধগুলো ব্লক হওয়ার পরিবর্তে অনুমোদিত হয়। লিমিটার ডাউনটাইমের কারণে আপনার কখনো অস্পষ্ট 429 দেখা উচিত নয় — তবে আপনার নিজের ক্লায়েন্টে সঠিকতা প্রয়োগের জন্য লিমিটারের উপর নির্ভর করাও উচিত নয়। RateLimit-* হেডার ব্যবহার করে আপনার ট্রাফিক নিয়ন্ত্রণ করুন।

কোয়েরি কোটা

একটি agent চালানো (POST /agents/{id}/query) অতিরিক্তভাবে সার্ভার-সাইডে আপনার প্ল্যানের কোয়েরি কোটার বিপরীতে পরিমাপ করা হয়। এটি অতিক্রম করলে ব্লকিং পাথে 429, অথবা স্ট্রিমিং পাথে একটি একক error ইভেন্ট ফেরত দেয়। বিস্তারিত জানতে Agent কোয়েরি পৃষ্ঠা দেখুন।