定義
レート制限とは、一定時間内に受け付けるAPIリクエスト数の上限を定め、過剰なアクセスやサーバー過負荷を防ぐ仕組みのことである。
レート制限 (Rate Limit)とは（詳しく解説）
レート制限は、API提供者がサーバー負荷や不正利用を防ぐため、一定時間あたりのリクエスト数に上限を設ける仕組みで、HTTPステータス429（Too Many Requests）で通知されるのが業界標準の実装とされる。多くのLLM APIでは、RPM（1分あたりのリクエスト数）とTPM（1分あたりのトークン数）の両方で制限がかかる方式が広く採用されており、2026年時点でも従量課金プランのコストと直結する設計になっている。実運用での落とし穴は、バッチ処理やエージェントが同時多発的にリクエストを投げるケースで、リトライ処理を挟まないと本番障害につながりやすい点にある。現場での選び方としては、指数バックオフとジッターを組み込んだリトライ、リクエストのキューイング、上位プランへのアップグレードによる上限緩和などを組み合わせて設計するのが定石とされる。コスト最適化の観点では、上限に張り付く前にモニタリングでアラートを設定し、無駄なリトライで課金だけが膨らむ事態を避ける運用が求められる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「レート制限 (Rate Limit)とは」 https://aipicks.jp/glossary/rate-limit
レート制限 (Rate Limit)の使用例
- APIレスポンスヘッダーのX-RateLimit-Remainingで残りリクエスト数を確認する使い方。
- 「429エラー時は指数バックオフで再試行するコードにして」と指示するプロンプト例。
