Arti error context length exceeded (prompt is too long) dan cara mengatasinya

Setiap model punya jendela konteks: jumlah token maksimal untuk input dan output dalam satu request. Kalau riwayat chat, dokumen, hasil tool dan max_tokens dijumlahkan lebih besar dari itu, request ditolak sebelum diproses.

Teksnya bisa sedikit berbeda antar versi aplikasi dan SDK. Bagian yang ditulis N, M atau nama-model diganti angka atau nama sungguhan.

• OpenAIThis model's maximum context length is N tokens. However, your messages resulted in M tokens. (code: context_length_exceeded)
• Anthropicprompt is too long: M tokens > N maximum
• Google GeminiThe input token count (M) exceeds the maximum number of tokens allowed (N).

• Riwayat percakapan panjang yang terus dikirim ulang.
• Dokumen, log atau file kode besar ditempel utuh.
• Gambar dalam base64 dan hasil tool yang panjang di agent coding.
• max_tokens diatur terlalu besar sehingga input + output melewati batas.

1. Kirim riwayat seperlunya. Simpan 4–10 pesan terakhir saja, atau ringkas percakapan lama menjadi satu pesan.
2. Pecah dokumen. Bagi dokumen menjadi beberapa bagian, ringkas tiap bagian, lalu gabungkan ringkasannya.
3. Turunkan max_tokens. Minta output secukupnya; output yang dipesan ikut memakan jendela konteks.
4. Bersihkan sesi agent. Di Claude Code jalankan /compact untuk meringkas atau /clear untuk mulai baru; di Cline dan Roo Code buka tugas baru.
5. Pilih model dengan konteks lebih besar. Kalau memang butuh konteks panjang, pakai model yang jendelanya lebih besar, dengan sadar bahwa prompt panjang juga lebih mahal.

• Di Ezkielyna, request yang terlalu besar untuk model tujuan dijawab dengan pesan "The request is too large for this model. Shorten the context or attachments." Request di atas 32 MB (biasanya karena gambar) ditolak dengan 413 request_too_large.
• Konteks panjang juga menaikkan biaya. Halaman biaya ringkas dokumen menghitung biaya per halaman dengan harga live.

Alat bantu: biaya ringkas dokumen · daftar model dan grup