Apa itu Context Window?
Context Window adalah kapasitas informasi yang dapat dimasukkan dan dipertimbangkan model dalam satu permintaan. Isinya dapat mencakup prompt, riwayat percakapan, dokumen, instruksi sistem, dan output sebelumnya. Jika konteks terlalu besar, sebagian informasi mungkin harus diringkas atau dikeluarkan.
Model dengan context window besar dapat membaca dokumen panjang sekaligus sebelum menjawab pertanyaan tentang isinya.