Pemakaian Codex
Cara Melihat Pemakaian Token Codex: Input, Cache, dan Output
Persentase sisa bukan tagihan token per tugas. Pisahkan konteks, cache, output model, dan log alat sebelum mengoptimalkan.
- Diamati
- Permintaan singkat dapat terasa lebih mahal di akhir sesi panjang daripada dalam sesi baru yang fokus.
- Terverifikasi
- Harga OpenAI membedakan input, cached input, dan output; kompleksitas tugas memengaruhi pemakaian paket.
- Batas
- Tampilan dan paket dapat berubah, jadi artikel ini tidak mengabadikan angka atau posisi tombol.
Poin utama
- Indikator paket bukan rincian token per tugas.
- Konteks panjang dan log bising sering lebih penting daripada satu prompt.
- Gunakan kondisi tugas yang sama saat membandingkan.
Buku pemakaian tugas
- 01Input
- 02Cached input
- 03Output model
- 04Log alat
Kenali meter yang dilihat
Status sesi, pemakaian paket, dan sisa periode berguna untuk tren, tetapi bukan selalu rincian satu tugas. API, paket ChatGPT, dan CLI adalah konteks berbeda.
Catat permukaan produk, model, tanggal, dan tugas. Jangan mengubah persentase paket langsung menjadi biaya API.
Pisahkan kategori pemakaian
Input mencakup prompt, instruksi repositori, file, dan percakapan. Cached input adalah awalan identik yang dapat digunakan ulang; output adalah jawaban dan patch model.
Log perintah menjadi konteks baru saat dibaca model. Log build penuh dan hasil tes berulang sering menjadi noise yang dapat dikendalikan.
- Catat file dan log yang dibaca.
- Ukur volume keluaran alat.
- Tandai compaction atau sesi baru.
Buat buku tugas yang sebanding
Catat tugas, commit awal, model, reasoning, perubahan pemakaian, alat, tes, waktu, kegagalan, dan pengerjaan ulang.
Periksa perluasan scope, pembacaan berlebihan, log duplikat, dan topik campuran sebelum mengganti model.
Prinsip pencatatan saya
Pola beberapa tugas lebih berguna daripada satu angka sisa yang berubah-ubah.