In-Context Learning adalah kemampuan model AI, terutama Large Language Model, untuk mempelajari suatu pola, format, atau tugas baru hanya berdasarkan contoh-contoh yang diberikan langsung di dalam prompt, tanpa memerlukan proses pelatihan ulang atau perubahan apa pun pada parameter (bobot) model itu sendiri.
Kemampuan ini berbeda secara fundamental dengan fine-tuning tradisional, yang membutuhkan proses pelatihan tambahan untuk mengubah bobot model secara permanen. Dalam in-context learning, model "belajar" secara sementara hanya dalam batas satu sesi percakapan atau permintaan—begitu sesi berakhir, model tidak menyimpan pembelajaran tersebut untuk permintaan berikutnya, kecuali contoh yang sama disertakan kembali.
Contoh sederhana in-context learning adalah memberikan model beberapa contoh pasangan input-output dalam prompt, seperti: "Ubah kalimat aktif menjadi pasif. Contoh: 'Ani membaca buku' menjadi 'Buku dibaca Ani'. Sekarang ubah: 'Budi menulis surat'." Model kemudian dapat mengenali pola dari contoh yang diberikan dan menerapkannya pada kasus baru, meski sebelumnya tidak pernah secara eksplisit dilatih khusus untuk mengubah kalimat aktif-pasif dalam format yang persis sama.
In-context learning menjadi dasar bagi teknik-teknik seperti few-shot learning (memberi beberapa contoh dalam prompt) dan zero-shot learning (tanpa contoh sama sekali, hanya instruksi langsung). Kemampuan ini merupakan salah satu sifat "muncul dengan sendirinya" (emergent) yang ditemukan pada model bahasa berskala besar, dan menjadi salah satu alasan mengapa model-model modern begitu fleksibel—pengguna dapat mengarahkan model untuk berbagai tugas baru hanya dengan menyusun prompt yang tepat, tanpa harus melatih model khusus untuk setiap tugas.
Efektivitas in-context learning sangat bergantung pada kualitas dan relevansi contoh yang diberikan, serta ukuran context window model—model dengan context window lebih besar dapat menampung lebih banyak contoh sekaligus, yang umumnya meningkatkan akurasi hasil.
