Next-Token Prediction: Mesin Peramal Kata LLM

Semua model bahasa besar, dari yang kamu pakai di ponsel sampai yang menulis kode, dilatih dengan satu tugas yang sama: menebak token berikutnya. Tugasnya terlihat sederhana, tetapi dari situ muncul kemampuan menulis, menerjemahkan, dan menjawab pertanyaan. Kuncinya ada pada arsitektur yang membaca konteks, yaitu Transformer.

Satu tugas: menebak kata berikutnya

Bayangkan kamu diberi kalimat "Matahari terbit di sebelah". Kata berikutnya jelas "timur". Model dilatih melakukan hal ini berkali-kali pada teks apa pun. Ia melihat urutan token, menebak token selanjutnya, membandingkan tebakannya dengan token asli, lalu memperbaiki parameternya.

Hugging Face menjelaskan bahwa model bahasa generatif dilatih dengan cara ini: memprediksi token berikutnya dari teks sebelumnya. Saat kamu memakai model untuk menulis, ia sebenarnya mengulang proses itu berulang kali, satu token demi satu token, hingga membentuk kalimat lengkap.

Setiap token baru ditambahkan ke konteks, lalu model memprediksi token berikutnya lagi. Begitu seterusnya. Kualitas sebuah model pada dasarnya adalah seberapa baik ia menebak pada langkah berikutnya.

Bagaimana model memilih token

Model tidak menyimpan satu jawaban pasti. Untuk setiap langkah, ia menghasilkan nilai untuk banyak kemungkinan token. Nilai itu lalu diubah menjadi peluang, dan model memilih token berikutnya berdasarkan peluang tersebut.

Cara memilihnya bisa diatur. Pilihan paling aman adalah mengambil token dengan peluang tertinggi setiap kali. Hasilnya konsisten, tetapi cenderung membosankan dan berulang. Pilihan lain adalah membiarkan token berpeluang lebih kecil ikut terpilih, sehingga keluaran terasa lebih beragam dan kreatif.

Hugging Face menyebut pengaturan suhu (temperature) sebagai salah satu cara mengendalikan keberagaman ini. Suhu rendah membuat model lebih pasti dan fokus, suhu lebih tinggi membuatnya lebih berani mengambil jalan yang tidak biasa. Jadi proses "menebak" ini sebenarnya punya banyak nuansa, bukan sekadar memilih kata yang paling mungkin.

Kenapa Transformer penting

Prediksi token berikutnya bukan hal baru. Yang berubah adalah arsitektur yang melakukan prediksi. Paper "Attention Is All You Need" memperkenalkan Transformer, sebuah arsitektur yang sepenuhnya mengandalkan mekanisme perhatian (attention), tanpa pengulangan (recurrence) maupun konvolusi.

Perhatian memungkinkan model menimbang setiap token dalam konteks terhadap token lain. Saat memprediksi kata berikutnya, model bisa memperhitungkan kata yang relevan jauh di belakang kalimat, bukan hanya kata tepat sebelumnya. Inilah yang membantu model menjaga koherensi pada teks panjang.

Arsitektur ini juga lebih mudah diparalelkan dibanding model berulang, sehingga pelatihan pada data raksasa menjadi lebih praktis. Transformer-lah yang membuka jalan bagi model bahasa besar modern.

Kenapa tugas sederhana memunculkan penalaran

Tampaknya aneh bahwa menebak kata bisa menghasilkan kemampuan menerjemahkan dan menalar. Namun untuk menebak dengan baik di seluruh internet, model harus menyerap tata bahasa, fakta, gaya penulisan, dan pola logika dari data yang dibacanya.

Paper GPT-3, "Language Models are Few-Shot Learners", menunjukkan bahwa model bahasa besar bisa menjalankan banyak tugas tanpa pelatihan khusus, hanya dari contoh di dalam prompt. Kemampuan ini tidak dirancang satu per satu, melainkan muncul dari pelatihan memprediksi token berikutnya pada skala besar.

Dengan kata lain, prediksi token berikutnya sederhana sebagai tugas, tetapi luas sebagai sinyal belajar. Untuk menebaknya dengan akurat, model terdorong membentuk representasi internal tentang bahasa dan dunia.

Kaitannya dengan few-shot

Paper GPT-3 menyoroti beberapa cara memberi contoh: tanpa contoh, dengan satu contoh, dan dengan beberapa contoh. Model yang cukup besar mampu mengikuti pola dari beberapa contoh di dalam prompt, tanpa perubahan pada parameternya.

Ini menarik karena tidak ada pelatihan tambahan saat itu. Kamu cukup menulis beberapa contoh pasangan masukan dan keluaran, lalu model melanjutkan polanya. Kemampuan mengikuti contoh ini muncul sebagai efek samping dari pelatihan prediksi token yang masif.

Hugging Face mencatat bahwa menghasilkan teks dari model bisa dikendalikan dengan pengaturan seperti suhu (temperature) dan jumlah token maksimum. Pengaturan ini mengubah cara model memilih token berikutnya, dari yang paling aman hingga yang lebih beragam. Jadi bahkan saat menebak, kamu masih bisa mengatur seberapa berani model melangkah.

Kenapa ini berguna untuk kamu

Paham bahwa model hanya memprediksi token berikutnya menjelaskan banyak hal. Halusinasi bukan kebohongan yang disengaja, melainkan kelanjutan teks yang tampak meyakinkan. Prompt yang jelas membantu karena memberi konteks yang lebih baik untuk prediksi.

Kamu juga lebih mudah memahami mengapa contoh dalam prompt begitu berpengaruh. Beberapa contoh adalah isyarat tambahan yang memandu model memilih token berikutnya, tanpa perlu melatih ulang apa pun. Semakin spesifik polanya, semakin terarah keluarannya.

Semua bergantung pada konteks

Karena prediksi dilakukan satu token demi satu token, seluruh keluaran model bergantung pada konteks yang tersedia saat itu. Konteks mencakup prompt yang kamu tulis, percakapan sebelumnya, dan token yang baru saja dihasilkan model sendiri.

Ini menjelaskan mengapa jendela konteks begitu dibicarakan. Semakin panjang konteks yang bisa ditampung model, semakin banyak bahan yang bisa ia timbang untuk memprediksi token berikutnya. Namun konteks juga punya batas, dan saat penuh, bagian lama biasanya mulai dikurangi atau diabaikan.

Sifat bertahap ini juga menjelaskan mengapa model kadang "terjebak" mengikuti arah salah. Setiap token yang sudah salah bisa menjadi konteks bagi token berikutnya, sehingga kesalahan awal terkadang berlanjut. Sebaliknya, konteks yang jelas dan konsisten membuat langkah prediksi berikutnya lebih mudah.

Ringkasan

Next-token prediction adalah mesin di balik model bahasa. Transformer dan mekanisme perhatian membuat prediksi itu cukup kuat untuk skala besar. Dari tugas menebak kata, muncullah kemampuan bahasa, penalaran, dan mengikuti contoh yang tidak dirancang secara eksplisit.