Privasi Data Saat Memakai API LLM

Setiap kali kamu mengirim prompt, pertanyaan, atau file ke API model bahasa, data itu meninggalkan komputermu dan masuk ke sistem penyedia. Pertanyaannya bukan hanya apakah data itu aman, tetapi juga apa yang terjadi setelahnya: disimpan berapa lama, dipakai untuk apa, dan siapa lagi yang menyentuhnya.

Data apa yang sebenarnya terkirim

Saat memakai API, kamu umumnya mengirim lebih dari sekadar satu kalimat. OpenAI mendokumentasikan bahwa data yang dikirim ke API-nya dapat disimpan sebagai log pemantauan penyalahgunaan, yaitu log yang dihasilkan dari penggunaan platform dan dibutuhkan untuk menegakkan kebijakan serta mengurangi penggunaan yang merugikan. Selain itu ada application state, yakni data yang disimpan dari beberapa fitur API untuk memenuhi tugas atau permintaan. Contohnya unggahan gambar dan file, riwayat percakapan, serta metadata turunan seperti keluaran pengklasifikasi.

Anthropic menjelaskan hal serupa dari sisi layanannya. Dalam Privacy Policy-nya, konten yang kamu kirim saat berinteraksi dengan layanan disebut Inputs, dan tanggapan atau tindakan yang dihasilkan disebut Outputs. Jika kamu menyertakan data pribadi atau merujuk konten eksternal di dalam Inputs, data itu akan dikumpulkan dan bisa muncul kembali di Outputs. Jadi penting disadari: apa pun yang kamu tempelkan ke prompt berpotensi ikut tersimpan dan tersalin ke keluaran.

Dipakai untuk melatih model atau tidak

Inilah bagian yang paling sering disalahpahami, karena kebijakan tiap penyedia bisa berbeda dan berubah. Di OpenAI, dokumentasinya menyatakan bahwa sejak 1 Maret 2023, data yang dikirim ke API OpenAI tidak dipakai untuk melatih atau memperbaiki model OpenAI, kecuali kamu secara eksplisit memilih ikut berbagi data. Artinya, untuk penggunaan API biasa, default-nya bukan pelatihan.

Anthropic menuliskan hal berbeda untuk layanan konsumennya. Privacy Policy Anthropic menyebut Inputs dan Outputs dapat dipakai untuk melatih dan memperbaiki model AI Anthropic, kecuali kamu memilih keluar (opt out) lewat pengaturan akun. Bahkan bila kamu memilih keluar, Inputs dan Outputs tetap dipakai untuk perbaikan model ketika percakapan ditandai untuk tinjauan keamanan, atau ketika kamu sendiri melaporkan materi tersebut, misalnya lewat mekanisme umpan balik.

Dua contoh ini menunjukkan bahwa tidak ada satu jawaban universal. Ada penyedia yang default-nya tidak melatih, ada yang default-nya melatih kecuali kamu menolak. Karena itu, jangan berasumsi. Baca ketentuan resmi penyedia yang kamu pakai, dan cek apakah tersedia opsi untuk menolak penggunaan data bagi pelatihan.

Satu hal lagi: Privacy Policy Anthropic menyebut secara eksplisit bahwa kebijakan itu tidak berlaku untuk konten yang diproses atas nama pelanggan layanan bisnis seperti akun Enterprise, yang diatur perjanjian pelanggan. Jadi jenis akun, konsumen atau bisnis, bisa mengubah aturannya secara signifikan.

Retensi dan subprocess

Selain dipakai atau tidak, kamu perlu tahu berapa lama data disimpan. OpenAI mendokumentasikan bahwa log pemantauan penyalahgunaan secara default disimpan hingga 30 hari, kecuali retensi lebih lama dibutuhkan hukum atau diperlukan untuk melindungi layanan atau pihak ketiga dari bahaya. Ada pula kontrol seperti Zero Data Retention dan Modified Abuse Monitoring yang bisa mengecualikan konten pelanggan dari log tersebut, tetapi fasilitas ini perlu persetujuan dan memenuhi syarat tertentu.

Perhatikan juga peran subprocess. OpenAI menyatakan memakai sub-processor untuk menyediakan layanannya. Google Cloud, dalam Data Processing Terms-nya, mendefinisikan Subprocessor sebagai pihak ketiga yang diberi wewenang sebagai processor lain untuk memproses Customer Data guna menyediakan bagian dari layanan. Pelanggan memberi izin atas keterlibatan subprocess ini, dan Google berjanji memberi tahu pelanggan setidaknya 30 hari sebelum subprocess pihak ketiga baru mulai memproses data.

Yang tak kalah penting, data bisa berpindah lokasi. Data Processing Terms Google Cloud menyebut Customer Data dapat diproses di negara mana pun tempat Google atau Subprocessornya memiliki fasilitas, dengan tunduk pada komitmen lokasi data tertentu. Anthropic juga menjelaskan pemindahan data ke server di Amerika Serikat dan negara lain, dengan perlindungan seperti standard contractual clauses. Bagi pelanggan dengan kewajiban kepatuhan, daftar subprocess dan lokasi pemrosesan adalah hal yang wajib dicek di dokumen resmi masing-masing penyedia.

Perlu diingat pula, begitu data diteruskan ke layanan pihak ketiga, aturannya ikut berpindah. OpenAI mencatat bahwa data yang dikirim ke MCP server, yang merupakan layanan pihak ketiga, tunduk pada kebijakan retensi penyedia tersebut, begitu pula data yang dikirim ke layanan pihak ketiga lewat koneksi jaringan. Anthropic menyatakan hal serupa untuk integrasi pihak ketiga: layanan penerima memproses data menurut kebijakan privasinya sendiri.

Praktik yang lebih aman

Beberapa langkah sederhana bisa menekan risiko sejak awal.

Jangan kirim rahasia atau data pribadi secara sembarangan. Jika sebuah permintaan tidak benar-benar membutuhkan nomor identitas, kredensial, atau data pelanggan, jangan sertakan. Semakin sedikit data sensitif yang masuk ke prompt, semakin kecil pula dampaknya bila terjadi insiden.

Redaksi sebelum dikirim. Ganti nama, nomor, dan data pengenal lain dengan penanda netral saat kamu perlu memakai contoh nyata. Ini menjaga makna permintaan tetap utuh tanpa membocorkan identitas.

Manfaatkan opsi privasi bila tersedia. Jika penyedia menyediakan opsi untuk tidak memakai data bagi pelatihan, kontrol retensi seperti Zero Data Retention, atau pengaturan wilayah pemrosesan, pertimbangkan untuk memakainya. Ingat, opsi seperti ini umumnya butuh persetujuan dan syarat tertentu.

Cek dokumen resmi sebelum produksi. Saat aplikasi naik ke produksi, tinjau kebutuhan keamanan dan kepatuhan yang berlaku, termasuk soal penyimpanan, transmisi, dan retensi data. Baca kebijakan privasi, ketentuan pemrosesan data, dan daftar subprocess penyedia. Perlakukan semua ini sebagai hal yang harus diverifikasi, bukan diasumsikan.

Yang perlu diingat

Kebijakan data berbeda antar penyedia dan bisa berubah kapan saja. Yang default-nya tidak melatih bisa saja mengubah kebijakan, dan yang melatih biasanya menyediakan cara untuk menolak. Karena itu, verifikasi langsung ke sumber resmi jauh lebih andal daripada mengandalkan kabar atau asumsi lama. Data yang kamu kirim adalah tanggung jawabmu, dan memahaminya adalah langkah pertama menuju penggunaan API model bahasa yang lebih terkendali.