Mengelola retensi data dengan indeks TTL

Halaman ini menjelaskan cara menggunakan MongoDB API, konsol Google Cloud, dan Google Cloud CLI untuk mengonfigurasi indeks time to live (TTL).

Ringkasan time to live

Gunakan indeks TTL untuk secara otomatis menghapus data yang sudah tidak berlaku dari database. Indeks TTL menetapkan kolom tertentu sebagai waktu habis masa berlaku untuk dokumen dalam koleksi tertentu. Dengan TTL, Anda dapat mengurangi biaya penyimpanan dengan menghapus data yang sudah tidak digunakan. Data biasanya dihapus dalam waktu 24 jam setelah tanggal habis masa berlakunya.

Harga

Operasi penghapusan TTL diperhitungkan dalam biaya penghapusan dokumen Anda. Untuk mengetahui harga operasi hapus, lihat Harga edisi Cloud Firestore Enterprise.

Limit dan batasan

  • Anda hanya dapat membuat satu indeks TTL per koleksi.
  • Anda dapat memiliki maksimum 500 indeks TTL.

Penghapusan TTL

Perhatikan perilaku utama penghapusan berdasarkan TTL berikut:

  • Penghapusan melalui TTL bukan proses yang instan. Dokumen yang habis masa berlakunya akan terus muncul di kueri dan permintaan pencarian hingga proses TTL benar-benar menghapusnya. TTL mengorbankan ketepatan waktu penghapusan dengan tujuan mengurangi total biaya kepemilikan untuk penghapusan. Data biasanya dihapus dalam waktu 24 jam setelah tanggal habis masa berlakunya.

  • Membuat indeks TTL pada koleksi yang sudah ada akan mengakibatkan penghapusan massal semua data yang masa berlakunya telah habis sesuai dengan indeks TTL yang baru. Perhatikan bahwa penghapusan massal ini juga tidak seketika dan bergantung pada jumlah data yang ada untuk koleksi tersebut.

  • Jika suatu dokumen memiliki waktu habis masa berlaku sebelumnya dan Anda menambahkan indeks TTL baru ke koleksi, dokumen tersebut akan dihapus dalam waktu 24 jam sejak penyiapan penyelesaian indeks TTL dan menjadi aktif.

  • TTL belum tentu menghapus dokumen dalam urutan yang sama seperti urutan stempel waktu habis masa berlakunya dokumen.

  • Penghapusan tidak dilakukan secara transaksional. Dokumen dengan waktu habis masa berlaku yang sama belum tentu dihapus pada waktu yang sama. Jika Anda memerlukan perilaku tersebut, lakukan penghapusan menggunakan library klien.

  • Cloud Firestore akan selalu mematuhi kolom TTL terbaru untuk menentukan masa berlaku. Misalnya, jika dokumen yang masa berlakunya habis tetapi belum dihapus memiliki kolom TTL yang diperbarui ke tanggal berikutnya, dokumen tersebut tidak akan habis masa berlakunya dan tanggal baru akan digunakan.

  • Masa berlaku dokumen Cloud Firestore akan habis hanya jika kolom TTL ditetapkan ke nilai Date and time/BSON Date atau nilai Array yang berisi nilai Date and time/BSON Date. Biarkan kolom kosong atau tetapkan ke nilai seperti null untuk menonaktifkan masa berlaku per dokumen.

  • TTL dirancang untuk meminimalkan dampak terhadap aktivitas database lainnya. Penghapusan berdasarkan TTL diperlakukan dengan prioritas yang lebih rendah. Strategi lain juga tersedia untuk memperlancar lonjakan traffic dari penghapusan berbasis TTL.

Kolom TTL dan indeks non-TTL

Kolom TTL dapat diindeks atau tidak diindeks. Namun, karena kolom TTL adalah stempel waktu, penyertaan kolom ini dalam indeks non-TTL dapat memengaruhi performa pada kecepatan traffic yang lebih tinggi. Penyertaan kolom stempel waktu dalam indeks non-TTL dapat membuat hotspot. Hal ini bertentangan dengan praktik terbaik. Hotspot memiliki kecepatan baca, tulis, dan hapus yang tinggi untuk rentang dokumen yang sempit.

Izin

Entitas yang membuat atau menghapus indeks TTL memerlukan izin berikut dalam project:

  • Untuk melihat indeks TTL, Anda memerlukan izin datastore.indexes.list dan datastore.indexes.get.
  • Untuk membuat atau menghapus indeks TTL, Anda memerlukan izin datastore.indexes.update.
  • Untuk memeriksa status operasi TTL, Anda memerlukan izin datastore.operations.list dan datastore.operations.get.

Untuk peran yang menetapkan izin ini, lihat Peran Identity and Access Management Cloud Firestore.

Sebelum memulai

Sebelum menggunakan gcloud CLI untuk mengelola indeks TTL, gunakan perintah gcloud components update untuk mengupdate komponen ke versi terbaru yang tersedia:

gcloud components update

Membuat indeks TTL

Saat membuat indeks TTL, Anda menetapkan suatu kolom dokumen sebagai waktu habis masa berlaku untuk dokumen dalam suatu koleksi.

TTL menggunakan kolom yang ditetapkan untuk mengidentifikasi dokumen yang memenuhi syarat untuk dihapus. Kolom TTL harus ditetapkan ke nilai Timestamp/BSON Date atau nilai Array yang berisi nilai Timestamp/BSON Date. Anda dapat memilih kolom yang sudah ada atau menentukan kolom yang akan ditambahkan nanti.

Pertimbangkan hal berikut sebelum Anda menetapkan nilai kolom TTL:

  • Nilai kolom TTL dapat berupa waktu di masa mendatang, sekarang, atau di masa lalu. Jika nilainya adalah waktu di masa lalu, dokumen akan langsung memenuhi syarat untuk dihapus. Misalnya, Anda dapat membuat indeks TTL dengan kolom expireAt yang kemudian Anda tambahkan ke dokumen yang sudah ada.

  • Menggunakan jenis data lainnya atau tidak menetapkan nilai kolom TTL akan menonaktifkan TTL untuk setiap dokumen.

Untuk membuat indeks TTL, ikuti langkah-langkah berikut:

MongoDB API

Sertakan opsi indeks expireAfterSeconds saat memanggil metode createIndex():

db.COLLECTION_NAME.createIndex({"TTL_FIELD": 1, "expireAfterSeconds": EXPIRATION_OFFSET_SECONDS})

Contoh:

db.restaurants.createIndex({"ts": 1, "expireAfterSeconds": 3600})

expireAfterSeconds mengidentifikasi TTL sebagai indeks TTL dan merupakan selisih antara nilai stempel waktu dari kolom TTL dan waktu habis masa berlaku. Jika expireAfterSeconds ditetapkan ke 0, waktu habis masa berlaku diberikan langsung oleh nilai stempel waktu dari kolom TTL.

Perhatikan batasan berikut:

  • Indeks TTL harus menyertakan tepat satu kolom.
  • Indeks TTL tidak dapat digunakan dalam kueri.
  • Anda hanya dapat membuat satu indeks TTL per koleksi.
  • Log audit untuk pembuatan indeks TTL dengan MongoDB API menggunakan nama metode google.firestore.admin.v1.FirestoreAdmin.UpdateField.

Konsol Google Cloud

  1. Di konsol Google Cloud, buka halaman Databases.

    Buka Databases

  2. Pilih database yang diperlukan dari daftar database.

  3. Di menu navigasi, klik Time-to-live.

  4. Klik Create Policy.

  5. Masukkan nama koleksi dan nama kolom stempel waktu.

  6. Klik Create.

Konsol akan kembali ke halaman Time-to-live. Jika operasi berhasil dimulai, halaman akan menambahkan entri ke tabel indeks TTL. Jika gagal, halaman akan menampilkan pesan error.

gcloud

  1. Instal dan lakukan inisialisasi CLI gcloud CLI.

  2. Gunakan perintah firestore fields ttls update untuk mengonfigurasi indeks TTL. Tambahkan flag --async agar alat gcloud CLI tidak menunggu operasi selesai.

     gcloud firestore fields ttls update
ttl_field --collection-group=collection_name
--enable-ttl

Durasi pembuatan indeks TTL

Bahkan pada database yang kosong, diperlukan waktu sepuluh menit atau lebih untuk membuat indeks TTL. Setelah Anda memulai operasi, penutupan terminal tidak akan membatalkan operasi.

Melihat indeks TTL

Untuk melihat indeks TTL, ikuti langkah-langkah berikut:

MongoDB API

Gunakan metode listIndexes() untuk melihat indeks TTL. Contoh:

db.restaurants.listIndexes()

Perhatikan bahwa output akan mencakup indeks TTL dan indeks non-TTL. Indeks TTL akan mencakup opsi expireAfterSeconds.

Konsol Google Cloud

  1. Di konsol Google Cloud, buka halaman Databases.

    Buka Databases

  2. Pilih database yang diperlukan dari daftar database.

  3. Di menu navigasi, klik Time-to-live.

Konsol mencantumkan indeks TTL untuk database Anda dan menyertakan status setiap indeks.

gcloud

  1. Instal dan lakukan inisialisasi CLI gcloud CLI.

  2. Gunakan perintah firestore fields ttls list untuk mengonfigurasi indeks TTL. Perintah berikut mencantumkan semua indeks TTL.

    gcloud firestore fields ttls list

    Untuk mencantumkan indeks TTL pada koleksi tertentu, gunakan perintah berikut:

    gcloud firestore fields ttls list  --collection-group=collection_name

Melihat detail operasi

Anda dapat menggunakan gcloud CLI untuk melihat detail selengkapnya tentang indeks TTL yang ada dalam status CREATING.

Gunakan perintah operations list untuk melihat semua operasi yang sedang berjalan dan yang baru selesai:

gcloud firestore operations list

Responsnya mencakup perkiraan progres operasi.

Menghapus indeks TTL

Untuk menghapus indeks TTL, ikuti langkah-langkah berikut:

MongoDB API

Gunakan metode dropIndex() untuk menghapus indeks TTL. Contoh:

Menghapus indeks TTL menggunakan nama indeks

db.restaurants.dropIndex("ts_1")

Menghapus indeks TTL menggunakan definisi indeks

db.restaurants.dropIndex({"ts": 1})

Perhatikan bahwa Log audit untuk menghapus indeks TTL dengan MongoDB API menggunakan nama metode google.firestore.admin.v1.FirestoreAdmin.UpdateField.

Konsol Google Cloud

  1. Di konsol Google Cloud, buka halaman Databases.

    Buka Databases

  2. Pilih database yang diperlukan dari daftar database.

  3. Di menu navigasi, klik Time-to-live.

  4. Di tabel indeks TTL, temukan baris untuk indeks TTL. Dalam baris tabel ini, klik tombol Delete (tempat sampah).

  5. Konfirmasikan dengan mengklik Delete.

Konsol akan kembali ke halaman Time-to-live. Setelah berhasil, Cloud Firestore akan menghapus indeks TTL dari tabel.

gcloud

  1. Instal dan lakukan inisialisasi CLI gcloud CLI.

  2. Gunakan perintah firestore fields ttls update untuk mengonfigurasi indeks TTL. Tambahkan flag --async agar alat gcloud CLI tidak menunggu operasi selesai.

    gcloud firestore fields ttls update ttl_field --collection-group=collection_name --disable-ttl

Memantau penghapusan TTL

Anda dapat menggunakan Cloud Monitoring untuk melihat metrik terkait penghapusan berdasarkan TTL. Cloud Firestore menyediakan metrik berikut untuk TTL:

Jenis metrik Nama metrik Deskripsi metrik
firestore.googleapis.com/document/ttl_deletion_count Jumlah penghapusan time to live (TTL)

Jumlah total dokumen yang dihapus oleh indeks TTL.
firestore.googleapis.com/document/ttl_expiration_to_deletion_delays Akhir masa berlaku time to live hingga penundaan penghapusan

Waktu yang berlalu antara saat dokumen habis masa berlakunya berdasarkan indeks TTL hingga saat dokumen benar-benar dihapus.

Untuk menyiapkan dasbor dengan metrik Cloud Firestore, lihat artikel Mengelola dasbor kustom dan Menambahkan widget dasbor.