Planowanie eksportu danych

Na tej stronie opisujemy, jak zaplanować eksportowanie danych z Cloud Firestore. Aby uruchamiać eksporty zgodnie z harmonogramem, zalecamy używanie Cloud Functions i Cloud Scheduler.

Zanim zaczniesz

Zanim zaplanujesz zarządzane eksporty danych, musisz wykonać te czynności:

  1. Włącz płatności w projekcie Google Cloud projektu. Tylko Google Cloud projekty z włączonymi płatnościami mogą korzystać z funkcji eksportu i importu.
  2. Operacje eksportu wymagają docelowego zasobnika Cloud Storage. Utwórz zasobnik w lokalizacji zbliżonej do lokalizacji bazy danych.Cloud StorageCloud Firestore W przypadku operacji eksportu nie można używać zasobnika, w którym płaci zamawiający.

Tworzenie funkcji w Cloud Functions i zadania w Cloud Scheduler

Aby utworzyć funkcję w Cloud Functions w Node.js, która inicjuje eksport danych z Cloud Firestore oraz zadanie w Cloud Scheduler, które wywołuje tę funkcję, wykonaj te czynności:

wiersz poleceń Firebase
  1. Zainstaluj wiersz poleceń Firebase. W nowym katalogu zainicjuj wiersz poleceń dla Cloud Functions:

    firebase init functions --project PROJECT_ID
    1. Jako język wybierz JavaScript.
    2. Opcjonalnie włącz ESLint.
    3. Wpisz y, aby zainstalować zależności.
  2. Zastąp kod w pliku functions/index.js tym kodem:

    const functions = require('firebase-functions');
    const firestore = require('@google-cloud/firestore');
    const client = new firestore.v1.FirestoreAdminClient();
    
    // Replace BUCKET_NAME
    const bucket = 'gs://BUCKET_NAME';
    
    exports.scheduledFirestoreExport = functions.pubsub
                                                .schedule('every 24 hours')
                                                .onRun((context) => {
    
      const projectId = process.env.GCP_PROJECT;
      const databaseName = 
        client.databasePath(projectId, '(default)');
    
      return client.exportDocuments({
        name: databaseName,
        outputUriPrefix: bucket,
        // Leave collectionIds empty to export all collections
        // or set to a list of collection IDs to export,
        // collectionIds: ['users', 'posts']
        collectionIds: []
        })
      .then(responses => {
        const response = responses[0];
        console.log(`Operation Name: ${response['name']}`);
      })
      .catch(err => {
        console.error(err);
        throw new Error('Export operation failed');
      });
    });
  3. W powyższym kodzie zmień te elementy:
    • Zastąp BUCKET_NAME nazwą swojego zasobnika.
    • Zastąp YOUR_PROJECT_ID identyfikatorem projektu .
    • Zmień every 24 hours, aby ustawić harmonogram eksportu. Użyj składni App Engine cron.yaml lub formatu unix-cron (* * * * *).
    • Zmień collectionIds: [], aby eksportować tylko określone grupy kolekcji. Aby wyeksportować wszystkie grupy kolekcji, pozostaw tę wartość bez zmian.

  4. Wdróż zaplanowaną funkcję:

    firebase deploy --only functions
Konsola Google Cloud
Tworzenie funkcji w Cloud Functions
  1. W konsoli Google Cloud otwórz stronę Cloud Functions:

    Otwórz Cloud Functions

  2. Kliknij Napisz funkcję.
  3. Wpisz nazwę funkcji, np. firestore-export.
  4. W sekcji Aktywator wybierz Cloud Pub/Sub.
  5. W sekcji Temat wybierz Utwórz nowy temat. Wpisz nazwę tematu Pub/Sub, np. initiateFirestoreExport. Zanotuj nazwę tematu, ponieważ będzie Ci ona potrzebna do utworzenia zadania Cloud Scheduler.
  6. W sekcji Kod źródłowy wybierz Edytor wbudowany. Wpisz ten kod w sekcji index.js:
    const firestore = require('@google-cloud/firestore');
    const client = new firestore.v1.FirestoreAdminClient();
    // Replace BUCKET_NAME
    const bucket = 'gs://BUCKET_NAME'
    
    exports.scheduledFirestoreExport = (event, context) => {
      const databaseName = client.databasePath(
        YOUR_PROJECT_ID,
        '(default)'
      );
    
      return client
        .exportDocuments({
          name: databaseName,
          outputUriPrefix: bucket,
          // Leave collectionIds empty to export all collection groups
          // or define a list of collection group IDs:
          // collectionIds: ['users', 'posts']
          collectionIds: [],
        })
        .then(responses => {
          const response = responses[0];
          console.log(`Operation Name: ${response['name']}`);
          return response;
        })
        .catch(err => {
          console.error(err);
        });
    };
    W powyższym kodzie zmień te elementy:
    • Zastąp BUCKET_NAME nazwą swojego zasobnika.
    • Zmień collectionIds: [], aby eksportować tylko określone grupy kolekcji. Aby wyeksportować wszystkie grupy kolekcji, pozostaw tę wartość bez zmian.

  7. W sekcji package.json dodaj tę zależność:
    {
      "dependencies": {
        "@google-cloud/firestore": "^1.3.0"
      }
    }
  8. W sekcji Funkcja do wykonania wpisz scheduledFirestoreExport – nazwę funkcji w index.js.
  9. Aby wdrożyć funkcję w Cloud Functions, kliknij Utwórz.
Tworzenie zadania Cloud Scheduler

Następnie utwórz zadanie Cloud Scheduler, które wywołuje Twoją funkcję w Cloud Functions:

  1. W konsoli Google Cloud otwórz stronę Cloud Scheduler:

    Otwórz Cloud Scheduler

  2. Kliknij Utwórz zadanie.
  3. Wpisz Nazwę zadania, np. scheduledFirestoreExport.
  4. Wpisz Częstotliwość, np. every 24 hours.
  5. Wybierz Strefę czasową.
  6. W sekcji Miejsce docelowe wybierz Pub/Sub. W polu Temat wpisz nazwę tematu Pub/Sub zdefiniowanego razem z funkcją w Cloud Functions, initiateFirestoreExport w powyższym przykładzie.
  7. W polu Ładunek wpisz start export. Zadanie wymaga zdefiniowanego ładunku, ale funkcja w Cloud Functions nie używa tej wartości.
  8. Kliknij Utwórz.
W tym momencie masz już wdrożoną funkcję w Cloud Functions i Cloud Scheduler zadanie, ale funkcja w Cloud Functions nadal potrzebuje uprawnień dostępu do wykonywania operacji eksportu.

Skonfiguruj uprawnienia dostępu

Następnie przyznaj funkcji w Cloud Functions uprawnienia do rozpoczynania operacji eksportu i zapisywania w zasobniku GCS.

Ta funkcja w Cloud Functions używa domyślnego konta usługi projektu do uwierzytelniania i autoryzowania operacji eksportu. Gdy tworzysz projekt, automatycznie tworzone jest domyślne konto usługi o tej nazwie:

PROJECT_ID@appspot.gserviceaccount.com

To konto usługi wymaga uprawnień do rozpoczęcia operacji eksportu i zapisywania w zasobniku Cloud Storage. Aby przyznać te uprawnienia, przypisz do domyślnego konta usługi te role uprawnień:

  • Cloud Datastore Import Export Admin
  • rola Owner lub Storage Admin w zasobniku

Aby przypisać te role, możesz użyć narzędzi wiersza poleceń gcloud i gsutil.

Jeśli nie są one jeszcze zainstalowane, możesz uzyskać do nich dostęp z tych narzędzi z Cloud Shell w konsoli Google Cloud:
Uruchom Cloud Shell

  1. Przypisz rolę Administrator eksportu i importu w Cloud Datastore. Zastąp PROJECT_ID, i uruchom to polecenie:

    gcloud projects add-iam-policy-binding PROJECT_ID \
        --member serviceAccount:PROJECT_ID@appspot.gserviceaccount.com \
        --role roles/datastore.importExportAdmin
  2. Przypisz rolę Administrator pamięci w zasobniku. Zastąp PROJECT_ID i BUCKET_NAME, i uruchom to polecenie:

    gsutil iam ch serviceAccount:PROJECT_ID@appspot.gserviceaccount.com:admin \
        gs://BUCKET_NAME

Jeśli wyłączysz lub usuniesz domyślne konto usługi App Engine, Twoja aplikacja App Engine utraci dostęp do bazy danych Cloud Firestore. Jeśli wyłączysz konto usługi App Engine, możesz je ponownie włączyć. Więcej informacji znajdziesz w artykule Włączanie konta usługi. Jeśli usuniesz konto usługi App Engine w ciągu ostatnich 30 dni, możesz je przywrócić. Więcej informacji znajdziesz w artykule Przywracanie usuniętego konta usługi.

Testowanie zadania w Cloud Scheduler i funkcji w Cloud Functions

Zadanie Cloud Scheduler możesz przetestować na stronie Cloud Scheduler w konsoli Google Cloud.

  1. W konsoli Google Cloud otwórz stronę Cloud Scheduler.
    Otwórz Cloud Scheduler

  2. W wierszu nowego zadania Cloud Scheduler kliknij Uruchom teraz.

    Po kilku sekundach zadanie Cloud Scheduler powinno zaktualizować kolumnę Wynik do wartości Sukces, a kolumnę Ostatnie uruchomienie do bieżącej godziny. Może być konieczne kliknięcie przycisku Odśwież.

Strona Cloud Scheduler potwierdza tylko, że zadanie wywołało Twoją funkcję w Cloud Functions. Aby wyświetlić logi funkcji, otwórz stronę Cloud Functions.

Wyświetlanie logów funkcji w Cloud Functions

Aby sprawdzić, czy funkcja w Cloud Functions pomyślnie rozpoczęła operację eksportu, otwórz logi funkcji:

Konsola Firebase

W konsoli Firebase otwórz stronę Cloud Functions.

Otwórz logi funkcji

konsola GCP

W konsoli Google Cloud otwórz stronę Cloud Functions.

Otwórz przeglądarkę logów

Wyświetlanie postępu eksportu

Aby wyświetlić postęp operacji eksportu, możesz użyć polecenia gcloud firestore operations list. Więcej informacji znajdziesz w artykule Zarządzanie operacjami eksportu i importu.

Po zakończeniu operacji eksportu możesz wyświetlić pliki wyjściowe w swoim Cloud Storage zasobniku:

Otwórz przeglądarkę Cloud Storage