Optymalizacja sieci

Prostota Cloud Functions pozwala szybko opracować kod i uruchomić go w środowisku bezserwerowym. Przy umiarkowanej skali koszt uruchamiania funkcji jest niski, a optymalizacja kodu może nie wydawać się priorytetem. Jednak w miarę skalowania wdrożenia optymalizacja kodu staje się coraz ważniejsza.

W tym dokumencie opisano, jak zoptymalizować sieć pod kątem swoich funkcji. Niektóre korzyści wynikające z optymalizacji sieci są następujące:

  • Zmniejsz czas procesora poświęcany na ustanawianie nowych połączeń przy każdym wywołaniu funkcji.
  • Zmniejsz prawdopodobieństwo wyczerpania się limitów połączenia lub DNS.

Utrzymywanie trwałych połączeń

W tej sekcji podano przykłady utrzymywania trwałych połączeń w funkcji. Niezastosowanie się do tego może spowodować szybkie wyczerpanie limitów połączeń.

W tej sekcji omówiono następujące scenariusze:

  • HTTP/S
  • Interfejsy API Google

Żądania HTTP/S

Zoptymalizowany fragment kodu poniżej pokazuje, jak utrzymać trwałe połączenia zamiast tworzyć nowe połączenie przy każdym wywołaniu funkcji:

Node.js

const http = require('http');
const functions = require('firebase-functions');

// Setting the `keepAlive` option to `true` keeps
// connections open between function invocations
const agent = new http.Agent({keepAlive: true});

exports.function = functions.https.onRequest((request, response) => {
    req = http.request({
        host: '',
        port: 80,
        path: '',
        method: 'GET',
        agent: agent, // Holds the connection open after the first invocation
    }, res => {
        let rawData = '';
        res.setEncoding('utf8');
        res.on('data', chunk => { rawData += chunk; });
        res.on('end', () => {
            response.status(200).send(`Data: ${rawData}`);
        });
    });
    req.on('error', e => {
        response.status(500).send(`Error: ${e.message}`);
    });
    req.end();
});

Pyton

from firebase_functions import https_fn
import requests

# Create a global HTTP session (which provides connection pooling)
session = requests.Session()

@https_fn.on_request()
def connection_pooling(request):

    # The URL to send the request to
    url = "http://example.com"

    # Process the request
    response = session.get(url)
    response.raise_for_status()
    return https_fn.Response("Success!")
    

Ta funkcja HTTP wykorzystuje pulę połączeń do wysyłania żądań HTTP. Pobiera obiekt żądania ( flask.Request ) i zwraca tekst odpowiedzi lub dowolny zestaw wartości, który można przekształcić w obiekt Response za pomocą make_response .

Dostęp do interfejsów API Google

W poniższym przykładzie zastosowano Cloud Pub/Sub , ale to podejście działa również w przypadku innych bibliotek klienckich — na przykład Cloud Natural Language lub Cloud Spanner . Należy pamiętać, że poprawa wydajności może zależeć od bieżącej implementacji poszczególnych bibliotek klienckich.

Utworzenie obiektu klienta Pub/Sub skutkuje jednym połączeniem i dwoma zapytaniami DNS na każde wywołanie. Aby uniknąć niepotrzebnych połączeń i zapytań DNS, utwórz obiekt klienta Pub/Sub o zasięgu globalnym, jak pokazano w poniższym przykładzie:

węzeł.js

const PubSub = require('@google-cloud/pubsub');
const functions = require('firebase-functions');
const pubsub = PubSub();

exports.function = functions.https.onRequest((req, res) => {
    const topic = pubsub.topic('');

    topic.publish('Test message', err => {
        if (err) {
            res.status(500).send(`Error publishing the message: ${err}`);
        } else {
            res.status(200).send('1 message published');
        }
    });
});

Pyton

import os

from firebase_functions import https_fn
from google.cloud import pubsub_v1

# from firebase_functions import https_fn
# Create a global Pub/Sub client to avoid unneeded network activity
pubsub = pubsub_v1.PublisherClient()

@https_fn.on_request()
def gcp_api_call(request):

    project = os.getenv("GCP_PROJECT")
    request_json = request.get_json()

    topic_name = request_json["topic"]
    topic_path = pubsub.topic_path(project, topic_name)

    # Process the request
    data = b"Test message"
    pubsub.publish(topic_path, data=data)

    return https_fn.Response("1 message published")
    

Ta funkcja HTTP korzysta z buforowanej instancji biblioteki klienta, aby zmniejszyć liczbę połączeń wymaganych na wywołanie funkcji. Pobiera obiekt żądania ( flask.Request ) i zwraca tekst odpowiedzi lub dowolny zestaw wartości, który można przekształcić w obiekt Response za pomocą make_response .

Zmienna środowiskowa GCP_PROJECT jest ustawiana automatycznie w środowisku wykonawczym Pythona 3.7. W późniejszych środowiskach wykonawczych pamiętaj o określeniu go podczas wdrażania funkcji. Zobacz Konfigurowanie zmiennych środowiskowych .

Testowanie obciążeniowe Twojej funkcji

Aby zmierzyć, ile połączeń wykonuje średnio Twoja funkcja, po prostu wdróż ją jako funkcję HTTP i użyj platformy do testowania wydajności, aby wywołać ją przy określonej liczbie klatek na sekundę. Jednym z możliwych wyborów jest Artyleria , którą możesz wywołać za pomocą jednej linii:

$ artillery quick -d 300 -r 30 URL

To polecenie pobiera podany adres URL z szybkością 30 QPS przez 300 sekund.

Po wykonaniu testu sprawdź wykorzystanie limitu połączenia na stronie limitów interfejsu Cloud Functions API w Cloud Console. Jeśli użycie stale wynosi około 30 (lub ich wielokrotność), przy każdym wywołaniu ustanawiane jest jedno (lub kilka) połączeń. Po optymalizacji kodu powinieneś zobaczyć kilka (10-30) połączeń występujących tylko na początku testu.

Możesz także porównać koszt procesora przed i po optymalizacji na wykresie przydziału procesora na tej samej stronie.