Mit Salesforce Data Cloud-Daten in BigQuery arbeiten

Daten-Cloud-Nutzer können nativ in BigQuery auf ihre Daten-Cloud-Daten zugreifen. Sie können Data Cloud-Daten mit BigQuery Omni analysieren und cloudübergreifende Analysen mit den Daten in Google Cloud durchführen. In diesem Dokument finden Sie Anleitungen für den Zugriff auf Ihre Data Cloud-Daten und mehrere Analyseaufgaben, die Sie mit diesen Daten in BigQuery ausführen können.

Data Cloud funktioniert basierend auf der folgenden Architektur mit BigQuery:

Daten-Cloud-Architektur.

Hinweise

Bevor Sie mit Data Cloud-Daten arbeiten können, müssen Sie ein Daten Cloud-Nutzer sein. Wenn Sie VPC Service Controls für Ihr Projekt aktiviert haben, benötigen Sie zusätzliche Berechtigungen.

Erforderliche Rollen

Die folgenden Rollen und Berechtigungen sind erforderlich:

  • Analytics Hub Subscriber (roles/analyticshub.subscriber)
  • BigQuery Administrator (roles/bigquery.admin)

Daten aus Data Cloud teilen

In dieser Dokumentation wird gezeigt, wie Sie Daten aus Data Cloud für BigQuery freigeben – BYOL-Datenfreigaben – Zero-ETL-Integration in BigQuery.

Für den Zugriff auf ein Data Cloud-Dataset in BigQuery müssen Sie zuerst das Dataset mit BigQuery verknüpfen:

  1. Rufen Sie in der Google Cloud Console die Seite „BigQuery“ auf.

    BigQuery aufrufen

  2. Klicken Sie auf Salesforce Data Cloud.

    Data Cloud-Datasets werden angezeigt. Sie können das Dataset anhand des folgenden Benennungsmusters ermitteln: 

    listing_DATA_SHARE_NAME_TARGET_NAME
    Dabei gilt:

    • DATA_SHARE_NAME: der Name der Datenfreigabe in der Daten-Cloud.
    • TARGET_NAME: Der Name des BigQuery-Ziels in der Daten-Cloud.

  3. Klicken Sie auf das Dataset, das Sie BigQuery hinzufügen möchten.

  4. Klicken Sie auf Dataset zum Projekt hinzufügen.

  5. Geben Sie den Namen des verknüpften Datasets an.

Nachdem das verknüpfte Dataset erstellt wurde, können Sie das Dataset und die darin enthaltenen Tabellen untersuchen. Alle Metadaten der Tabellen werden dynamisch aus Data Cloud abgerufen. Alle Objekte im Dataset sind Ansichten, die den Data Cloud-Objekten zugeordnet sind. BigQuery unterstützt drei Arten von Data Cloud-Objekten:

  • Data Lake-Objekte (DLO)
  • Datenmodellobjekte (DMO)
  • Berechnete Insights-Objekte (CIO)

Alle diese Objekte werden in BigQuery als Ansichten dargestellt. Diese Ansichten verweisen auf ausgeblendete Tabellen, die in Amazon S3 gespeichert sind.

Mit Data Cloud-Daten arbeiten

In den folgenden Beispielen wird ein Dataset namens Northwest Trail Outfitters (NTO) verwendet, das in Data Cloud gehostet wird. Dieses Dataset besteht aus drei Tabellen, die die Onlineverkaufsdaten der NTO-Organisation darstellen:

  • linked_nto_john.nto_customers__dll
  • linked_nto_john.nto_products__dll
  • linked_nto_john.nto_orders__dll

Das andere in diesen Beispielen verwendete Dataset sind Offline-Point-of-Sale-Daten. Dies umfasst die Offlineverkäufe und besteht aus drei Tabellen:

  • nto_pos.customers
  • nto_pos.products
  • nto_pos.orders

In folgenden Datasets werden zusätzliche Objekte gespeichert:

  • aws_data
  • us_data

Ad-hoc-Abfragen ausführen

Mit BigQuery Omni können Sie Ad-hoc-Abfragen ausführen, um die Data Cloud-Daten über das abonnierte Dataset zu analysieren. Das folgende Beispiel zeigt eine einfache Abfrage, mit der die Kundentabelle aus Data Cloud abgefragt wird.

SELECT name__c, age__c
  FROM `listing_nto_john.nto_customers__dll`
  WHERE age > 40
  LIMIT 1000;

Cloudübergreifende Abfragen ausführen

Mit cloudübergreifenden Abfragen können Sie alle Tabellen in der BigQuery Omni-Region und Tabellen in den BigQuery-Regionen zusammenführen. Weitere Informationen zu cloudübergreifenden Abfragen finden Sie in diesem Blogpost. In diesem Beispiel rufen wir den Gesamtumsatz für einen Kunden mit dem Namen john ab.

-- Get combined sales for a customer from both offline and online sales
USING (
  SELECT total_price FROM `listing_nto_john.nto_orders__dll`
       WHERE customer_name = 'john'
  UNION ALL
  SELECT total_price FROM `listing_nto_john.nto_orders__dll`
       WHERE customer_name = 'john'
) a SELECT SUM(total_price);

Cloudübergreifende Datenübertragung über CTAS

Sie können Create Table As Select (CTAS) verwenden, um Daten aus Data Cloud-Tabellen in der BigQuery Omni-Region in die Region US zu verschieben.

-- Move all the orders for March to the US region
CREATE OR REPLACE TABLE us_data.online_orders_march
  AS SELECT * FROM listing_nto_john.nto_orders__dll
    WHERE EXTRACT(MONTH FROM order_time) = 3

Die Zieltabelle ist eine von BigQuery verwaltete Tabelle in der Region US. Diese Tabelle kann mit anderen Tabellen verknüpft werden. Bei diesem Vorgang fallen AWS-Kosten für ausgehenden Traffic an, je nachdem, wie viele Daten übertragen werden.

Sobald die Daten verschoben wurden, müssen Sie keine Gebühren für ausgehenden Traffic für Abfragen mehr bezahlen, die in der Tabelle online_orders_march ausgeführt werden.

Cloudübergreifende materialisierte Ansichten

Über Cross Cloud Materialized Views (CCMV) werden Daten schrittweise aus einer BigQuery Omni-Region in eine Nicht-BigQuery Omni-BigQuery-Region übertragen. Richten Sie eine neue CCMV ein, die eine Zusammenfassung des Gesamtumsatzes aus Onlinetransaktionen überträgt, und replizieren Sie diese Daten in die Region US.

Sie können über Ads Data Hub auf CCMVs zugreifen und sie mit anderen Ads Data Hub-Daten verknüpfen. CCMVs verhalten sich in den meisten Fällen wie normale verwaltete BigQuery-Tabellen.

Lokale materialisierte Ansicht erstellen

So erstellen Sie eine lokale materialisierte Ansicht:

-- Create a local materialized view that keeps track of total sales by day

CREATE MATERIALIZED VIEW `aws_data.total_sales`
  OPTIONS (enable_refresh = true, refresh_interval_minutes = 60)
  AS SELECT EXTRACT(DAY FROM order_time) AS date, SUM(order_total) as sales
    FROM `listing_nto_john.nto_orders__dll`
    GROUP BY 1;

Materialisierte Ansicht autorisieren

Sie müssen materialisierte Ansichten autorisieren, um eine CCMV zu erstellen. Sie können entweder die Ansicht (aws_data.total_sales) oder das Dataset (aws_data) autorisieren. So autorisieren Sie die materialisierte Ansicht:

  1. Rufen Sie in der Google Cloud Console die Seite „BigQuery“ auf.

    BigQuery aufrufen

  2. Öffnen Sie das Quell-Dataset listing_nto_john.

  3. Klicken Sie auf Freigabe und dann auf Datasets autorisieren.

  4. Geben Sie den Dataset-Namen ein (in diesem Fall listing_nto_john) und klicken Sie auf OK.

Materialisierte Replikatansicht erstellen

Erstellen Sie eine neue materialisierte Ansicht mit Replikat in der Region US. Die materialisierte Ansicht wird regelmäßig repliziert, wenn sich die Quelldaten ändern, um das Replikat auf dem neuesten Stand zu halten.

-- Create a replica MV in the us region.
CREATE MATERIALIZED VIEW `us_data.total_sales_replica`
  AS REPLICA OF `aws_data.total_sales`;

Abfrage für eine materialisierte Ansicht eines Replikats ausführen

Im folgenden Beispiel wird eine Abfrage für eine materialisierte Replikatansicht ausgeführt:

-- Find total sales for the current month for the dashboard

SELECT EXTRACT(MONTH FROM CURRENT_DATE()) as month, SUM(sales)
  FROM us_data.total_sales_replica
  WHERE month = EXTRACT(MONTH FROM date)
  GROUP BY 1

Data Cloud-Daten mit INFORMATION_SCHEMA verwenden

Data Cloud-Datasets unterstützen BigQuery-INFORMATION_SCHEMA-Ansichten. Die Daten in den INFORMATION_SCHEMA-Ansichten werden regelmäßig aus Data Cloud synchronisiert und sind möglicherweise veraltet. In der Spalte SYNC_STATUS in den Ansichten TABLES und SCHEMATA werden die letzte abgeschlossene Synchronisierungszeit, alle Fehler, die verhindern, dass BigQuery aktuelle Daten bereitstellt, sowie alle Schritte, die zur Behebung des Fehlers erforderlich sind, angezeigt.

INFORMATION_SCHEMA-Abfragen spiegeln keine Datasets wider, die kürzlich vor der ersten Synchronisierung erstellt wurden.

Data Cloud-Datasets unterliegen den gleichen Einschränkungen wie andere verknüpfte Datasets, z. B. sind sie nur in INFORMATION_SCHEMA in Dataset-bezogenen Abfragen zugänglich.

Nächste Schritte