Zum Inhalt springen

AWS S3 Create-Plugin (veraltet) für Jitterbit-Cloud und private Agentengruppen

Einführung

Das Plugin „AWS S3 Create“ lädt in einer Operation eine Datei als Ziel auf Amazon AWS S3 hoch.

Dieses Plugin ist standardmäßig in Jitterbit-Cloud-Agent-Gruppen verfügbar und können auch mit privaten Agentengruppen verknüpft werden.

Auf dieser Seite werden die Schritte zur Verwendung des AWS S3 Create-Plugin detailliert beschrieben:

  1. Laden Sie das Plugin herunter und fügen Sie es hinzu
  2. Verknüpfen Sie das Plugin mit einer Agentengruppe
  3. Weisen Sie das Plugin einem Ziel zu
  4. Globale Variablen für das Plugin festlegen
  5. Operation abschließen

Wichtig

Von Jitterbit bereitgestellte Plugins sind veraltet.

Verschlüsselung

Das Plugin „AWS S3 Create“ übergibt die von Ihnen bereitgestellte AWS S3-Zugriffsschlüssel-ID und den geheimen Zugriffsschlüssel (siehe unten Globale Variablen für das Plugin festlegen) an Amazon. Die Sicherheit wird von Amazon gemäß der Amazon-Dokumentation zu AWS-Sicherheitsanmeldeinformationen gehandhabt.

Version 1.0.1.0 des Jitterbit AWS S3 Create Plugin unterstützt S3-Buckets, die eine dieser Verschlüsselung verwenden:

  • Keine: Keine Verschlüsselung
  • AES-256: Serverseitige Verschlüsselung mit von Amazon S3 verwalteten Schlüsseln (SSE-S3)
  • AWS-KMS: Serverseitige Verschlüsselung mit AWS KMS-Managed Keys (SSE-KMS)

Version 1.0.0.0 des Jitterbit AWS S3 Create-Plugin unterstützt die Verwendung keiner Verschlüsselung oder AES-256. KMS Verschlüsselung wird in dieser Version nicht unterstützt.

Verwendung

Das AWS S3 Create-Plugin kann immer dann verwendet werden, wenn Sie Dateien zu AWS hochladen müssen.

In einem häufigen Anwendungsfall kann dieses Plugin verwendet werden, um große Datenmengen in ein Snowflake Data Warehouse zu verschieben, wenn es mit Snowpipe verwendet wird. Um dieses empfohlene Setup zu verwenden, folgen Sie der Snowflakes Snowpipe-Dokumentation, und konfigurieren Sie dann das AWS S3 Create-Plugin wie auf dieser Seite beschrieben.

Notiz

Zur Verbesserung der Leistung wird anstelle des JDBC- Driver von Snowflake die Verwendung von Snowpipe und dem Plugin „AWS S3 Create“ empfohlen. Es ist jedoch auch möglich, den JDBC- Driver von Snowflake zu installieren und verwenden Sie dann Snowflake als Datenbankziel im Design Studio.

Zusätzliche Funktionalität

Darüber hinaus bieten diese Optionen zusätzliche Funktionen, die über das AWS S3 Create-Plugin hinausgehen:

Laden Sie das Plugin herunter und fügen Sie es hinzu

Das AWS S3 Create-Plugin ist ein Standard-Jitterbit Plugin, das bereits in der Management Console verfügbar ist Plugins-Seite und muss nicht heruntergeladen oder zur Organisation hinzugefügt werden.

Unter Anweisung des Supports kann dieses Plugin unter den unten angegebenen Links heruntergeladen und der Organisation hinzugefügt werden.

Verknüpfen Sie das Plugin mit einer Agentengruppe

Beide Versionen des AWS S3 Create-Plugin sind standardmäßig mit Jitterbit-Cloud-Agent-Gruppen verknüpft. Wir empfehlen die Verwendung von Version 1.0.1.0.

Wenn Sie eine private Agentengruppe verwenden, müssen Sie das Plugin-In vor der Verwendung mit der privaten Agentengruppe verknüpfen, um das Plugin-In für alle Agenten in der Gruppe verfügbar zu machen.

Die Plugins sind in der Management Console Plugins aufgelistet Seite mit diesen Anzeigenamen:

  • Jitterbit_AWS_S3_Create (Version 1.0.1.0)

  • Jitterbit AWS S3 Create (Version 1.0.0.0)

Weisen Sie das Plugin einem Ziel zu

In einem Design Studio Projekt müssen Sie das Plugin einem Ziel zuweisen innerhalb einer Operation (siehe Operation erstellen. Ein Beispiel für einen Operation finden Sie am Ende dieser Seite.

Im Rahmen des Projekts:

  1. Operation erstellen. Jede Operation, die ein Ziel verwendet, kann verwendet werden.

  2. Erstellen Sie ein Dummy-Ziel, dem das Plugin zugewiesen wird. Dieses Ziel wird als Platzhalter verwendet und es wird nicht tatsächlich darauf geschrieben. Wir empfehlen die Verwendung einer Dateitypquelle wie Temporary Storage, lokale Datei oder FTP Site und geben Sie einen Dateinamen-Wert von [file].[ext]. Dadurch wird sichergestellt, dass die Datei denselben Namen und dieselbe Erweiterung hat wie die Datei aus der Quelle.

    Hinweis

    A globales Variablenziel kann auch verwendet werden, wenn Sie eine einzelne Datei in S3 schreiben.

  3. Weisen Sie das Plugin dem Ziel zu. Klicken Sie dazu mit der rechten Maustaste auf die Quelle und wählen Sie Plugin. Wählen Sie im Popup unter Verfügbare Plugins „Jitterbit AWS S3 Get“ aus und klicken Sie auf Zuweisen. Klicken Sie anschließend auf OK.

Tipp

Eine detaillierte Dokumentation zum Zuweisen von Plugins finden Sie unter Pipeline-Plugins anwenden.

Festlegen globaler Variablen für das Plugin

Damit ein einem Ziel zugewiesenes Plugin funktioniert, müssen alle globalen Variablen müssen vom Plugin benötigt werden. Diese Variablen werden in einem Script gesetzt, das in der Operation vor dem Ziel platziert werden sollte, damit die Variablen initialisiert werden können. Scripts werden in einer Operation oft vor der Quelle gesetzt, die wiederum vor dem Ziel steht.

So fügen Sie im Operation vor der Quelle und dem Ziel ein Script hinzu:

  1. Klicken Sie im Operation mit der rechten Maustaste auf die Quelle und wählen Sie Davor einfügen > Script.

  2. Erstellen Sie ein neues Jitterbit Script, das Variablen festlegt, die das Plugin zur Authentifizierung mit Ihrem S3-Bucket und zum Hochladen aller von Ihnen angegebenen Dateien verwendet. Unten finden Sie eine Script für erforderliche Variablen, gefolgt von einer Dokumentation aller möglichen Variablen, die im Script enthalten sein können.

    AWS S3 Create Script
    <trans>
    $AWS.S3.BUCKET_NAME="<YOUR_BUCKET_NAME>";
    $AWS.S3.ACCESS_KEY_ID="<YOUR_ACCESS_KEY>";
    $AWS.S3.SECRET_ACCESS_KEY="<YOUR_SECRET_KEY>";
    </trans>
    
Name Typ Erforderlich Beschreibung
AWS.S3.ENDPOINT Zeichenfolge Optional Die URL des Amazon AWS S3- Endpoint. Standardmäßig "s3.amazonaws.com" wenn nicht festgelegt. Gültige Endpoint nach Region finden Sie in der Amazon-Dokumentation AWS-Regionen und Endpoints.
AWS.S3.BUCKET_NAME Zeichenfolge Erforderlich Der Name des S3-Ziel-Buckets (z. B. "my_bucket").
AWS.S3.ACCESS_KEY_ID Zeichenfolge Erforderlich Der S3-Zugriffsschlüssel (z. B. "ABCDEFGHI1JK2LM3NOPQ").
AWS.S3.SECRET_ACCESS_KEY Zeichenfolge Erforderlich Der geheime S3-Zugriffsschlüssel (z. B. "1aBCd2e/F34gH56IJ7Kl/Mno8pqRsTUvw9x0yzzz").
AWS.S3.REGION Zeichenfolge Optional Die S3-Region. Standardmäßig "DEFAULT_REGION" wenn nicht festgelegt (nicht empfohlen). Aktuelle Regionsnamen finden Sie in der Amazon-Dokumentation AWS-Regionen und Endpoints.
AWS.S3.OBJECT_KEY Zeichenfolge Optional Der zu schreibende S3-Objektschlüssel. Dies ist der Name der spezifischen Datei, die Sie hochladen, z. B. "myfile.txt". Um in einen vorhandenen Ordner im Bucket zu schreiben, fügen Sie den Ordnernamen nach einem Schrägstrich hinzu (z. B. "my_folder/myfile.txt"). Der Ordner muss bereits vorhanden sein. Wenn diese Variable nicht im Script enthalten ist, wird nur eine Datei im Bucket und Ordner (falls angegeben) zurückgegeben. Die Angabe mehrerer Dateien oder die Verwendung von Platzhaltern wird nicht unterstützt.

Vollständige Operation

Der Plugin-Teil der Operation ist abgeschlossen, wenn Sie (1) das Script haben, das die mit dem Plugin zu verwendenden Variablen definiert, und (2) das Plugin einem Ziel im Operation zugewiesen haben.

Um die Einrichtung Ihres Operation abzuschließen, definieren Sie eine Quelle, aus der die Daten stammen, oder fügen Sie sowohl eine Quelle als auch eine Transformation hinzu, wenn Sie Ihre Daten transformieren möchten, bevor sie den S3-Bucket erreichen. Wenn Sie eine einzelne Datei in S3 schreiben, ist die Einrichtung des Operation abgeschlossen.

Beispiel 1

Wenn Sie mehrere Dateien in S3 schreiben möchten, können Sie manuell ein zusätzliches Script erstellen, um die Dateien in Ihrem S3-Bucket zu durchlaufen. Stellen Sie sicher, dass Sie keine Werte in der AWS.S3.OBJECT_KEY Variable.

Da mit dem Plugin nur eine Datei zurückgegeben wird, können Sie jede Datei einzeln durch die Operation laufen lassen. Beispielsweise können Sie mit einer Kombination aus FileList, While, Und RunOperation und eine neu definierte globale Variable SingleFile, dieses Script greift auf jede Datei zu und führt dann den Operation mit dem Plugin aus:

File Loop Script
<trans>
Files = FileList("<TAG>Sources/All Files</TAG>");
i = 0;
while(i< length(Files),
$SingleFile = Files[i];
RunOperation("<TAG>Operations/Read from source and write to S3</TAG>");

i++;
)

</trans>

Für die Verwendung mit dem obigen Script müssen Sie die neue globale Variable referenzieren [SingleFile] in Get Files Ihrer Dateitypquelle. Dieses Beispiel kann für die Verwendung mit anderen Konfigurationen angepasst werden.

Beispiel 2