AWS S3 Create-Plugin (veraltet) für Jitterbit-Cloud und private Agentengruppen
Einführung
Das Plugin „AWS S3 Create“ lädt in einer Operation eine Datei als Ziel auf Amazon AWS S3 hoch.
Dieses Plugin ist standardmäßig in Jitterbit-Cloud-Agent-Gruppen verfügbar und können auch mit privaten Agentengruppen verknüpft werden.
Auf dieser Seite werden die Schritte zur Verwendung des AWS S3 Create-Plugin detailliert beschrieben:
- Laden Sie das Plugin herunter und fügen Sie es hinzu
- Verknüpfen Sie das Plugin mit einer Agentengruppe
- Weisen Sie das Plugin einem Ziel zu
- Globale Variablen für das Plugin festlegen
- Operation abschließen
Wichtig
Von Jitterbit bereitgestellte Plugins sind veraltet.
Verschlüsselung
Das Plugin „AWS S3 Create“ übergibt die von Ihnen bereitgestellte AWS S3-Zugriffsschlüssel-ID und den geheimen Zugriffsschlüssel (siehe unten Globale Variablen für das Plugin festlegen) an Amazon. Die Sicherheit wird von Amazon gemäß der Amazon-Dokumentation zu AWS-Sicherheitsanmeldeinformationen gehandhabt.
Version 1.0.1.0 des Jitterbit AWS S3 Create Plugin unterstützt S3-Buckets, die eine dieser Verschlüsselung verwenden:
- Keine: Keine Verschlüsselung
- AES-256: Serverseitige Verschlüsselung mit von Amazon S3 verwalteten Schlüsseln (SSE-S3)
- AWS-KMS: Serverseitige Verschlüsselung mit AWS KMS-Managed Keys (SSE-KMS)
Version 1.0.0.0 des Jitterbit AWS S3 Create-Plugin unterstützt die Verwendung keiner Verschlüsselung oder AES-256. KMS Verschlüsselung wird in dieser Version nicht unterstützt.
Verwendung
Das AWS S3 Create-Plugin kann immer dann verwendet werden, wenn Sie Dateien zu AWS hochladen müssen.
In einem häufigen Anwendungsfall kann dieses Plugin verwendet werden, um große Datenmengen in ein Snowflake Data Warehouse zu verschieben, wenn es mit Snowpipe verwendet wird. Um dieses empfohlene Setup zu verwenden, folgen Sie der Snowflakes Snowpipe-Dokumentation, und konfigurieren Sie dann das AWS S3 Create-Plugin wie auf dieser Seite beschrieben.
Notiz
Zur Verbesserung der Leistung wird anstelle des JDBC- Driver von Snowflake die Verwendung von Snowpipe und dem Plugin „AWS S3 Create“ empfohlen. Es ist jedoch auch möglich, den JDBC- Driver von Snowflake zu installieren und verwenden Sie dann Snowflake als Datenbankziel im Design Studio.
Zusätzliche Funktionalität
Darüber hinaus bieten diese Optionen zusätzliche Funktionen, die über das AWS S3 Create-Plugin hinausgehen:
-
AWS S3 abrufen: AWS S3 abrufen ist ein von Jitterbit bereitgestelltes Plugin zum Lesen, Umbenennen oder Löschen einer Datei aus Amazon AWS S3. Eine gelesene Datei kann dann als Quelle verwendet werden von Daten innerhalb einer Operation (siehe Operation erstellen in Design Studio).
-
AWS REST API: Auf die AWS REST API kann über eine HTTP-Quelle zugegriffen werden oder HTTP-Ziel in Design Studio. Bei der Konfiguration kann es notwendig sein, den HMAC-SHA256-Generator zu verwenden Plugin, abhängig von Ihrer Authentifizierungsmethode. Wenn Sie Hilfe benötigen, kontaktieren Sie bitte den Support.
Laden Sie das Plugin herunter und fügen Sie es hinzu
Das AWS S3 Create-Plugin ist ein Standard-Jitterbit Plugin, das bereits in der Management Console verfügbar ist Plugins-Seite und muss nicht heruntergeladen oder zur Organisation hinzugefügt werden.
Unter Anweisung des Supports kann dieses Plugin unter den unten angegebenen Links heruntergeladen und der Organisation hinzugefügt werden.
-
Jitterbit AWS S3 Create 1.0.1.0 (ZIP)
(Verschlüsselung: AES-256, KMS oder Keine) -
Jitterbit AWS S3 Create 1.0.0.0 (ZIP)
(Verschlüsselung: AES-256 oder Keine)
Verknüpfen Sie das Plugin mit einer Agentengruppe
Beide Versionen des AWS S3 Create-Plugin sind standardmäßig mit Jitterbit-Cloud-Agent-Gruppen verknüpft. Wir empfehlen die Verwendung von Version 1.0.1.0.
Wenn Sie eine private Agentengruppe verwenden, müssen Sie das Plugin-In vor der Verwendung mit der privaten Agentengruppe verknüpfen, um das Plugin-In für alle Agenten in der Gruppe verfügbar zu machen.
Die Plugins sind in der Management Console Plugins aufgelistet Seite mit diesen Anzeigenamen:
-
Jitterbit_AWS_S3_Create (Version 1.0.1.0)
-
Jitterbit AWS S3 Create (Version 1.0.0.0)
Weisen Sie das Plugin einem Ziel zu
In einem Design Studio Projekt müssen Sie das Plugin einem Ziel zuweisen innerhalb einer Operation (siehe Operation erstellen. Ein Beispiel für einen Operation finden Sie am Ende dieser Seite.
Im Rahmen des Projekts:
-
Operation erstellen. Jede Operation, die ein Ziel verwendet, kann verwendet werden.
-
Erstellen Sie ein Dummy-Ziel, dem das Plugin zugewiesen wird. Dieses Ziel wird als Platzhalter verwendet und es wird nicht tatsächlich darauf geschrieben. Wir empfehlen die Verwendung einer Dateitypquelle wie Temporary Storage, lokale Datei oder FTP Site und geben Sie einen Dateinamen-Wert von
[file].[ext]
. Dadurch wird sichergestellt, dass die Datei denselben Namen und dieselbe Erweiterung hat wie die Datei aus der Quelle.Hinweis
A globales Variablenziel kann auch verwendet werden, wenn Sie eine einzelne Datei in S3 schreiben.
-
Weisen Sie das Plugin dem Ziel zu. Klicken Sie dazu mit der rechten Maustaste auf die Quelle und wählen Sie Plugin. Wählen Sie im Popup unter Verfügbare Plugins „Jitterbit AWS S3 Get“ aus und klicken Sie auf Zuweisen. Klicken Sie anschließend auf OK.
Tipp
Eine detaillierte Dokumentation zum Zuweisen von Plugins finden Sie unter Pipeline-Plugins anwenden.
Festlegen globaler Variablen für das Plugin
Damit ein einem Ziel zugewiesenes Plugin funktioniert, müssen alle globalen Variablen müssen vom Plugin benötigt werden. Diese Variablen werden in einem Script gesetzt, das in der Operation vor dem Ziel platziert werden sollte, damit die Variablen initialisiert werden können. Scripts werden in einer Operation oft vor der Quelle gesetzt, die wiederum vor dem Ziel steht.
So fügen Sie im Operation vor der Quelle und dem Ziel ein Script hinzu:
-
Klicken Sie im Operation mit der rechten Maustaste auf die Quelle und wählen Sie Davor einfügen > Script.
-
Erstellen Sie ein neues Jitterbit Script, das Variablen festlegt, die das Plugin zur Authentifizierung mit Ihrem S3-Bucket und zum Hochladen aller von Ihnen angegebenen Dateien verwendet. Unten finden Sie eine Script für erforderliche Variablen, gefolgt von einer Dokumentation aller möglichen Variablen, die im Script enthalten sein können.
AWS S3 Create Script<trans> $AWS.S3.BUCKET_NAME="<YOUR_BUCKET_NAME>"; $AWS.S3.ACCESS_KEY_ID="<YOUR_ACCESS_KEY>"; $AWS.S3.SECRET_ACCESS_KEY="<YOUR_SECRET_KEY>"; </trans>
Name | Typ | Erforderlich | Beschreibung |
---|---|---|---|
AWS.S3.ENDPOINT | Zeichenfolge | Optional | Die URL des Amazon AWS S3- Endpoint. Standardmäßig "s3.amazonaws.com" wenn nicht festgelegt. Gültige Endpoint nach Region finden Sie in der Amazon-Dokumentation AWS-Regionen und Endpoints. |
AWS.S3.BUCKET_NAME | Zeichenfolge | Erforderlich | Der Name des S3-Ziel-Buckets (z. B. "my_bucket" ). |
AWS.S3.ACCESS_KEY_ID | Zeichenfolge | Erforderlich | Der S3-Zugriffsschlüssel (z. B. "ABCDEFGHI1JK2LM3NOPQ" ). |
AWS.S3.SECRET_ACCESS_KEY | Zeichenfolge | Erforderlich | Der geheime S3-Zugriffsschlüssel (z. B. "1aBCd2e/F34gH56IJ7Kl/Mno8pqRsTUvw9x0yzzz" ). |
AWS.S3.REGION | Zeichenfolge | Optional | Die S3-Region. Standardmäßig "DEFAULT_REGION" wenn nicht festgelegt (nicht empfohlen). Aktuelle Regionsnamen finden Sie in der Amazon-Dokumentation AWS-Regionen und Endpoints. |
AWS.S3.OBJECT_KEY | Zeichenfolge | Optional | Der zu schreibende S3-Objektschlüssel. Dies ist der Name der spezifischen Datei, die Sie hochladen, z. B. "myfile.txt" . Um in einen vorhandenen Ordner im Bucket zu schreiben, fügen Sie den Ordnernamen nach einem Schrägstrich hinzu (z. B. "my_folder/myfile.txt" ). Der Ordner muss bereits vorhanden sein. Wenn diese Variable nicht im Script enthalten ist, wird nur eine Datei im Bucket und Ordner (falls angegeben) zurückgegeben. Die Angabe mehrerer Dateien oder die Verwendung von Platzhaltern wird nicht unterstützt. |
Vollständige Operation
Der Plugin-Teil der Operation ist abgeschlossen, wenn Sie (1) das Script haben, das die mit dem Plugin zu verwendenden Variablen definiert, und (2) das Plugin einem Ziel im Operation zugewiesen haben.
Um die Einrichtung Ihres Operation abzuschließen, definieren Sie eine Quelle, aus der die Daten stammen, oder fügen Sie sowohl eine Quelle als auch eine Transformation hinzu, wenn Sie Ihre Daten transformieren möchten, bevor sie den S3-Bucket erreichen. Wenn Sie eine einzelne Datei in S3 schreiben, ist die Einrichtung des Operation abgeschlossen.
Wenn Sie mehrere Dateien in S3 schreiben möchten, können Sie manuell ein zusätzliches Script erstellen, um die Dateien in Ihrem S3-Bucket zu durchlaufen. Stellen Sie sicher, dass Sie keine Werte in der AWS.S3.OBJECT_KEY
Variable.
Da mit dem Plugin nur eine Datei zurückgegeben wird, können Sie jede Datei einzeln durch die Operation laufen lassen. Beispielsweise können Sie mit einer Kombination aus FileList
, While
, Und RunOperation
und eine neu definierte globale Variable SingleFile
, dieses Script greift auf jede Datei zu und führt dann den Operation mit dem Plugin aus:
<trans>
Files = FileList("<TAG>Sources/All Files</TAG>");
i = 0;
while(i< length(Files),
$SingleFile = Files[i];
RunOperation("<TAG>Operations/Read from source and write to S3</TAG>");
i++;
)
</trans>
Für die Verwendung mit dem obigen Script müssen Sie die neue globale Variable referenzieren [SingleFile]
in Get Files Ihrer Dateitypquelle. Dieses Beispiel kann für die Verwendung mit anderen Konfigurationen angepasst werden.