Verwenden Sie OpenAI zur Verarbeitung von Daten in einer Studio-Operation in Jitterbit Studio

Einführung

Der OpenAI-Connector ermöglicht es Studio-Operationen, Daten an OpenAI zu senden und im Gegenzug KI-generierten Text zu erhalten. Dieser Leitfaden behandelt das gängige Muster zur Erstellung eines OpenAI-Prompts aus Quelldaten, das Senden an OpenAI mithilfe der Prompt-Aktivität und das Weiterleiten der KI-Antwort an ein nachgelagertes Ziel wie eine Datenbank, eine Datei oder einen Benachrichtigungskanal.

Entwurfsmuster

Die Operation, die Daten an OpenAI übermittelt, folgt dem Transformationsmuster:

Die Quellaktivität stellt die Daten bereit, die zum Erstellen des Prompts verwendet werden (zum Beispiel das Ergebnis einer Salesforce-Datensatzabfrage oder eine Datenbankzeile). Die Transformation ordnet diese Daten den Feldern der Prompt-Anfrage zu. Die Prompt-Aktivität sendet die Anfrage an OpenAI und speichert die Antwort.

Eine zweite Operation, die an den Erfolg der ersten angekettet ist, verwendet eine Transformation, um die KI-Antwort zu lesen und den generierten Text an die Zielaktivität weiterzuleiten (zum Beispiel, um ihn in einen Slack-Kanal zu posten oder in ein Datenbankfeld zu schreiben).

Teil 1: Konfigurieren Sie die OpenAI-Verbindung

1. Öffnen Sie in Studio Ihr Projekt und klicken Sie auf die Projektendpunkte und -connectoren-Registerkarte in der Design-Komponentenpalette.

2. Klicken Sie auf den OpenAI-Connector, um die Verbindungs-Konfiguration zu öffnen.

3. Verbindungsname: Geben Sie einen Namen ein, der diese Verbindung identifiziert, zum Beispiel OpenAI.

4. API/Geheimschlüssel: Geben Sie Ihren OpenAI-API-Schlüssel ein.

   Tip

   Speichern Sie den API-Schlüssel als Projektvariable mit verborgenem Wert und verweisen Sie dann hier auf die Variable, indem Sie das Variablen-Symbol verwenden oder [ eingeben, um sie auszuwählen. Dadurch bleibt der Schlüssel direkt aus der Verbindungs-Konfiguration heraus und lässt sich leicht rotieren, ohne das Projekt zu bearbeiten.

5. API-Version: Lassen Sie dies auf dem Standardwert V1 eingestellt, der die einzige unterstützte Version ist.

6. Klicken Sie auf Test, um die Verbindung zu überprüfen, und klicken Sie dann auf Änderungen speichern.

Teil 2: Konfigurieren Sie die Prompt-Aktivität

Die Prompt-Aktivität ist ein Ziel: Sie konsumiert Daten, die aus einer Transformation zugeordnet sind, und übermittelt sie an OpenAI.

1. Erweitern Sie im Design-Komponenten-Palette den OpenAI-Endpunkt, den Sie erstellt haben. Ziehen Sie den Aktivitätstyp Prompt auf die Design-Leinwand, um eine Aktivitätsinstanz zu erstellen.

2. Doppelklicken Sie auf die Aktivität, um ihre Konfiguration zu öffnen.

Schritt 1: Geben Sie einen Namen ein und spezifizieren Sie die Einstellungen

1. Name: Geben Sie einen Namen für die Aktivität ein, zum Beispiel Summarize Record.

2. Prompt-Text: Geben Sie den Basis-Prompt-Text ein. Dieses Feld akzeptiert eine statische Zeichenfolge oder einen Variablenverweis. Wenn der Prompt dynamisch Quell-Datenfelder einbeziehen muss (zum Beispiel eine Datensatz-ID oder einen Feldwert), lassen Sie dieses Feld als allgemeine Anweisung und überschreiben Sie es mit dem vollständig konstruierten Prompt in der Transformation (siehe Teil 3).

   Beispiel für einen statischen Prompt:

   Fassen Sie den folgenden Supportfall in einem Satz zusammen:
   

3. Modell: Wählen Sie das zu verwendende OpenAI-Modell aus. Der Standardwert ist gpt-4. Eine vollständige Liste der unterstützten Modelle finden Sie im OpenAI-Connector.

4. Optionale Einstellungen: Klicken Sie zum Erweitern:

   • Rolle: Wählen Sie Benutzer für einen Standardbenutzereingabeaufforderung. Verwenden Sie System, um das Verhalten des Assistenten festzulegen, oder Assistent, um Beispielantworten bereitzustellen.
   • Temperatur: Steuert die Zufälligkeit der Antwort. Werte näher bei 0 erzeugen deterministischere Ausgaben; Werte näher bei 2 erzeugen variiertere Ausgaben.
   • Max Tokens: Begrenzen Sie die Länge der Antwort. Setzen Sie dies, um unerwartet lange Abschlüsse zu vermeiden.

5. Klicken Sie auf Weiter.

Schritt 2: Überprüfen Sie die Datenschemas

Die Anfrage- und Antwortschemas werden angezeigt. Das Anfrage-Schema umfasst prompt, model, max_tokens, temperature und top_p. Das Antwort-Schema umfasst choices (ein Array, das ein message-Objekt mit dem generierten content, sowie index und finishReason enthält), usage (Token-Zählungen) und errors.

Klicken Sie auf Fertig, um die Aktivitätskonfiguration zu speichern.

Teil 3: Quellendaten im Prompt in einer Transformation zuordnen

In der Transformation, die der Prompt-Aktivität vorausgeht, ordnen Sie die Quellfelder dem Anfrage-Schema der Prompt-Aktivität zu.

Das wichtigste Feld, das zugeordnet werden muss, ist prompt. Verwenden Sie einen Skriptnode, um den vollständigen Prompt-String zu erstellen, indem Sie die statische Anweisung mit den Feldwerten aus der Quelle kombinieren:

<trans>
"Summarize the following support case in one sentence:\n\n" +
"Subject: " + Source.Subject + "\n" +
"Description: " + Source.Description
</trans>

Dabei sind Source.Subject und Source.Description Felder aus dem Antwortschema der Quellaktivität (zum Beispiel Felder, die von einer Salesforce Query-Aktivität zurückgegeben werden).

Um das im Aktivitätskonfiguration festgelegte Modell zu überschreiben, ordnen Sie das model-Feld einem Literalstring oder einer Projektvariablen zu:

<trans>
$openai_model
</trans>

Teil 4: Zugriff auf die AI-Antwort

Das Antwortschema der Prompt-Aktivität ist in jeder Transformation innerhalb derselben Operation oder in einer nachgelagerten Operation verfügbar.

Ketten Sie eine nachgelagerte Operation

Konfigurieren Sie die On Success-Aktion der Prompt-Operation so, dass eine zweite Operation ausgeführt wird, die die AI-Antwort verarbeitet:

1. Öffnen Sie die Einstellungen der Prompt-Operation.

2. Gehen Sie zur Registerkarte Aktionen, setzen Sie die On Success-Aktion auf Operation ausführen und wählen Sie die nachgelagerte Operation aus.

Für weitere Informationen zum Verketten von Operationen siehe Fehlerbehandlung in Operationen konfigurieren.

Lesen Sie den generierten Text

In der Transformation der nachgelagerten Operation liefert das Antwortschema der Prompt-Aktivität den KI-generierten Text in choices[0].message.content. Ordnen Sie dieses Feld dem Ziel zu:

<trans>
Source.choices[0].message.content
</trans>

Zum Beispiel, ordnen Sie choices[0].message.content einem Slack-Nachricht text-Feld zu, um die KI-Zusammenfassung in einem Kanal zu posten (siehe Senden Sie eine Slack-Benachrichtigung aus einer Studio-Operation), oder ordnen Sie es einem Datenbankfeld zu, um das Ergebnis zu speichern.

Überprüfen Sie auf Fehler

Das Antwortschema enthält auch ein errors-Array. Wenn OpenAI einen Fehler zurückgibt (zum Beispiel aufgrund eines ungültigen Modellnamens oder eines überschrittenen Token-Limits), erscheinen die Fehlerdetails in errors[0].message. Um diese im Betriebsprotokoll anzuzeigen, fügen Sie einen Skriptnode zur Transformation hinzu, der RaiseError aufruft, wenn errors gefüllt ist:

<trans>
if(Length(Source.errors) > 0,
  RaiseError(Source.errors[0].message)
);
</trans>

Überprüfen Sie die Integration

1. Bereitstellen und ausführen Sie die Prompt-Operation manuell.

2. Bestätigen Sie in den Betriebsprotokollen, dass die Prompt-Aktivität erfolgreich abgeschlossen wurde und dass die nachgelagerte Operation ausgelöst wurde.

3. Überprüfen Sie das Protokoll der nachgelagerten Operation, um zu verifizieren, dass choices[0].message.content eine gültige KI-generierte Antwort enthält.

4. Wenn die Prompt-Aktivität mit einem Authentifizierungsfehler fehlschlägt, überprüfen Sie den API-Schlüssel in der OpenAI-Verbindung und bestätigen Sie, dass er in Ihrem OpenAI-Konto nicht widerrufen wurde.

Für fortgeschrittene KI-Muster, die auf diesem Fundament basieren, siehe Dokumente mit KI verarbeiten, LLM-Antworten an Studio-Operationen mit Funktionsaufrufen weiterleiten und Einen Multi-Turn-LLM-Chat mit Gesprächsverlauf erstellen.