Azure OpenAI Prompt-Aktivität in Jitterbit Studio

Einführung

Eine Azure OpenAI Prompt-Aktivität erstellt mit ihrer Azure OpenAI-Verbindung eine Textvervollständigung für die bereitgestellte Eingabeaufforderung in Azure OpenAI und ist als Ziel zum Verarbeiten von Daten in einem Vorgang vorgesehen.

Erstellen einer Azure OpenAI Prompt-Aktivität

Eine Instanz einer Azure OpenAI Prompt-Aktivität wird aus einer Azure OpenAI-Verbindung mit ihrem Aktivitätstyp Prompt erstellt.

Um eine Instanz einer Aktivität zu erstellen, ziehen Sie den Aktivitätstyp auf die Entwurfsfläche oder kopieren Sie den Aktivitätstyp und fügen Sie ihn auf der Entwurfsfläche ein. Weitere Informationen finden Sie unter Erstellen einer Aktivitäts- oder Tool-Instanz in Komponentenwiederverwendung.

Eine vorhandene Azure OpenAI Prompt-Aktivität kann von diesen Orten aus bearbeitet werden:

• Die Entwurfsfläche (siehe Komponentenaktionsmenü in Entwurfsfläche).
• Die Registerkarte Komponenten des Projektbereichs (siehe Komponentenaktionsmenü in Projektbereich-Registerkarte Komponenten).

Konfigurieren einer Azure OpenAI Prompt-Aktivität

Führen Sie diese Schritte aus, um eine Azure OpenAI Prompt-Aktivität zu konfigurieren:

• Schritt 1: Namen eingeben und Einstellungen festlegen
  Geben Sie einen Namen für die Aktivität an und legen Sie den Eingabeaufforderungstext und optionale Einstellungen fest.

• Schritt 2: Datenschemas überprüfen
  Alle Anfrage- oder Antwortschemas werden angezeigt.

Schritt 1: Namen eingeben und Einstellungen festlegen

Geben Sie in diesem Schritt einen Namen für die Aktivität an und legen Sie den Eingabeaufforderungstext und optionale Einstellungen fest. Jedes Benutzeroberflächenelement dieses Schritts wird nachfolgend beschrieben.

• Endpunkt-Menü: Wenn Sie mehrere Endpunkte desselben Connector-Typs konfiguriert haben, wird oben auf dem Bildschirm ein Menü mit dem aktuellen Endpunktnamen angezeigt. Klicken Sie auf das Menü, um zu einem anderen Endpunkt zu wechseln. Weitere Informationen finden Sie unter Zugewiesenen Endpunkt ändern in Konfigurationsbildschirme.

• Endpunkt bearbeiten: Wird angezeigt, wenn Sie den Mauszeiger über den aktuellen Endpunktnamen bewegen. Klicken Sie, um die Verbindungskonfiguration des aktuell ausgewählten Endpunkts zu bearbeiten.

• Name: Geben Sie einen Namen ein, um die Aktivität zu identifizieren. Der Name muss für jede Azure OpenAI Prompt-Aktivität eindeutig sein und darf keine Schrägstriche (/) oder Doppelpunkte (:) enthalten.

• Prompt-Text: Geben Sie den Prompt für die Vervollständigung ein.

• Modell-ID: Wählen Sie das zu verwendende Modell aus. Die Bereitstellungen Ihrer Azure OpenAI-Instanz füllen die Modellliste auf. Klicken Sie auf Aktualisieren, um die Liste zu aktualisieren, wenn Sie neue Modelle bereitgestellt haben, seit Sie diese Konfiguration geöffnet haben. Modelle müssen zunächst in Azure bereitgestellt werden, um als Optionen angezeigt zu werden. Informationen zur Bereitstellung von Modellen finden Sie in der Microsoft-Dokumentation.

• Aktualisieren: Klicken Sie auf Aktualisieren, um die Modell-ID auf den zuvor gespeicherten Wert zurückzusetzen.

• Optionale Einstellungen: Klicken Sie, um zusätzliche optionale Einstellungen zu erweitern:

  • Rolle: Wählen Sie den Typ des Prompts aus, der an Azure OpenAI gesendet werden soll:

    • Assistent: Wählen Sie diese Rolle aus, wenn ein zuvor erstellter Assistent Azure OpenAI auffordert. Wählen Sie diese Rolle nicht ohne einen Assistenten aus, der die Anfrage stellt, da dies zu Fehlern führen kann.

    • System: (Standard) Wählen Sie diese Rolle für automatisierte Prompts aus.

    • Tool: Wählen Sie diese Rolle aus, wenn ein zuvor erstellter Assistent Azure OpenAI auffordert, ein Tool zu verwenden, das bei der Aktivität „Tools registrieren" registriert ist. Wählen Sie diese Rolle nicht ohne einen Assistenten aus, der die Anfrage stellt, oder ohne registrierte Tools, da dies zu Fehlern führen kann.

      Mehrere gleichzeitige Tool-Aufrufe

      Wenn Azure OpenAI eine einzelne Assistentennachricht mit mehreren Tool-Aufrufen zurückgibt (z. B. wenn mehrere MCP-Tools parallel aufgerufen werden), verwenden Sie eine Prompt-Aktivitätsinstanz (konfiguriert mit der Rolle Tool), um alle entsprechenden Tool-Antworten zurückzugeben, anstatt für jeden Tool-Aufruf eine separate Aktivitätsinstanz zu erstellen. Ordnen Sie die Transformation, die die Aktivität speist, so zu, dass sie eine Zeile pro Tool-Aufruf ausgibt, wobei der Inhalt jeder Zeile die Antwort dieses Tool-Aufrufs enthält. Wenn die Aktivität ausgeführt wird, sendet sie die frühere Assistentennachricht einmal, gefolgt von jeder Zeilen-Tool-Antwort in der Reihenfolge, die ihrer tool_call_id entspricht, und verwendet dabei die gleiche chatId wie der Rest der Konversation.

    • Benutzer: Diese Rolle simuliert einen direkten Benutzer-Prompt an die KI, als würde man in einem Chat-Fenster schreiben. Wählen Sie diese Rolle beim Erstellen eines Assistenten aus und geben Sie Anweisungen im Feld Prompt-Text ein.

  • Temperatur: Geben Sie die Sampling-Temperatur ein. Der Wert muss eine Dezimalzahl zwischen 0 und 2 sein. Es wird nicht empfohlen, diese Einstellung mit Top-Wahrscheinlichkeit zu verwenden.

  • Max. Tokens: Geben Sie die maximale Anzahl von Tokens ein, die für die Vervollständigung generiert werden sollen. Der Standardwert ist 16.

  • Top-Wahrscheinlichkeit: Geben Sie die Top-Wahrscheinlichkeit ein. Es wird nicht empfohlen, diese Einstellung mit Temperatur zu verwenden.

  • Index auswählen: Wählen Sie aus, um mit einem Microsoft Azure AI Search Index zu interagieren.

    Hinweis

    Sie müssen die optionale Einstellung Datenquelle hinzufügen in der Verbindung auswählen und konfigurieren. Andernfalls tritt ein Fehler auf, wenn Sie diese Option auswählen.

    Wenn diese Option ausgewählt ist, werden diese zusätzlichen Felder angezeigt:

    • Azure AI Search Index auswählen: Wählen Sie einen Index aus Ihrem Azure AI Search-Dienst aus. Klicken Sie auf Aktualisieren, um die Liste der Indizes aus dem Azure AI Search-Dienst zu aktualisieren.

    • Anzahl der Top-Dokumentergebnisse eingeben: Geben Sie die Anzahl der relevantesten Dokumente ein, die in den an das Modell gesendeten Kontext einbezogen werden sollen.

• Azure-Indexsuchtyp auswählen: Der Schlüsselwortsuchtyp wird unterstützt und ist standardmäßig ausgewählt.

• Bei Fehler fortfahren: Wählen Sie diese Option, um die Aktivitätsausführung fortzusetzen, wenn bei einem Datensatz in einer Batch-Anfrage ein Fehler auftritt. Alle aufgetretenen Fehler werden im Operationsprotokoll protokolliert.

• Speichern und beenden: Wenn aktiviert, klicken Sie, um die Konfiguration für diesen Schritt zu speichern und die Aktivitätskonfiguration zu schließen.

• Weiter: Klicken Sie, um die Konfiguration für diesen Schritt vorübergehend zu speichern und zum nächsten Schritt zu wechseln. Die Konfiguration wird erst gespeichert, wenn Sie auf der letzten Seite auf die Schaltfläche Fertig klicken.

• Änderungen verwerfen: Klicken Sie nach dem Vornehmen von Änderungen, um die Konfiguration zu schließen, ohne die an einem beliebigen Schritt vorgenommenen Änderungen zu speichern. Eine Meldung fordert Sie auf zu bestätigen, dass Sie die Änderungen verwerfen möchten.

Schritt 2: Datenschemas überprüfen

Alle Anfrage- oder Antwortschemas werden angezeigt. Jedes Benutzeroberflächenelement dieses Schritts wird nachfolgend beschrieben.

• Datenschemas: Diese Datenschemas werden von angrenzenden Transformationen geerbt und werden während der Transformationszuordnung erneut angezeigt.

  Hinweis

  Daten, die in einer Transformation bereitgestellt werden, haben Vorrang vor der Aktivitätskonfiguration.

  Der Azure OpenAI-Connector verwendet die Azure OpenAI Service REST API. Informationen zu den Schemaknoten und Feldern finden Sie in der API-Dokumentation.

• Aktualisieren: Klicken Sie auf das Aktualisierungssymbol oder das Wort Aktualisieren, um Schemas vom Azure OpenAI-Endpunkt neu zu generieren. Diese Aktion generiert auch ein Schema an anderen Stellen im Projekt neu, an denen auf dasselbe Schema verwiesen wird, z. B. in einer angrenzenden Transformation.

• Bearbeiten: Klicken Sie auf das Bearbeitungssymbol über jedem Datenschema, um den Editor für dieses Datenschema zu öffnen. Mit dem Editor können Sie Knoten und Felder hinzufügen, löschen und neu anordnen sowie deren Datentypen ändern. Alle neu hinzugefügten Knoten und Felder werden auf die Kardinalität [0, 1] gesetzt. Änderungen an den Datenschemas müssen für den Endpunkt akzeptabel sein und sollten nur nach Rücksprache mit der verfügbaren Dokumentation für den Endpunkt vorgenommen werden. Nach dem Bearbeiten von Schemas wird oben im entsprechenden Schema ein Datum der letzten Bearbeitung angezeigt, um anzuzeigen, dass das Schema manuell bearbeitet wurde. Das Aktualisieren der Schemas setzt die Schemas auf ihre Standardstrukturen zurück.

• Zurück: Klicken Sie, um die Konfiguration für diesen Schritt vorübergehend zu speichern und zum vorherigen Schritt zurückzukehren.

• Fertig: Klicken Sie, um die Konfiguration für alle Schritte zu speichern und die Aktivitätskonfiguration zu schließen.

• Änderungen verwerfen: Klicken Sie nach dem Vornehmen von Änderungen, um die Konfiguration zu schließen, ohne die an einem beliebigen Schritt vorgenommenen Änderungen zu speichern. Eine Meldung fordert Sie auf zu bestätigen, dass Sie die Änderungen verwerfen möchten.

Nächste Schritte

Nach der Konfiguration einer Azure OpenAI-Aktivität vom Typ Prompt schließen Sie die Konfiguration des Vorgangs ab, indem Sie weitere Aktivitäten oder Tools als Vorgangsschritte hinzufügen und konfigurieren. Sie können auch die Vorgangseinstellungen konfigurieren, die die Möglichkeit bieten, Vorgänge zu verketten, die sich in denselben oder verschiedenen Workflows befinden.

Menüaktionen für eine Aktivität sind über den Projektbereich und die Designoberfläche zugänglich. Weitere Informationen finden Sie unter Aktionsmenü für Aktivitäten in Connector-Grundlagen.

Azure OpenAI-Aktivitäten vom Typ Prompt können als Ziel mit diesen Operationsmustern verwendet werden:

• Transformationsmuster
• Zwei-Transformations-Muster (als erstes oder zweites Ziel)

Um die Aktivität mit Scripting-Funktionen zu verwenden, schreiben Sie die Daten an einen temporären Speicherort und verwenden Sie diesen temporären Speicherort dann in der Scripting-Funktion.

Wenn alles bereit ist, stellen Sie die Operation bereit und führen Sie sie aus und validieren Sie das Verhalten durch Überprüfung der Operationsprotokolle.