Azure OpenAI Prompt-Aktivität

Einführung

Eine Azure OpenAI Prompt-Aktivität, die ihre Azure OpenAI-Verbindung verwendet, erstellt eine Textvervollständigung für den bereitgestellten Prompt in Azure OpenAI und ist als Ziel gedacht, um Daten in einem Vorgang zu konsumieren.

Erstellen einer Azure OpenAI Prompt-Aktivität

Eine Instanz einer Azure OpenAI Prompt-Aktivität wird aus einer Azure OpenAI-Verbindung unter Verwendung des Prompt-Aktivitätstyps erstellt.

Um eine Instanz einer Aktivität zu erstellen, ziehen Sie den Aktivitätstyp auf die Entwurfsfläche oder kopieren Sie den Aktivitätstyp und fügen Sie ihn auf der Entwurfsfläche ein. Weitere Einzelheiten finden Sie unter Erstellen einer Aktivitäts- oder Toolinstanz in Komponentenwiederverwendung.

Ein vorhandenes Azure OpenAI Prompt-Aktivität kann von diesen Orten aus bearbeitet werden:

• Der Entwurfscanvas (siehe Komponentenaktionsmenü im Entwurfscanvas).
• Der Komponenten-Tab im Projektbereich (siehe Komponentenaktionsmenü im Projektbereich Komponenten-Tab).

Konfigurieren einer Azure OpenAI Prompt-Aktivität

Befolgen Sie diese Schritte, um eine Azure OpenAI Prompt-Aktivität zu konfigurieren:

• Schritt 1: Geben Sie einen Namen ein und spezifizieren Sie die Einstellungen
  Geben Sie einen Namen für die Aktivität ein und spezifizieren Sie den Prompt-Text sowie optionale Einstellungen.

• Schritt 2: Überprüfen Sie die Datenschemas
  Alle Anfrage- oder Antwortschemas werden angezeigt.

Schritt 1: Geben Sie einen Namen ein und spezifizieren Sie die Einstellungen

In diesem Schritt geben Sie einen Namen für die Aktivität ein und spezifizieren den Prompt-Text sowie optionale Einstellungen. Jedes Benutzeroberflächenelement dieses Schrittes wird im Folgenden beschrieben.

• Endpoint-Menü: Wenn Sie mehrere Endpunkte des gleichen Verbindungstyps konfiguriert haben, wird ein Menü oben auf dem Bildschirm angezeigt, das den aktuellen Endpunktnamen anzeigt. Klicken Sie auf das Menü, um zu einem anderen Endpunkt zu wechseln. Weitere Informationen finden Sie unter Ändern des zugewiesenen Endpunkts in Konfigurationsbildschirmen.

  • Endpunkt bearbeiten: Erscheint, wenn Sie über den aktuellen Endpunktnamen fahren. Klicken Sie, um die Verbindungsconfiguration des aktuell ausgewählten Endpunkts zu bearbeiten.

• Name: Geben Sie einen Namen ein, um die Aktivität zu identifizieren. Der Name muss für jede Azure OpenAI Prompt-Aktivität einzigartig sein und darf keine Schrägstriche (/) oder Doppelpunkte (:) enthalten.

• Prompt-Text: Geben Sie den Prompt für die Vervollständigung ein.

• Modell-ID: Wählen Sie das Modell aus, das verwendet werden soll. Ihre Azure OpenAI-Instanzbereitstellungen füllen die Modellliste aus. Klicken Sie auf Aktualisieren, um die Liste zu aktualisieren, wenn Sie seit dem Öffnen dieser Konfiguration neue Modelle bereitgestellt haben. Modelle müssen zuerst in Azure bereitgestellt werden, um als Optionen angezeigt zu werden. Informationen zur Bereitstellung von Modellen finden Sie in der Dokumentation von Microsoft.

• Aktualisieren: Klicken Sie auf Aktualisieren, um die Modell-ID auf den zuvor gespeicherten Wert zurückzusetzen.

• Optionale Einstellungen: Klicken Sie, um zusätzliche optionale Einstellungen zu erweitern:

  • Rolle: Wählen Sie den Typ der Eingabeaufforderung aus, die an Azure OpenAI gesendet werden soll:

    • Assistent: Wählen Sie diese Rolle, wenn ein zuvor erstellter Chatbot-Assistent Azure OpenAI auffordern wird. Wählen Sie diese Rolle nicht ohne einen Assistenten, der die Anfrage stellt, da dies zu Fehlern führen kann.

    • System: (Standard) Wählen Sie diese Rolle für automatisierte Eingabeaufforderungen.

    • Werkzeug: Wählen Sie diese Rolle, wenn ein zuvor erstellter Chatbot-Assistent Azure OpenAI auffordern wird, ein mit der Register Tools-Aktivität registriertes Werkzeug zu verwenden. Wählen Sie diese Rolle nicht ohne einen Assistenten, der die Anfrage stellt, oder ohne registrierte Werkzeuge, da dies zu Fehlern führen kann.

    • Benutzer: Diese Rolle simuliert eine direkte Benutzeraufforderung an die KI, als ob sie in einem Chatfenster wäre. Wählen Sie diese Rolle, wenn Sie einen Chatbot-Assistenten erstellen und Anweisungen im Feld Eingabetext bereitstellen.

  • Temperatur: Geben Sie die Abtast- Temperatur ein. Der Wert muss eine Dezimalzahl zwischen 0 und 2 sein. Es wird nicht empfohlen, diese Einstellung mit Top Probability zu verwenden.

  • Max Tokens: Geben Sie die maximale Anzahl von Tokens ein, die für die Vervollständigung generiert werden sollen. Der Standardwert beträgt 16.

  • Top Probability: Geben Sie die Top Probability ein. Es wird nicht empfohlen, diese Einstellung mit Temperatur zu verwenden.

  • Wählen Sie einen Index: Wählen Sie aus, um mit einem Microsoft Azure AI Search Index zu interagieren.

    Hinweis

    Sie müssen die optionale Einstellung Datenquelle hinzufügen im Verbindung auswählen und konfigurieren. Andernfalls tritt ein Fehler auf, wenn Sie diese Option auswählen.

    Wenn ausgewählt, erscheinen diese zusätzlichen Felder:

    • Wählen Sie den Azure AI Search Index: Wählen Sie einen Index aus Ihrem Azure AI-Suchdienst aus. Klicken Sie auf Aktualisieren, um die Liste der Indizes aus dem Azure AI-Suchdienst zu aktualisieren.

    • Geben Sie die Anzahl der besten Dokumentenergebnisse ein: Geben Sie die Anzahl der relevantesten Dokumente ein, die im Kontext an das Modell gesendet werden sollen.

    • Wählen Sie den Suchtyp für den Azure-Index: Der Suchtyp "Schlüsselwort" wird unterstützt und ist standardmäßig ausgewählt.

• Bei Fehlern fortfahren: Wählen Sie aus, um die Ausführung der Aktivität fortzusetzen, wenn ein Fehler für einen Datensatz in einer Batch-Anfrage auftritt. Wenn Fehler auftreten, werden diese im Betriebsprotokoll aufgezeichnet.

• Speichern & Beenden: Wenn aktiviert, klicken Sie, um die Konfiguration für diesen Schritt zu speichern und die Aktivitätskonfiguration zu schließen.

• Weiter: Klicken Sie, um die Konfiguration für diesen Schritt vorübergehend zu speichern und zum nächsten Schritt fortzufahren. Die Konfiguration wird nicht gespeichert, bis Sie die Schaltfläche Fertig im letzten Schritt klicken.

• Änderungen verwerfen: Nach Änderungen klicken Sie, um die Konfiguration zu schließen, ohne die vorgenommenen Änderungen zu speichern. Eine Nachricht fragt Sie, ob Sie die Änderungen wirklich verwerfen möchten.

Schritt 2: Überprüfen der Datenschemas

Alle Anfrage- oder Antwortschemas werden angezeigt. Jedes Benutzeroberflächenelement dieses Schrittes wird im Folgenden beschrieben.

• Datenschemas: Diese Datenschemas werden von benachbarten Transformationen geerbt und während der Transformationszuordnung erneut angezeigt.

  Hinweis

  Die in einer Transformation bereitgestellten Daten haben Vorrang vor der Aktivitätskonfiguration.

  Der Azure OpenAI-Connector verwendet die Azure OpenAI Service REST API. Weitere Informationen zu den Schema-Knoten und -Feldern finden Sie in der API-Dokumentation.

• Aktualisieren: Klicken Sie auf das Aktualisierungssymbol oder das Wort Aktualisieren, um die Schemata vom Azure OpenAI-Endpunkt neu zu generieren. Diese Aktion regeneriert auch ein Schema an anderen Stellen im Projekt, an denen dasselbe Schema referenziert wird, wie z. B. in einer benachbarten Transformation.

• Bearbeiten: Klicken Sie auf das Bearbeitungssymbol über jedem Datenschema, um den Editor für dieses Datenschema zu öffnen. Der Editor ermöglicht es Ihnen, Knoten und Felder hinzuzufügen, zu löschen und neu anzuordnen sowie deren Datentypen zu ändern. Alle neu hinzugefügten Knoten und Felder werden auf [0, 1] Kardinalität gesetzt. Änderungen an den Datenschemata müssen für den Endpunkt akzeptabel sein und sollten nur nach Konsultation der verfügbaren Dokumentation für den Endpunkt vorgenommen werden. Nach dem Bearbeiten des Schemas wird ein Datum der letzten Bearbeitung oben im entsprechenden Schema angezeigt, um anzuzeigen, dass das Schema manuelle Änderungen erfahren hat. Das Aktualisieren der Schemata setzt die Schemata auf ihre Standardstrukturen zurück.

• Zurück: Klicken Sie, um die Konfiguration für diesen Schritt vorübergehend zu speichern und zum vorherigen Schritt zurückzukehren.

• Fertig: Klicken Sie, um die Konfiguration für alle Schritte zu speichern und die Aktivitätskonfiguration zu schließen.

• Änderungen verwerfen: Nachdem Sie Änderungen vorgenommen haben, klicken Sie, um die Konfiguration zu schließen, ohne die Änderungen an einem Schritt zu speichern. Eine Nachricht fordert Sie auf, zu bestätigen, dass Sie die Änderungen verwerfen möchten.

Nächste Schritte

Nachdem Sie eine Azure OpenAI Prompt-Aktivität konfiguriert haben, vervollständigen Sie die Konfiguration der Operation, indem Sie andere Aktivitäten oder Werkzeuge als Operation Schritte hinzufügen und konfigurieren. Sie können auch die Betriebseinstellungen konfigurieren, die die Möglichkeit umfassen, Operationen zusammenzuführen, die sich in denselben oder unterschiedlichen Workflows befinden.

Menüaktionen für eine Aktivität sind im Projektbereich und auf der Entwurfsgrafik zugänglich. Für Details siehe Aktionsmenü der Aktivität in Connector-Grundlagen.

Azure OpenAI Prompt-Aktivitäten können als Ziel mit diesen Betriebsmustern verwendet werden:

• Transformationsmuster
• Zwei-Transformationsmuster (als erstes oder zweites Ziel)

Um die Aktivität mit Skriptfunktionen zu verwenden, schreiben Sie die Daten an einen temporären Speicherort und verwenden Sie dann diesen temporären Speicherort in der Skriptfunktion.

Wenn Sie bereit sind, bereitstellen und ausführen Sie den Vorgang und validieren Sie das Verhalten, indem Sie die Betriebsprotokolle überprüfen.