Zum Inhalt springen

Ollama Register Tools Aktivität in Jitterbit Studio

Einführung

Eine Ollama Register Tools Aktivität registriert mithilfe ihrer Ollama-Verbindung Tools bei dem angegebenen Ollama-Modell und dient als Quelle zur Bereitstellung von Daten in einem Vorgang. Tool-Definitionen können aus der List Tools Aktivität des MCP Client Connectors stammen oder direkt über die Request-Transformation als benutzerdefinierte Tool-Definitionen bereitgestellt werden.

Wenn der Vorgang ausgeführt wird, speichert Jitterbit die registrierten Tool-Definitionen im Arbeitsspeicher des privaten Agenten, verknüpft mit der Chat-ID. Jeder nachfolgende Vorgang, der mit derselben Chat-ID verkettet ist, hat automatisch Zugriff auf diese Tools, wenn er das Modell aufruft. Die Tool-Definitionen müssen nicht explizit an den nachfolgenden Prompt Vorgang übergeben werden. Falls ein Tool mit demselben Namen bereits für die Chat-ID registriert ist, ersetzt die neue Definition die vorherige. Die gespeicherten Tools und der Gesprächsverlauf werden gelöscht, wenn der Agent neu startet.

Wichtig

Um die Register Tools Aktivität zu nutzen, muss ein privater Agent verwendet werden.

Erstelle eine Ollama Register Tools Aktivität

Eine Instanz einer Ollama Register Tools Aktivität wird aus einer Ollama-Verbindung mit ihrem Aktivitätstyp Register Tools erstellt.

Um eine Aktivitätsinstanz zu erstellen, ziehst du den Aktivitätstyp auf die Entwurfsfläche oder kopierst den Aktivitätstyp und fügst ihn auf der Entwurfsfläche ein. Weitere Details findest du unter Erstellen einer Aktivitätsinstanz in Komponentenwiederverwendung.

Eine vorhandene Ollama Register Tools Aktivität kann an folgenden Stellen bearbeitet werden:

Konfiguriere eine Ollama Register Tools Aktivität

Befolge diese Schritte, um eine Ollama Register Tools Aktivität zu konfigurieren:

Schritt 1: Namen eingeben und Einstellungen festlegen

In diesem Schritt gibst du einen Namen für die Aktivität ein, wählst ein Modell aus und legst einen Prompt und optionale Einstellungen fest. Jedes Benutzeroberflächenelement dieses Schritts wird nachfolgend beschrieben.

Tipp

Felder mit einem Variablensymbol unterstützen die Verwendung von globalen Variablen, Projektvariablen und Jitterbit-Variablen. Beginne entweder damit, eine öffnende eckige Klammer [ in das Feld einzugeben, oder klicke auf das Variablensymbol, um ein Menü mit verfügbaren Variablen anzuzeigen.

  • Endpoint-Menü: Falls mehrere Endpoints desselben Connector-Typs konfiguriert sind, zeigt ein Menü oben auf der Seite den Namen des aktuellen Endpoints an. Klicke auf das Menü, um zu einem anderen Endpoint zu wechseln. Weitere Informationen findest du unter Assigned Endpoint wechseln in Konfigurationsbildschirme.

    • Endpoint bearbeiten: Erscheint, wenn du über den Namen des aktuellen Endpoints fährst. Klicke, um die Verbindungskonfiguration des aktuell ausgewählten Endpoints zu bearbeiten.

  • Name: Geben Sie einen Namen ein, um die Aktivität zu identifizieren. Der Name muss für jede Ollama Register Tools-Aktivität eindeutig sein und darf keine Schrägstriche / oder Doppelpunkte : enthalten.

  • Chat ID: Geben Sie eine Chat-ID ein, um den Kontext aus einer vorherigen Konversation abzurufen. Falls leer und nicht in der Request-Transformation angegeben, wird eine neue Chat-ID generiert und in der Aktivitätsantwort bereitgestellt.

  • Option wählen: Geben Sie die Modellauswahlmethode an, entweder Alle Modelle auflisten oder Modellkennung eingeben.

  • Alle Modelle auflisten: Wählen Sie diese Option, um aus einer Liste von Modellen zu wählen, die vom Ollama-Endpunkt abgerufen werden:

    • Modell auswählen: Dieser Bereich zeigt Modelle an, die im Ollama-Endpunkt verfügbar sind. Es werden nur Modelle aufgelistet, die Tool-Aufrufe unterstützen. DeepSeek-Modelle sind ausgeschlossen.

      • Ausgewähltes Modell: Nach der Auswahl eines Modells wird es hier angezeigt.

      • Suche: Geben Sie den Wert einer beliebigen Spalte in das Suchfeld ein, um die Modellliste zu filtern. Die Suche berücksichtigt die Groß-/Kleinschreibung nicht. Wenn Modelle bereits in der Tabelle angezeigt werden, werden die Tabellergebnisse mit jedem Tastendruck in Echtzeit gefiltert. Um Modelle vom Endpunkt neu zu laden, geben Sie Suchkriterien ein und aktualisieren dann wie unten beschrieben.

      • Aktualisieren: Klicken Sie auf das Aktualisierungssymbol oder das Wort Aktualisieren, um Modelle vom Ollama-Endpunkt neu zu laden. Dies kann nützlich sein, wenn Modelle auf einen selbstgehosteten Ollama-Server gezogen wurden. Diese Aktion aktualisiert alle Metadaten, die zum Erstellen der angezeigten Modelltabelle in der Konfiguration verwendet werden.

      • Modell auswählen: Klicken Sie in der Tabelle auf eine beliebige Stelle in einer Zeile, um ein Modell auszuwählen. Es kann nur ein Modell ausgewählt werden. Die verfügbaren Informationen für jedes Modell werden vom Ollama-Endpunkt abgerufen:

        • Anzeigename: Der Name des Modells.

        • ID: Die ID des Modells, das in API-Anfragen verwendet wird, einschließlich seines Tags (z. B. llama3.2:latest).

        • Geändert: Das Datum und die Uhrzeit der letzten Änderung des Modells.

      Tipp

      Wenn die Tabelle nicht mit verfügbaren Modellen gefüllt wird, ist die Ollama-Verbindung möglicherweise nicht erfolgreich. Stellen Sie sicher, dass Sie verbunden sind, indem Sie die Verbindung erneut öffnen und die Anmeldedaten erneut testen. Bestätigen Sie für einen selbstgehosteten Ollama-Server auch, dass mindestens ein Modell auf den Server gezogen wurde.

      Alternativ kann das Modell im Feld Modell-ID angegeben oder in der Request-Transformation bereitgestellt werden. Wenn ein Modell an mehreren Stellen angegeben ist, wird folgende Prioritätsreihenfolge befolgt:

      1. Ein in der Request-Transformation bereitgestelltes Modell setzt alle Felder darunter außer Kraft.
      2. Ein im Feld Modell-ID angegebenes Modell setzt das verbleibende Feld darunter außer Kraft, auch wenn Alle Modelle auflisten ausgewählt ist.
      3. Ein in der Liste Modell auswählen ausgewähltes Modell hat die niedrigste Priorität.

  • Modellkennung eingeben: Wählen Sie diese Option, um die ID eines Modells manuell einzugeben:

    • Modell-ID: Geben Sie die Modell-ID ein (z. B. llama3.2). Verwenden Sie für Ollama Cloud einen Modellnamen aus der Liste Ollama-Cloud-Modelle. Für einen selbstgehosteten Server muss das Modell bereits auf den Server gezogen worden sein.

  • Prompt: Geben Sie optional einen Prompt ein, der nach der Registrierung der Tools an das Modell gesendet werden soll. Wenn ein Prompt angegeben wird, kann das Modell mit Tool-Aufrufen antworten, die im Feld toolCalls der Aktivitätsantwort zurückgegeben werden.

  • Optionale Einstellungen: Klicken Sie, um zusätzliche optionale Einstellungen zu erweitern:

    • Denken aktivieren (Reasoning-Modelle): Wählen Sie diese Option, um Denken zu aktivieren, das einem Reasoning-Modell ermöglicht, ein Problem durchzudenken, bevor es eine Antwort generiert. Das Denken des Modells wird im Feld thinking der Antwort zurückgegeben. Diese Option ist standardmäßig deaktiviert. Wenn diese Option nicht aktiviert ist, wird das Denken ausgeschaltet, auch für Modelle, die standardmäßig denken.

      Hinweis

      Das Denken wird nur von Reasoning-Modellen unterstützt. In der Ollama-Thinking-Dokumentation können Sie überprüfen, ob das ausgewählte Modell das Denken unterstützt.

  • Modell geladen halten: Wählen aus, wie lange das Modell nach Abschluss der Anfrage im Speicher geladen bleibt (siehe How do I keep a model loaded in memory or make it unload immediately?). Wenn das Modell geladen bleibt, entfällt die Ladezeit bei nachfolgenden Anfragen, es wird aber weiterhin Speicher auf dem Ollama-Server verwendet:

    -   **5 Minuten:** (Standard.) Hält das Modell 5 Minuten lang geladen.
-   **30 Minuten:** Hält das Modell 30 Minuten lang geladen.
-   **1 Stunde:** Hält das Modell 1 Stunde lang geladen.
-   **Unbegrenzt geladen halten:** Hält das Modell geladen, bis der Ollama-Server neu gestartet oder das Modell entladen wird.
-   **Nach jedem Aufruf entladen:** Entlädt das Modell sofort nach der Rückgabe der Antwort.

    • Zufälligkeit und Vielfalt:

      • Temperatur: Geben Sie einen Temperaturparameter ein. Höhere Werte erzeugen abwechslungsreichere Antworten, niedrigere Werte erzeugen deterministischere Antworten. Der Wert dieses Parameters kann zwischen 0 und 2 liegen, z. B.: 0,8.
      • Top P: Geben Sie einen Top-P-Parameter für Nucleus Sampling ein, das die Token-Auswahl auf die kleinste Menge von Tokens beschränkt, deren kumulative Wahrscheinlichkeit diesen Wert erreicht. Der Wert dieses Parameters kann zwischen 0 und 1 liegen, z. B.: 0,9.
      • Top K: Geben Sie einen Top-K-Parameter ein, der die Token-Auswahl auf die angegebene Anzahl von Tokens mit der höchsten Wahrscheinlichkeit beschränkt, z. B.: 40.
      • Seed: Geben Sie einen Seed-Parameter ein. Mit dem gleichen Seed-Wert und dem gleichen Prompt wird die gleiche Ausgabe erzeugt. Lassen Sie dieses Feld leer, um eine nicht-deterministische Ausgabe zu erhalten.

      Wenn ein Feld in dieser Gruppe leer ist, wird der Standardwert des Modells verwendet.

    • Kontext und Länge:

      • Kontextfenster: Geben Sie die Größe des Kontextfensters in Tokens ein, das die kombinierte Länge der Eingabeaufforderung, des Gesprächsverlaufs und der generierten Ausgabe begrenzt. Der Standard ist 4096. Der Maximalwert hängt vom ausgewählten Modell und dem verfügbaren Speicher auf dem Ollama-Server ab (siehe How can I specify the context window size?).
      • Max. Ausgabe-Tokens: Geben Sie die maximale Anzahl von Tokens ein, die in der Antwort generiert werden sollen. Der Standard ist 2000. Geben Sie -1 ein, um ohne Limit zu generieren.

    • Bei Fehler fortfahren: Aktivieren Sie diese Option, um eine Antwort mit Fehlerdetails zurückzugeben, anstatt die Aktivität fehlschlagen zu lassen, wenn ein Fehler auftritt. Der Fehler wird in das Operationsprotokoll geschrieben und im Array errors der Aktivitätsantwort zurückgegeben.

  • Speichern und beenden: Falls aktiviert, klicken Sie, um die Konfiguration für diesen Schritt zu speichern und die Aktivitätskonfiguration zu schließen.

  • Weiter: Klicken Sie, um die Konfiguration für diesen Schritt vorübergehend zu speichern und zum nächsten Schritt zu wechseln. Die Konfiguration wird erst gespeichert, wenn Sie auf der letzten Seite auf die Schaltfläche Fertig klicken.

  • Änderungen verwerfen: Nachdem Sie Änderungen vorgenommen haben, klicken Sie hier, um die Konfiguration zu schließen, ohne die an einem beliebigen Schritt vorgenommenen Änderungen zu speichern. Eine Nachricht fordert Sie auf zu bestätigen, dass Sie die Änderungen verwerfen möchten.

Schritt 2: Datenmodelle überprüfen

Alle Anfrage- oder Antwortmodelle werden angezeigt. Jedes Oberflächenelement dieses Schritts wird nachfolgend beschrieben.

  • Datenmodell: Diese Datenmodelle werden von angrenzenden Transformationen geerbt und werden während der Datenzuordnung erneut angezeigt.

    Hinweis

    Daten, die in einer Transformation bereitgestellt werden, haben Vorrang vor der Aktivitätskonfiguration.

    Im Anfrageschema definiert jedes Element im Array tools ein Tool mit einem name, einer description und einem Array arguments. Jedes Argument verfügt über ein name, einen type, eine description und ein Flag isRequired. Die Felder name und description sind sowohl für ein Tool als auch für seine Argumente erforderlich.

Der Ollama-Connector nutzt die Ollama-API. Weitere Informationen zu den Schemata und Feldern finden Sie in der Dokumentation zum Chat-Endpoint.

  • Aktualisieren: Klicken Sie auf das Aktualisierungssymbol oder auf das Wort Aktualisieren, um Schemas vom Ollama-Endpoint neu zu generieren. Diese Aktion generiert auch ein Schema an anderen Stellen im Projekt neu, an denen dasselbe Schema referenziert wird, z. B. in einer benachbarten Transformation.

  • Zurück: Klicken Sie, um die Konfiguration für diesen Schritt vorübergehend zu speichern und zum vorherigen Schritt zurückzukehren.

  • Fertig: Klicken Sie, um die Konfiguration für alle Schritte zu speichern und die Aktivitätskonfiguration zu schließen.

  • Änderungen verwerfen: Klicken Sie nach Änderungen, um die Konfiguration zu schließen, ohne Änderungen an einem Schritt zu speichern. Eine Meldung fordert Sie auf zu bestätigen, dass Sie die Änderungen verwerfen möchten.

Nächste Schritte

Nach der Konfiguration einer Ollama-Aktivität Tools registrieren schließen Sie die Konfiguration des Vorgangs ab, indem Sie weitere Aktivitäten, Transformationen oder Skripte als Vorgangsschritte hinzufügen und konfigurieren. Sie können auch die Vorganseinstellungen konfigurieren, einschließlich der Möglichkeit, Vorgänge zu verketten, die sich in denselben oder unterschiedlichen Workflows befinden.

Um einen Tool-Calling-Workflow abzuschließen, verketten Sie einen Prompt-Vorgang zur Ausführung nach diesem. Da Jitterbit die Tool-Definitionen im Speicher des Private Agent speichert, erhält der Prompt-Vorgang diese automatisch ohne zusätzliche Zuordnung. Um den Prompt-Vorgang mit diesem Gespräch zu verknüpfen, konfigurieren Sie ihn mit derselben Chat-ID, oder erfassen Sie die chatId aus der Antwort Tools registrieren und übergeben Sie sie an die Prompt-Aktivität in der Request-Transformation.

Menüaktionen für eine Aktivität sind über den Projektbereich und die Design-Canvas zugänglich. Weitere Informationen finden Sie unter Menü Aktivitätsaktionen in Connector-Grundlagen.

Ollama-Aktivitäten Tools registrieren können als Quelle mit diesen Vorgangsmustern verwendet werden:

Um die Aktivität mit Skriptfunktionen zu verwenden, schreiben Sie die Daten an einen temporären Speicherort und verwenden dann diesen temporären Speicherort in der Skriptfunktion.

Wenn bereit, stellen Sie den Vorgang bereit und führen Sie ihn aus, und überprüfen Sie das Verhalten, indem Sie die Vorgangsprotokolle aufrufen.