Zum Inhalt springen

Ollama-Verbindung in Jitterbit Studio

Einführung

Eine Ollama-Verbindung, die mit dem Ollama-Connector erstellt wird, stellt den Zugriff auf Ollama entweder über Ollama Cloud oder über einen selbst gehosteten Ollama-Server her. Nach der Konfiguration einer Verbindung können Sie Instanzen von Ollama-Aktivitäten erstellen, die dieser Verbindung zugeordnet sind und entweder als Quellen (um Daten in einem Vorgang bereitzustellen) oder als Ziele (um Daten in einem Vorgang zu verarbeiten) verwendet werden.

Ollama-Verbindung erstellen oder bearbeiten

Eine neue Ollama-Verbindung wird mit dem Ollama-Connector von einem dieser Orte aus erstellt:

Eine vorhandene Ollama-Verbindung kann von diesen Orten aus bearbeitet werden:

Ollama-Verbindung konfigurieren

Nachfolgend wird jedes Element der Benutzeroberfläche des Ollama-Verbindungskonfigurationsbildschirms beschrieben.

Tipp

Felder mit einem -Variablensymbol unterstützen die Verwendung von globalen Variablen, Projektvariablen und Jitterbit-Variablen. Beginnen Sie, indem Sie eine öffnende eckige Klammer [ in das Feld eingeben oder auf das -Variablensymbol klicken, um eine Liste der vorhandenen Variablen zur Auswahl anzuzeigen.

  • Connection name: Geben Sie einen Namen ein, um die Verbindung zu identifizieren. Der Name muss für jede Ollama-Verbindung eindeutig sein und darf keine Schrägstriche / oder Doppelpunkte : enthalten. Dieser Name wird auch verwendet, um den Ollama-Endpunkt zu identifizieren, der sich auf eine spezifische Verbindung und ihre Aktivitäten bezieht.

  • Connection type: Wählen Sie den Typ der Ollama-Bereitstellung aus, mit der eine Verbindung hergestellt werden soll, entweder Ollama Cloud oder Self-Hosted:

    • Ollama Cloud: (Standard.) Wählen Sie diese Option, um eine Verbindung zu Modellen herzustellen, die von Ollama unter https://ollama.com gehostet werden. Wenn diese Option ausgewählt ist, ist dieses Feld sichtbar:

    • Self-Hosted: Wählen Sie diese Option, um eine Verbindung zu einem Ollama-Server herzustellen, den Sie installieren und ausführen. Wenn diese Option ausgewählt ist, ist dieses Feld sichtbar:

      • Base URL: Geben Sie die Basis-URL des Ollama-Servers ein, einschließlich des Protokolls und des Ports. Der Standard ist http://localhost:11434, was nur funktioniert, wenn der private Agent auf dem gleichen Host wie der Ollama-Server ausgeführt wird. Nehmen Sie keinen API-Pfad wie /api in die URL auf.

  • Optional settings: Klicken Sie, um zusätzliche optionale Einstellungen zu erweitern:

    • API key: Geben Sie ein Bearer-Token ein, das mit jeder Anforderung gesendet werden soll. Dieses Feld ist nur sichtbar, wenn Self-Hosted ausgewählt ist. Die lokale Ollama-API erfordert keine Authentifizierung, daher ist dieses Feld nur erforderlich, wenn sich der Ollama-Server hinter einem Reverse Proxy befindet, der ein Bearer-Token erfordert.

    • Timeout: Geben Sie die maximale Zeit in Millisekunden ein, die auf die Herstellung einer Verbindung und den Empfang einer Antwort gewartet werden soll. Der Standard ist 60000 (60 Sekunden) und das Minimum ist 120. Erhöhen Sie diesen Wert für große Modelle oder lange Antworten, besonders auf selbst gehosteten Servern, wo ein Modell möglicherweise in den Speicher geladen werden muss, bevor es antwortet.

  • Proxy-Einstellungen verwenden (nur Private Agent): Bei Verwendung eines Private Agent kann diese Einstellung ausgewählt werden, um Private-Agent-Proxy-Einstellungen zu nutzen.

  • Test: Klicken Sie, um die Verbindung mit der angegebenen Konfiguration zu überprüfen. Der Test bestätigt, dass die URL auf einen Ollama-Server verweist und dass ein bereitgestellter API-Schlüssel akzeptiert wird. Wenn die Verbindung getestet wird, lädt der Agent bzw. die Agents in der dem aktuellen Environment zugeordneten Agent-Gruppe die neueste Version des Connectors herunter. Dieser Connector unterstützt das Aussetzen des Downloads der neuesten Connector-Version mithilfe der Organisationsrichtlinie Auto Connector Update deaktivieren.

  • Speichern: Klicken Sie, um die Verbindungskonfiguration zu speichern und zu schließen.

  • Änderungen verwerfen: Nachdem Sie Änderungen an einer neuen oder vorhandenen Konfiguration vorgenommen haben, klicken Sie, um die Konfiguration zu schließen, ohne zu speichern. Eine Meldung fordert Sie auf, zu bestätigen, dass Sie die Änderungen verwerfen möchten.

  • Löschen: Nachdem Sie eine vorhandene Verbindungskonfiguration geöffnet haben, klicken Sie, um die Verbindung dauerhaft aus dem Projekt zu löschen und die Konfiguration zu schließen (siehe Komponentenabhängigkeiten, Löschung und Entfernung). Eine Meldung fordert Sie auf, zu bestätigen, dass Sie die Verbindung löschen möchten.

Nächste Schritte

Nachdem eine Ollama-Verbindung erstellt wurde, platzieren Sie einen Aktivitätstyp auf der Design-Canvas, um Aktivitätsinstanzen zu erstellen, die entweder als Quellen (zur Bereitstellung von Daten in einer Operation) oder als Ziele (zur Verarbeitung von Daten in einer Operation) verwendet werden.

Menüaktionen für eine Verbindung und ihre Aktivitätstypen sind über den Projektbereich und die Design-Component-Palette erreichbar. Weitere Informationen finden Sie unter Menüaktionen in Connector-Grundlagen.

Diese Aktivitätstypen sind verfügbar:

  • Tools registrieren: Registriert Tools bei dem angegebenen Ollama-Modell und ist als Quelle in einer Operation gedacht.

  • Prompt: Sendet einen Prompt an das angegebene Ollama-Modell und ist als Ziel in einer Operation gedacht.