Saltar al contenido

Conexión de Ollama en Jitterbit Studio

Introducción

Una conexión de Ollama, creada usando el conector de Ollama, establece acceso a Ollama, ya sea a través de Ollama Cloud o a través de un servidor Ollama autohospedado. Una vez que se configura una conexión, se pueden crear instancias de actividades de Ollama asociadas a esa conexión para usarlas ya sea como orígenes (para proporcionar datos en una operación) o como destinos (para consumir datos en una operación).

Crear o editar una conexión de Ollama

Se crea una nueva conexión de Ollama usando el conector de Ollama desde una de estas ubicaciones:

Se puede editar una conexión de Ollama existente desde estas ubicaciones:

Configurar una conexión de Ollama

A continuación se describe cada elemento de la interfaz de usuario de la pantalla de configuración de la conexión de Ollama.

Consejo

Los campos con un icono de variable permiten usar variables globales, variables de proyecto y variables de Jitterbit. Comienza escribiendo un corchete de apertura [ en el campo o haz clic en el icono de variable para mostrar una lista de las variables existentes entre las que elegir.

  • Nombre de conexión: Introduce un nombre para identificar la conexión. El nombre debe ser único para cada conexión de Ollama y no debe contener barras diagonales / ni dos puntos :. Este nombre también se usa para identificar el endpoint de Ollama, que se refiere tanto a una conexión específica como a sus actividades.

  • Tipo de conexión: Selecciona el tipo de implementación de Ollama a la que conectarse, ya sea Ollama Cloud o Self-Hosted:

    • Ollama Cloud: (Predeterminado.) Selecciona esta opción para conectarte a modelos alojados por Ollama en https://ollama.com. Cuando se selecciona esta opción, este campo es visible:

    • Self-Hosted: Selecciona esta opción para conectarte a un servidor Ollama que instales y ejecutes. Cuando se selecciona esta opción, este campo es visible:

      • URL base: Introduce la URL base del servidor Ollama, incluyendo el protocolo y puerto. El valor predeterminado es http://localhost:11434, que solo funciona cuando el agente privado se ejecuta en el mismo host que el servidor Ollama. No incluyas una ruta de API como /api en la URL.

  • Configuración opcional: Haz clic para expandir configuraciones opcionales adicionales:

    • Clave de API: Introduce un token de portador para enviar con cada solicitud. Este campo solo es visible cuando se selecciona Self-Hosted. La API local de Ollama no requiere autenticación, por lo que este campo solo es necesario cuando el servidor Ollama está detrás de un proxy inverso que requiere un token de portador.

    • Tiempo de espera: Introduce el tiempo máximo en milisegundos para esperar a que se establezca una conexión y se reciba una respuesta. El valor predeterminado es 60000 (60 segundos) y el mínimo es 120. Aumenta este valor para modelos grandes o respuestas largas, particularmente en servidores autohospedados donde un modelo puede necesitar cargarse en memoria antes de responder.

  • Usar configuración de proxy (solo agente privado): Al usar un agente privado, se puede seleccionar esta opción para usar la configuración de proxy del agente privado.

  • Probar: Haz clic para verificar la conexión usando la configuración especificada. La prueba confirma que la URL apunta a un servidor Ollama y que se acepta cualquier clave de API proporcionada. Cuando se prueba la conexión, el agente o los agentes del grupo de agentes asociado al entorno actual descargan la versión más reciente del conector. Este conector admite suspender la descarga de la versión más reciente del conector mediante la política de organización Deshabilitar actualización automática del conector.

  • Guardar: Haz clic para guardar y cerrar la configuración de conexión.

  • Descartar cambios: Después de hacer cambios en una configuración nueva o existente, haz clic para cerrar la configuración sin guardar. Un mensaje te pide que confirmes que deseas descartar los cambios.

  • Eliminar: Después de abrir una configuración de conexión existente, haz clic para eliminar permanentemente la conexión del proyecto y cerrar la configuración (consulta Dependencias de componentes, eliminación y extracción). Un mensaje te pide que confirmes que deseas eliminar la conexión.

Pasos siguientes

Después de crear una conexión de Ollama, coloca un tipo de actividad en el lienzo de diseño para crear instancias de actividad que se usen como orígenes (para proporcionar datos en una operación) o como destinos (para consumir datos en una operación).

Se puede acceder a las acciones de menú de una conexión y sus tipos de actividad desde el panel del proyecto y la paleta de componentes de diseño. Para más información, consulta Menús de acciones en Conceptos básicos del conector.

Estos tipos de actividad están disponibles:

  • Registrar herramientas: Registra herramientas con el modelo Ollama especificado y está diseñada para usarse como un origen en una operación.

  • Prompt: Envía un prompt al modelo Ollama especificado y está diseñada para usarse como un destino en una operación.