Ir para o conteúdo

Conexão Ollama no Jitterbit Studio

Introdução

Uma conexão Ollama, criada usando o conector Ollama, estabelece acesso ao Ollama, seja através do Ollama Cloud ou através de um servidor Ollama auto-hospedado. Depois de configurar uma conexão, você pode criar instâncias de atividades Ollama associadas a essa conexão para usar como fontes (para fornecer dados em uma operação) ou como destinos (para consumir dados em uma operação).

Criar ou editar uma conexão Ollama

Uma nova conexão Ollama é criada usando o conector Ollama a partir de um destes locais:

Uma conexão Ollama existente pode ser editada a partir destes locais:

Configurar uma conexão Ollama

Cada elemento da interface de usuário da tela de configuração da conexão Ollama é descrito abaixo.

Dica

Os campos com um ícone de variável permitem usar variáveis globais, variáveis de projeto e variáveis Jitterbit. Comece digitando um colchete de abertura [ no campo ou clique no ícone de variável para exibir uma lista das variáveis existentes para escolher.

  • Connection name: Digite um nome para identificar a conexão. O nome deve ser único para cada conexão Ollama e não pode conter barras / ou dois-pontos :. Este nome também é usado para identificar o endpoint Ollama, que se refere tanto a uma conexão específica quanto às suas atividades.

  • Connection type: Selecione o tipo de implantação do Ollama à qual se conectar, Ollama Cloud ou Self-Hosted:

    • Ollama Cloud: (Padrão.) Selecione esta opção para conectar aos modelos hospedados pelo Ollama em https://ollama.com. Quando esta opção é selecionada, este campo fica visível:

    • Self-Hosted: Selecione esta opção para conectar a um servidor Ollama que você instala e executa. Quando esta opção é selecionada, este campo fica visível:

      • Base URL: Digite a URL base do servidor Ollama, incluindo o protocolo e a porta. O padrão é http://localhost:11434, que funciona apenas quando o agente privado é executado no mesmo host que o servidor Ollama. Não inclua um caminho de API como /api na URL.
  • Optional settings: Clique para expandir as configurações opcionais adicionais:

    • API key: Digite um token de portador para enviar com cada solicitação. Este campo fica visível apenas quando Self-Hosted é selecionado. A API Ollama local não requer autenticação, portanto este campo é necessário apenas quando o servidor Ollama está atrás de um proxy reverso que requer um token de portador.

    • Timeout: Digite o tempo máximo em milissegundos para aguardar a conexão ser estabelecida e a resposta ser recebida. O padrão é 60000 (60 segundos) e o mínimo é 120. Aumente este valor para modelos grandes ou respostas longas, particularmente em servidores auto-hospedados onde um modelo pode precisar ser carregado na memória antes de responder.

  • Usar Configurações de Proxy (Apenas Agente Privado): Ao usar um agente privado, esta configuração pode ser selecionada para usar configurações de proxy do agente privado.

  • Testar: Clique para verificar a conexão usando a configuração especificada. O teste confirma que a URL aponta para um servidor Ollama e que qualquer chave de API fornecida é aceita. Quando a conexão é testada, a versão mais recente do conector é baixada pelo(s) agente(s) no grupo de agentes associado ao ambiente atual. Este conector suporta a suspensão do download da versão mais recente do conector usando a política organizacional Desabilitar Atualização Automática do Conector.

  • Salvar: Clique para salvar e fechar a configuração da conexão.

  • Descartar alterações: Após fazer alterações em uma configuração nova ou existente, clique para fechar a configuração sem salvar. Uma mensagem pede confirmação de que você deseja descartar as alterações.

  • Excluir: Após abrir uma configuração de conexão existente, clique para excluir permanentemente a conexão do projeto e fechar a configuração (consulte Dependências de componentes, exclusão e remoção). Uma mensagem pede confirmação de que você deseja excluir a conexão.

Próximas etapas

Após criar uma conexão Ollama, coloque um tipo de atividade na tela de design para criar instâncias de atividade a serem usadas como fontes (para fornecer dados em uma operação) ou como destinos (para consumir dados em uma operação).

As ações de menu para uma conexão e seus tipos de atividade estão acessíveis no painel do projeto e na paleta de componentes de design. Para detalhes, consulte Menus de ações em Noções Básicas do Conector.

Estes tipos de atividade estão disponíveis:

  • Registrar Ferramentas: Registra ferramentas com o modelo Ollama especificado e é destinada a ser usada como uma fonte em uma operação.

  • Prompt: Envia um prompt para o modelo Ollama especificado e é destinada a ser usada como um destino em uma operação.